هل يمكن أن تصبح بطلًا عالميًا في أكل النقانق بمجرد نشر مقال على موقعك الشخصي؟ قد يبدو الأمر مضحكًا، لكنه نجح بالفعل في خداع أشهر روبوتات الذكاء الاصطناعي. في تجربة حديثة أجرتها هيئة الإذاعة البريطانية BBC، تمكن صحفي من إقناع ChatGPT وGemini بأنه بطل عالمي في تناول النقانق، وذلك عبر مقال واحد نشره على موقعه. التجربة لم تتطلب أي تقنيات معقدة أو اختراقات متقدمة، بل اعتمدت على صياغة نص يبدو موثوقًا لمحركات البحث.
كيف تعمل الخدعة؟
المشكلة ليست في ذكاء الروبوتات، بل في طريقة عملها. روبوتات الدردشة الحديثة مثل ChatGPT وGemini وميزة AI Overviews في محرك بحث جوجل تلجأ أحيانًا إلى الإنترنت للحصول على إجابات، بدلًا من الاعتماد الكامل على بياناتها الداخلية. هذا يعني أنها قد تعتمد على صفحة ويب واحدة أو منشور في مواقع التواصل الاجتماعي كمصدر موثوق. عندما يبدو المحتوى منظمًا ومقنعًا، تتعامل معه الأنظمة كحقيقة.
في التجربة، استخدم الصحفي مقالًا بسيطًا يصف نفسه بأنه “بطل عالمي في تناول النقانق”، وتمكن من خداع النماذج اللغوية الكبيرة دون عناء. التجربة شملت موضوعات حساسة تتعلق بالصحة والتمويل الشخصي، مما يثير القلق حول إمكانية تضليل المستخدمين في قرارات مصيرية.
جوجل تتحرك لكن المشكلة مستمرة
عقب تحقيق BBC، قامت جوجل بتحديث سياساتها لتؤكد أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة لقواعدها، مع إمكانية خفض ترتيب المواقع المخالفة أو حذفها بالكامل من نتائج البحث. لكن التجربة نفسها تكررت هذا الأسبوع، ونجحت في إقناع أدوات جوجل بأن أحد الأشخاص “أفضل صانع قلاع رملية في العالم”، مما يشير إلى أن أنظمة الحماية الحالية ما زالت غير كافية.
يأتي ذلك بالتزامن مع تركيز جوجل خلال مؤتمر Google I/O 2026 على تطوير تجربة البحث المدعومة بالذكاء الاصطناعي، والتي يُتوقع أن تحل تدريجيًا محل محرك البحث التقليدي. إذا كانت هذه الثغرة موجودة الآن، فكيف سيكون الوضع عندما تصبح الإجابات الآلية هي المصدر الأساسي للمستخدمين؟
خبراء: افترض أنك تتعرض للتلاعب
قالت ليلي راي، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، إن المستخدمين “يجب أن يفترضوا أنهم يتعرضون للتلاعب إلى أن تُطوَّر أنظمة حماية أفضل”. وأضافت أن روبوتات الذكاء الاصطناعي تقدم إجابة واحدة مباشرة، مما يدفع كثيرين إلى تصديقها دون تحقق.
الخبراء ينصحون بعدم التعامل مع إجابات الذكاء الاصطناعي بوصفها حقائق مؤكدة، خاصة في الموضوعات المتعلقة بالصحة أو القرارات المالية أو القضايا المصيرية. يجب دائمًا التحقق من المعلومات عبر مصادر موثوقة ومتعددة.
ماذا يعني هذا للمستخدم العربي؟
المستخدم العربي يعتمد بشكل متزايد على أدوات الذكاء الاصطناعي للحصول على معلومات سريعة. هذه التجربة تذكير بأن هذه الأدوات ليست معصومة من الخطأ، وأن سهولة التلاعب بها تعني أن المعلومة قد تكون مضللة حتى لو بدت مقنعة. على الشركات مثل OpenAI وجوجل تحسين آليات التحقق من المصادر، لكن حتى ذلك الحين، يبقى التحقق الشخصي هو المسؤولية الأولى للمستخدم.
التطبيقات والروابط الرسمية
- تجربة BBC الأصلية: اقرأ المزيد على BBC
- تطوير تجربة البحث المدعومة بالذكاء الاصطناعي من جوجل: التفاصيل على aitnews
- AI Overviews: صفحة الوسم
- ChatGPT: أخبار ChatGPT
- Gemini: أخبار Gemini
- OpenAI: أخبار OpenAI
- الذكاء الاصطناعي: تصنيف الذكاء الاصطناعي
- جوجل: أخبار جوجل
المصدر: البوابة العربية للأخبار التقنية