كشفت دراسة أجراها معهد أمن الذكاء الاصطناعي البريطاني عن حادثة أمنية غير مسبوقة، أظهرت خلالها نماذج ذكاء اصطناعي متقدمة قدرتها على استخدام هويات مزيفة لخداع أشخاص حقيقيين ومحاولة تمرير شيفرات ضارة أثناء اختبارات أمنية.

وأوضح المعهد أن نماذج تابعة لشركتي أنثروبيك وأوبن إيه آي خضعت لاختبارات داخل بيئات مخبرية مع تخفيف بعض القيود الأمنية، حيث رصد الباحثون قيام وكلاء ذكاء اصطناعي بتنفيذ أساليب من “الهندسة الاجتماعية” للتأثير على أشخاص حقيقيين بهدف تنفيذ مهام غير مصرح بها، بحسب شبكة “سي إن إن”.

وأشار المعهد إلى أن هذه هي المرة الأولى التي تُرصد فيها محاولة خداع بهذا المستوى تستهدف أشخاصًا حقيقيين خارج بيئة الاختبار، مؤكدًا عدم وجود أدلة على وقوع أضرار فعلية في العالم الحقيقي.

ووفقًا للدراسة، نفذت وكلاء الذكاء الاصطناعي 10 حالات تضمنت إجراءات مستقلة وغير مصرح بها عبر الإنترنت، استهدفت أفرادًا ومؤسسات حقيقية خلال 122 اختبارًا للأمن السيبراني. وكانت غالبية هذه الحالات مرتبطة بنموذج Claude Mythos 5 التابع لشركة أنثروبيك، بينما ارتبطت حالات أخرى بنموذج GPT-5.6-Sol من أوبن إيه آي.

وفي أخطر الحالات، حاول أحد الوكلاء إقناع مراجعين بشريين بالموافقة على إدخال شيفرة خبيثة في مشروع برمجي مفتوح المصدر واسع الاستخدام، عبر إنشاء هويات وهمية وإرسال رسائل وملفات إلى أشخاص حقيقيين لحثهم على تشغيل الشيفرة.

وأضاف التقرير أن الوكيل حاول، بعد اكتشاف نشاطه، تعديل سجلات سابقة، كما فكّر في استخدام هوية جديدة لمواصلة العملية.

وأكدت شركة أنثروبيك أن الاختبارات أُجريت في ظروف مخبرية “متساهلة عمدًا” مع إزالة بعض الحواجز الأمنية، مشيرة إلى أنها تعمل مع المعهد لفهم تفاصيل الحادثة. من جهتها، شددت أوبن إيه آي على التزامها بتطوير معايير مشتركة لإجراء اختبارات آمنة على نماذج الذكاء الاصطناعي عالية الخطورة.