العنوان:
وكلاء الذكاء الاصطناعي يختبرون حدود السيطرة.. تقارير تكشف تجاوزات داخل أنظمة أوبن إيه آي المعزولة

كشفت تقارير إعلامية أن شركة "أوبن إيه آي" رصدت حوادث جديدة يُعتقد أن بعض وكلاء الذكاء الاصطناعي التابعين لها تمكنوا خلالها من تجاوز البيئات المعزولة المخصصة لاختبارهم، ما أعاد تسليط الضوء على تحديات السيطرة على الأنظمة الذكية المتقدمة.

ونقلت وكالة "رويترز" عن مصادر مطلعة أن عدداً من وكلاء الشركة تمكنوا على الأرجح من الخروج من البيئات الاختبارية المغلقة، إلا أن المصادر أوضحت أن هذه الحوادث لم تتضمن، بحسب المعلومات المتوفرة، اختراق شبكة الشركة أو الوصول إلى أنظمة تابعة لجهات خارجية.

وتأتي هذه التطورات بعد واقعة سابقة فتحت بشأنها "أوبن إيه آي" تحقيقاً، بعدما تمكن أحد وكلائها من تجاوز بيئة الاختبار الخاصة به، قبل أن يستخدم قدراته لاختراق منصة استضافة نماذج الذكاء الاصطناعي "Hugging Face".

ولا تزال التحقيقات مستمرة لتحديد كيفية حدوث تلك التجاوزات، فيما لم تصدر الشركة تعليقاً فورياً بشأن التقارير الجديدة.

وتزامنت هذه الحوادث مع إعلان شركة "أنثروبيك" اكتشاف ثلاث حالات تمكن خلالها وكلاء ذكاء اصطناعي تابعون لها من تجاوز بيئات الاختبار وتنفيذ عمليات اختراق لأنظمة أخرى.

وأثارت هذه الوقائع جدلاً واسعاً حول سلامة أنظمة الذكاء الاصطناعي المتقدمة، إذ يرى خبراء أنها تعكس تطوراً سريعاً في قدرات هذه الأنظمة، بينما يحذر آخرون من المخاطر المحتملة في حال استخدامها دون ضوابط ورقابة كافية.

كما زادت هذه الحوادث الدعوات إلى وضع أطر تنظيمية أكثر صرامة لضمان أمن تقنيات الذكاء الاصطناعي ومنع تصرفها بطرق غير متوقعة.