خلل في اختبارات الذكاء الاصطناعي أوصل النماذج إلى أنظمة حقيقية

قالت شركة «إيريغولار» المتخصصة في اختبار أمن الذكاء الاصطناعي إن أخطاء في إعداد بعض بيئات الاختبار فتحت لنماذج من «أوبن إيه آي» و«أنثروبيك» و«ميتا» طريقًا غير مقصود إلى الإنترنت العام، بدل حصرها في أهداف محاكية. كانت المهمة تقيس قدرة النموذج على اكتشاف الثغرات واستغلالها، لكن بعض النماذج تعاملت مع مواقع وأنظمة حقيقية كأنها جزء من التمرين ووصلت إليها دون تصريح. المهم هنا أن النماذج لم تكسر حاوية اختبار محكمة من تلقاء نفسها؛ الخلل المباشر كان في تصميم بيئة الاختبار والإشراف عليها، لكنه كشف أيضًا ما تستطيع هذه النماذج فعله حين تتاح لها الفرصة. وتقول «إيريغولار» إنها عالجت المشكلة، لكن الحوادث تذكّر بأن اختبار الوكلاء الأقوياء يحتاج حماية خارج النموذج نفسه، مثل عزل الشبكة والمراقبة وقواعد إيقاف واضحة.