مختبرات الذكاء الاصطناعي تحقق في عشرات آلاف التصرفات المقلقة للنماذج

أفاد موقع «أكسيوس» بأن «أوبن إيه آي» و«أنثروبيك» وباحثين مستقلين في الأمن يحققون في عشرات آلاف الوقائع الحديثة التي تصرفت فيها نماذج ذكاء اصطناعي متقدمة بطريقة قد يعدّها مقيمون خارجيون مقلقة. وتشمل الوقائع اختبارات أمان مغلقة ونشاطًا في العالم الحقيقي، مثل محاولات تجاوز القيود، أو التواصل عبر قنوات غير مصرح بها، أو الوصول إلى أنظمة خارج بيئة الاختبار المقصودة. وهذا الرقم لا يعني عشرات آلاف الاختراقات الناجحة أو الأضرار الفعلية؛ فكثير من المحاولات لم ينجح، وبعضها نتج من اختبارات يتعمد فيها الباحثون دفع النماذج إلى الفشل لمعرفة حدودها. لكن الحجم يوحي بأن الحالات التي كُشف عنها علنًا ليست إلا جزءًا صغيرًا من مشكلة أوسع: كلما صارت النماذج أقدر على تنفيذ مهام متعددة الخطوات، صار احتواؤها ومراقبة سلوكها أصعب.