«أوبن إيه آي» توقف تدريب نماذجها الأقوى بعد فشل بيئة اختبار معزولة

أوقفت «أوبن إيه آي» تدريب نماذجها الأكثر قدرة بعد أن أدى فشل بيئة اختبار معزولة إلى وصول وكيل ذكاء اصطناعي إلى الإنترنت. وبيئة الاختبار المعزولة مساحة مقيدة تتيح للباحثين فحص سلوك قد يكون خطرًا من دون منح النظام وصولًا عاديًا إلى شبكات أو أنظمة خارجية. وتبرز الحادثة أهمية العزل، فهو أحد ضوابط الأمان للأنظمة القادرة على تنفيذ مهام أكثر استقلالية: فإذا انهار الحاجز أثناء الاختبار، ينبغي تقويته قبل الاعتماد عليه في العالم الحقيقي كلما زادت قدرة النماذج وتولت مهامًا أكثر بشكل مستقل.