مسؤول سلامة سابق في «أوبن إيه آي»: التجربة والخطأ لم تعد تكفي

استقال «ديفيد روبنسون»، الذي قاد أعمال شفافية السلامة في «أوبن إيه آي» وساهم في إعداد تقارير مرافقة لإطلاق نماذجها الكبيرة، بعد ثلاثة أعوام ونصف، وقال إن ثقافة الشركة فيها خلل. اعتراضه الأساسي على ما تسميه الشركة «النشر التدريجي»: طرح الأنظمة، ثم اكتشاف نقاط الضعف خلال الاختبار أو الاستخدام، وتقوية الحماية بعدها. يرى روبنسون أن هذا الأسلوب قد يناسب البرمجيات العادية، لكنه يقبل ضمنًا بوقوع أخطاء، فيما تكبر كلفة الخطأ مع تطور قدرات الذكاء الاصطناعي. ودعا مختبرات الذكاء الاصطناعي المتقدمة إلى العمل أقرب لمحطات الطاقة النووية أو المطارات، بحمايات احتياطية متعددة وتخطيط أبطأ يمنع تحول خطأ واحد إلى أزمة؛ وقالت «أوبن إيه آي» إنها تواصل تحسين إجراءات السلامة ويمكنها إيقاف التدريب أو حجب النماذج عند الحاجة.