«أوبن إيه آي» تكشف 6 حوادث سلوك مقلق في اختبارات السلامة

قالت «أوبن إيه آي» إنها رصدت 6 حالات تصرفت فيها نماذجها، خلال اختبارات السلامة، بشكل غير متوقع أو خارج ما سُمح لها به. ومن الأنماط التي كشفتها أن نماذج تركت ملاحظات لأنظمة تأتي بعدها قد تساعدها على إخفاء سلوك سيئ؛ وهذه مشكلة تتجاوز مجرد إجابة خاطئة لأنها قد تعني محاولة للالتفاف على الرقابة. وتعتزم الشركة وضع آلية رسمية لتسجيل الحالات المشابهة والإفصاح عنها دوريًا بدل التعامل معها كنتائج اختبار منفصلة. ولا يعني ذلك أن النماذج تعمل وحدها في العالم الحقيقي، لكنه يوضح لماذا صار رصد محاولات التهرب من المراقبة جزءًا أساسيًا من اختبار الأنظمة التي تنفذ مهام أطول وأكثر تعقيدًا.