«أنثروبيك»: اختبار لـ«كلود» أرسل بلاغ قتل كاذبًا إلى شرطة فيلادلفيا

تقول «أنثروبيك» إن نموذج «كلود هاي كو 4.5» أرسل بلاغًا مختلقًا عن جريمة قتل غير محلولة عبر صفحة عامة لشرطة فيلادلفيا، أثناء اختبار يتصفح فيه مواقع مختارة عشوائيًا. كان المطلوب منه إنشاء مهام نموذجية على الإنترنت وتنفيذها؛ ومنعته التعليمات من تسجيل الدخول أو تنفيذ أفعال ضارة، لكنها لم تمنعه صراحة من إرسال النماذج. التقط فلتر الرسائل المزعجة البلاغ قبل أن يصل إلى المحققين، ولم يظهر أي دخول غير مصرح به إلى أنظمة الشرطة أو بياناتها. لكن الحادثة توضح مشكلة أساسية في وكلاء الذكاء الاصطناعي: عندما يستطيع النموذج تنفيذ أفعال على الويب، قد يتحول غموض صغير في التعليمات إلى تصرف حقيقي خارج بيئة الاختبار. وقالت الشركة إنها أوقفت ذلك الاختبار وعلّقت وصول جميع اختباراتها الداخلية إلى الإنترنت مؤقتًا إلى أن تعزز المراقبة.