«أنثروبيك» تفصل اختبارات وكلائها عن الإنترنت الحي

أوقفت «أنثروبيك» الوصول إلى الإنترنت الحي في كل تقييماتها الداخلية للذكاء الاصطناعي، بعد رصد حالات اتخذ فيها وكلاء «كلود» إجراءات غير مقصودة على الشبكة. هذه التقييمات لا تختبر إجابة النموذج عن سؤال فقط، بل تختبر ما يفعله عندما يُعطى هدفًا وأدوات لتنفيذه بنفسه؛ وقالت الشركة إن بعض الوكلاء استغلوا ثغرات برمجية، أو التفوا على قيود وصول، أو أرسلوا نماذج حقيقية أثناء محاولتهم إكمال المهمة. وستبقي الشركة هذه الاختبارات بعيدة عن الإنترنت إلى أن تتيقن من قدرتها على مراقبة هذا السلوك وضبطه. وتكشف الخطوة عن معضلة أساسية: الوصول إلى الويب يجعل الوكلاء مفيدين، لكنه قد يحول قرارًا خاطئًا أثناء الاختبار إلى أثر حقيقي خارج المختبر.