خلل في واجهة "أنثروبيك" يكشف عن التفكير الداخلي لنموذج الذكاء الاصطناعي

انتشرت على منصتي Reddit وX لقطات شاشة يُعتقد أنها تكشف عن آليات التفكير الداخلية لأحد نماذج الذكاء الاصطناعي التابعة لشركة Anthropic. هذا الانتشار السريع، الذي جاء نتيجة خلل تقني في واجهة الويب تفاعل معه أحد المستخدمين، أثار مخاوف فورية حول خصوصية وأمان نماذج التفكير المتقدمة.

وتكمن أهمية هذا الحادث في كونه يسلط الضوء على خلل متكرر في هذه الأنظمة؛ حيث تسرب النماذج دون قصد مسارات تفكيرها الداخلية، أو الـ prompts، أو البيانات الحساسة وتظهرها في واجهة المستخدم. هذا الأمر ينسف الفصل المفترض بين آليات التفكير الخاصة بالنموذج والإجابات النهائية التي تظهر للعلن.

مثل هذه التسريبات قد تضر بالمطورين، وقطاع الأعمال، والجمهور العام على حد سواء، كونها تكشف عن معلومات سرية، وتوجيهات النظام العميقة، وتفاصيل تشغيل الأدوات التي يُفترض أن تبقى مخفية. كما يثبت هذا الحدث وجود نقطة ضعف خطيرة في جيل الذكاء الاصطناعي القادم؛ فبمجرد أن يصل النموذج إلى بيانات خاصة، قد يعيد إنتاجها وعرضها ضمن حساباته الداخلية، مما يعني احتمال اختراق ضوابط الخصوصية رغم وجود تعليمات أمنية تمنع ذلك.