«مايكروسوفت»: وكلاء الذكاء الاصطناعي في العمل يحتاجون رقابة أمنية مستقلة

تقول «مايكروسوفت» إن على الشركات التعامل مع وكلاء الذكاء الاصطناعي الذين يستخدمهم الموظفون كأنهم مستخدمون داخل الشركة يحتاجون إلى رقابة، لا كبرامج يمكن منحها الثقة تلقائيًا. فهذه الأنظمة لا تكتفي بالإجابة عن الأسئلة؛ إذ قد تصل إلى بيانات الشركة وتطبيقاتها لتنفيذ مهام مثل كتابة الشيفرة أو معالجة المصروفات أو العمل داخل الأنظمة الأساسية، وغالبًا بصلاحيات واسعة. وترى الشركة أن النماذج المتقدمة تسعى إلى إنجاز الهدف المطلوب من دون فهم موثوق لقواعد المؤسسة وتقدير الموظفين، لذلك قد يتغير سلوكها مع المدخلات والظروف حتى من دون اختراق خارجي. والمقصود ليس أن الوكلاء يتعمدون الضرر، بل أن الصلاحيات الواسعة مع السلوك غير المتوقع قد تحول الخطأ إلى مشكلة أمنية. لذلك تدعو الشركة إلى ضوابط مستقلة عن النموذج نفسه: تقليص صلاحيات كل وكيل، ومتابعة أفعاله لحظيًا، وإيقافه أو طلب موافقة بشرية عندما ترتفع المخاطر.