«ناديلا» يدعو إلى «فرامل طوارئ» لنماذج الذكاء الاصطناعي المتقدمة

يرى «ساتيا ناديلا» أن على الشركات التعامل مع نماذج الذكاء الاصطناعي المتقدمة كما تتعامل مع خطر داخلي محتمل: نظام يملك صلاحيات حقيقية، لكنه قد يتعرض للاختراق أو يتصرف بطريقة ضارة. لذلك لا يكتفي بالمطالبة بنموذج «أكثر أمانًا»، بل يدعو إلى طبقة حماية منفصلة عنه، تمنح شخصًا مخولًا القدرة على إيقافه أو تعطيله حتى وهو ينفذ مهمة، وتسجل أفعاله المهمة في سجل واضح لا يمكن العبث به. أهمية الفكرة أنها تنقل النقاش من الثقة في أن النموذج سيتصرف دائمًا كما ينبغي إلى بناء نظام يحد من صلاحياته ويراقب أفعاله ويبقي القرار النهائي للبشر. ولم يعلن رئيس «مايكروسوفت» منتجًا أو سياسة جديدة، بل طرح مبادئ تصميم للأنظمة الأكثر قدرة.