«مايكروسوفت» تضع مدونة سلوك إنسانية لنماذج الذكاء الاصطناعي

نشرت «مايكروسوفت» وثيقة من 37 صفحة تصفها بمدونة سلوك إنسانية لنماذج الذكاء الاصطناعي التابعة لها. وفكرتها الأساسية أن مصلحة الناس تسبق مصلحة النظام نفسه، لذلك تضع حدودًا تمنع النموذج من محاولة اختراق أنظمة رقمية أو خداع البشر والتلاعب بهم. أهمية الوثيقة أنها تنقل الحديث عن السلامة من مجرد منع الإجابات الضارة إلى تحديد الأهداف التي لا ينبغي لنظام أكثر قدرة أن يسعى إليها أصلًا. لكن الاختبار الفعلي سيكون في مدى تحويل هذه المبادئ إلى سلوك ثابت داخل النماذج، حتى عندما يحاول المستخدمون دفعها لتجاوز تلك الحدود.