«إنفيديا» تبني سياج أمان حول وكلاء الذكاء الاصطناعي

أطلقت «إنفيديا» منصة «أوبن إيجنت سيفتي» لتمنح الشركات طريقة عملية لضبط وكلاء الذكاء الاصطناعي؛ وهي برامج لا تكتفي بالإجابة، بل تنفذ خطوات متتابعة داخل الملفات وقواعد البيانات والخدمات الخارجية. يشغّل برنامج «أوبن شِل» الوكيل داخل بيئة معزولة ويقيد الأدوات والأنظمة التي يمكنه الوصول إليها، بينما تراقب طبقة «سنتري» المنفصلة النشاط عبر عتاد «بلو فيلد 4» من «إنفيديا» ويمكنها فرض القواعد أو عزل الوكيل إذا تجاوز صلاحياته. الفكرة أن منح هذه البرامج وصولًا أوسع للعمل لا يجعل تعليمات النموذج وحدها كافية للأمان؛ فالضوابط يجب أن تحيط بالوكيل وتبقى فعالة أثناء عمله.