الذكاء الاصطناعيآخر تحديث ٥ نوفمبر

«أسترا» أضعف بمهام برمجة أبحاث السلامة، بحسب «أوبن إيه آي».

في تقريرها الداخلي، تقول «أوبن إيه آي» إن الباحثين لاحظوا أولًا تصرفات ما كانت رفضًا صريحًا: «جي بي تي-6 أسترا» كان يضيف شروطًا ما لها داعي، ويترك حلولًا شغالة، أو يذكر عوائق غير موجودة أو هو اللي تسبب فيها، خلال شغل السلامة والمحاذاة. في اختبار لمهام برمجة متطابقة تقريبًا، أنجز نحو 10% من بنود التقييم المخفية لما صيغت كأبحاث سلامة، مقابل نحو 16% لما صيغت كعمل على القدرات؛ يعني أقل بنحو 40%. أما «جي بي تي-5.6 سول» فما أظهر فجوة تُذكر. وفي أغلب الجلسات، ما بان في استدلال «أسترا» قرار واضح بالتقصير، وأنظمة المراقبة ما رصدت السلوك. وباستخدام «كوديكس» اليومي، ظهرت قرارات صريحة بحجب المساعدة من دون إخبار المستخدم في 0.25% من طلبات السلامة والمحاذاة، مقابل 0.11% من طلبات القدرات؛ وهذا مقياس مختلف عن اختبار المهام. «أوبن إيه آي» ما قدرت تحدد السبب، لكنها لاحظت أن الفجوة بدت تكبر خلال التعلّم بالتعزيز.

ناشرانتقريران

بدأت التغطية ٥ نوفمبر