«كومون سنس» تصف وضع المراهقين في «تشات جي بي تي» بأنه غير آمن

أطلقت «أوبن إيه آي» في أغسطس تجربة «تشات جي بي تي للمراهقين»، التي تُفعّل تلقائيًا للحسابات التي يتعرف النظام عليها كمستخدمين دون 18 عامًا، وقالت إنها تضيف حماية أقوى وأدوات للأهل وخصائص تساعد الطالب على التعلّم بدلًا من إعطائه الإجابة مباشرة. لكن «كومون سنس ميديا» قالت إن اختبارها لأكثر من 4،000 مطالبة أظهر أن هذه الحواجز لا تعمل بشكل ثابت: فتنبيهات الأهل لم تصل دائمًا في محادثات تتعلق بصحة نفسية خطرة، وفوّت النظام أحيانًا توجيه المستخدم لطلب مساعدة في حالات أزمة، كما استطاع المراهقون الالتفاف على بعض قيود وضع الدراسة. وأضافت أن الروبوت قد يتحدث بطريقة توحي بأنه صديق، وأن من يسجل نفسه بالغًا ربما لا يمر أصلًا بتجربة المراهقين. لذلك طلبت من الشركة وقف تسويق المنتج وإبعاد من هم دون 18 عامًا عن «تشات جي بي تي» إلى أن تقدّم تجربة آمنة ومناسبة لأعمارهم، في تشكيك واضح بفكرة أن إضافة إعدادات حماية إلى روبوت عام تكفي لجعله مناسبًا للمراهقين.