سوليفان آند كرومويل" تعتذر عن استخدام استشهادات وهمية ولّدها الذكاء الاصطناعي في وثيقة مقدمة لمحكمة الإفلاس.

قدم مكتب Sullivan & Cromwell، أحد أعرق الأسماء في عالم المحاماة في "وول ستريت"، اعتذاراً رسمياً لقاضي إفلاس فيدرالي بعد تقديم مستندات قضائية مليئة باستشهادات قانونية وهمية وأخطاء أنتجها الذكاء الاصطناعي. المكتب الذي يمتد تاريخه لـ 140 عاماً، ويمثل شركة Prince Global Holdings المتعثرة، اكتشف هذه الثغرات بعدما نبههم إليها مكتب محاماة منافس خلال الإجراءات في محكمة الإفلاس الأمريكية لمنطقة جنوب نيويورك.

بعث الشريك في المكتب، Andrew Dietderich، برسالة اعتذار إلى رئيس القضاة Martin Glenn في 18 أبريل، معترفاً بأن المذكرة التي قدمها المكتب تضمنت ما وصفه بـ "هلوسات" الذكاء الاصطناعي؛ وهي حالات يقوم فيها النظام باختراع مراجع لقضايا وهمية، وتحريف نصوص قانونية، والاستشهاد بمصادر لا وجود لها أصلاً. حجم الأخطاء كان كبيراً لدرجة أن رسالة الاعتذار تضمنت مرفقاً من ثلاث صفحات يسرد كل التفاصيل غير الدقيقة. واضطر المكتب لاحقاً لتقديم نسخة مصححة توضح الجمل والمراجع التي تم حذفها أو استبدالها بالكامل.

تكمن أهمية هذه الواقعة في كونها حدثت داخل مكتب يمتلك سياسات داخلية صارمة تحكم استخدام الذكاء الاصطناعي، وعملية مراجعة ثانوية مصممة خصيصاً لرصد هذا النوع من الأخطاء. وأقر Dietderich بأن نظامي الحماية فشلا في هذه المهمة؛ فلم يتم اتباع سياسات المكتب، كما أن عملية مراجعة المراجع لم تكن فعالة. وأشار إلى أن الخصم القانوني في القضية، مكتب Boies Schiller Flexner الذي يمثل الدائنين، هو من رصد هذه "الهلوسات" ليلفت نظر المكتب إليها، مما أدى في النهاية إلى الاعتذار وتصحيح الأوراق.

تسلط حادثة Sullivan & Cromwell الضوء على أزمة أوسع تعيشها مهنة المحاماة حالياً. فبحسب باحثين قانونيين يتابعون أخطاء الأنظمة التقنية، أصبحت الاستشهادات القانونية المزيفة ظاهرة متزايدة منذ عام 2023، حيث تم توثيق أكثر من 330 مستنداً قضائياً يحتوي على أخطاء مرتبطة بالذكاء الاصطناعي. وبدأ بعض القضاة بالفعل في فرض عقوبات (sanctions) في القضايا التي تظهر فيها مثل هذه الأخطاء، مما يرفع سقف المخاطر أمام مكاتب المحاماة التي تجرب أدوات الذكاء الاصطناعي في قضايا حساسة. ومن جهته، ذكر مكتب Sullivan & Cromwell أنه يعمل الآن على تطوير برامج التدريب وإجراءات المراجعة لديه لتفادي تكرار مثل هذه الإخفاقات في المستقبل.