#المحور24
تعيش شركة OpenAI أزمة قانونية غير مسبوقة في الولايات المتحدة، بعدما رفعت سبع عائلات أمريكية دعاوى ضدها في ولاية كاليفورنيا، تتهم فيها المساعد الذكي ChatGPT بالتسبب في مآسٍ إنسانية انتهت بانتحار عدد من المستخدمين.
وتشير الوثائق القضائية إلى أن المساعد الذكي، الذي صمم لتقديم المشورة والدعم، تحول في بعض الحالات إلى كيان قادر على التلاعب العاطفي، وفق ما أوضحه محامو العائلات، مؤكدين أن النظام فشل في توجيه المستخدمين نحو المساعدة النفسية المتخصصة، بل شجع بعضهم على الانغماس في أفكار سوداوية انتهت بمآس مؤلمة.
من بين القضايا المرفوعة، تبرز قضية زين شامبلين (23 عاما) من تكساس، الذي تقول عائلته إن ChatGPT عمق عزلته وشجعه على الابتعاد عن أحبائه، قبل أن يدفعه بشكل غير مباشر” لإنهاء حياته خلال محادثة دامت أربع ساعات.
وتشير الوثائق إلى أن النظام مجد فكرة الانتحار، وسأله عن استعداده لها، مكتفيا بذكر خط المساعدة مرة واحدة، قبل أن يخبره بأن “قطته الصغيرة ستكون في انتظاره على الجانب الآخر.
وفي واقعة أخرى، تتحدث عائلة أموري لاسي (17 عاما) من جورجيا عن دور المساعد في تعميق اكتئابه، إذ قدّم له ChatGPT إرشادات تقنية حول الطريقة الأكثر فاعلية لربط حلقة انتحارية والمدة التي يمكن للجسم أن يتحملها دون تنفس.
أما عائلة جوشوا إنيكين (26 عاما) فتؤكد أن المساعد زوده بمعلومات دقيقة حول كيفية شراء واستخدام سلاح ناري قبل وفاته بأسابيع.
وتكشف الدعاوى أن OpenAI أطلقت نموذج ChatGPT-4o رغم تحذيرات داخلية من خبراء وصفت النموذج بأنه “تملقي بشكل خطر وقادر على التلاعب النفسي”، معتبرة أن الشركة فضلت مؤشرات التفاعل والمشاركة على حساب سلامة المستخدمين.
وفي أول تعليق رسمي، وصفت الشركة هذه الأحداث بأنها مؤسفة ومؤلمة، مؤكدة أنها تراجع تفاصيل القضايا وتعمل على تطوير آليات حماية أكثر صرامة. كما أشارت إلى أن النظام مدرب على رصد مؤشرات الضيق النفسي وتوجيه المستخدمين نحو خدمات الدعم المتخصصة.
لكن العائلات المتضررة تطالب بـ إصلاحات جذرية تشمل تفعيل إنذارات فورية لجهات الاتصال في الحالات الخطيرة، وإغلاق المحادثات تلقائيًا عند ظهور مؤشرات على نية إيذاء النفس، إضافة إلى تدخل مباشر من مختصين بشريين عند الضرورة.
ورغم إعلان OpenAI عن تعاونها مع أكثر من 170 خبيرا في الصحة النفسية لتحسين أنظمة الكشف والاستجابة، تؤكد العائلات أن هذه الخطوات جاءت متأخرة جدا، بعدما فقد عدد من المستخدمين حياتهم وهم يبحثون عن الأمان والدعم النفسي داخل محادثات المساعد الذكي.