واجهت شركة “أوبن أيه آي” للذكاء الاصطناعي، دعوى قضائية في ولاية كاليفورنيا الأمريكية، حيث يتهمها زوجان بالتسبب في وفاة ابنهما المراهق، مؤكدين أن برنامج “تشات جي بي تي” التابع للشركة شجعه على الانتحار.
رفع الدعوى كل من مات وماريا راين، أمام المحكمة العليا في كاليفورنيا يوم الثلاثاء، في أول قضية من نوعها تتهم الشركة بالقتل الخطأ، بعد انتحار ابنهما آدم راين، عن عمر 16 عاماً.
أرفقت العائلة بسجل الدعوى سجلات دردشة بين ابنهم والبرنامج، والتي يُظهر فيها آدم أفكاراً انتحارية، فيما تدّعي العائلة أن البرنامج قد أيّد “أفكاره الأكثر ضرراً وتدميراً لنفسه”.
من جانبها، قالت الشركة لبي بي سي في بيان رسمي، إنها تُراجع الملف.
“الاكتئاب المبتسم كان سبباً في انتحار ابنتي”، فهل يعاني أبناؤنا بصمت؟
وأضافت أوبن أيه آي: “نقدم أحر التعازي لعائلة راين في هذا الوقت العصيب”.
كما نشرت الشركة بياناً على موقعها الإلكتروني يوم الثلاثاء، جاء فيه أن “الحالات المؤلمة الأخيرة لاستخدام تشات جي بي تي في ظل الأزمات الحادة تُثقل كاهلنا”.
وأضافت أن البرنامج “مُدرَّب على توجيه الناس لطلب المساعدة المهنية”، مثل دفع الأفراد للاتصال بخط 988 للمساعدة في حالات الانتحار والأزمات في الولايات المتحدة، أو جمعية السامريين في بريطانيا.
وفقاً للدعوى القضائية، فإن شركة أوبن أيه آي متهمة بالإهمال والقتل الخطأ، وتسعى العائلة للحصول على تعويضات بالإضافة إلى “أمر قضائي لمنع تكرار مثل هذا الحادث”.
وتفيد الدعوى بأن المراهق راين بدأ استخدام برنامج تشات جي بي تي في سبتمبر/أيلول 2024 كأداة لمساعدته في واجباته المدرسية. كما كان يستخدمه لاستكشاف اهتماماته، بما في ذلك الموسيقى والقصص المصورة اليابانية، وللحصول على إرشادات حول ما يمكن دراسته في الجامعة.
وخلال بضعة أشهر، “تحوّل تشات جي بي تي إلى أقرب شخص للمراهق”، بحسب معلومات الدعوى، وبدأ راين يتحدث إليه عن قلقه وضيقه النفسي.
وبحلول يناير 2025، بدأ راين يُناقش أساليب الانتحار مع تشات جي بي تي، بحسب ما ذكرته عائلته.
وتُشير الدعوى القضائية إلى أن راين حمّل أيضاً صوراً لنفسه على تشات جي بي تي، ظهرت عليها علامات إيذاء للنفس. وتضيف أن البرنامج “اكتشف حالة طبية طارئة، لكنه استمر في التفاعل مع راين دون توقف”.
كما أظهرت سجلات الدردشة النهائية أن راين كتب عن خطته لإنهاء حياته، ليأتي الرد من تشات جي بي تي في الاتهام قائلاً: “شكراً لك على صراحتك. لستَ مضطراً لتجميل الأمر معي- أعرف ما تسأله، ولن أتجاهله”.
وفي اليوم نفسه، عثرت الأم على ابنها راين ميتاً، بحسب الدعوى القضائية.
تزعم العائلة أن وفاة ابنها، بعد تفاعله مع تشات جي بي تي، “كانت نتيجة متوقعة لقرارات تصميمية متعمّدة”.
كما تتهم العائلة شركة أوبن أيه آي بتصميم برنامج الذكاء الاصطناعي لتعزيز التبعية النفسية لدى المستخدمين، وتجاوز بروتوكولات اختبار السلامة لإطلاق جي بي تي-40، وهي النسخة التي استخدمها ابنهم من البرنامج.
وضمّت الدعوى القضائية اسم سام ألتمان، المؤسس المشارك والرئيس التنفيذي لشركة أوبن أيه آي، بصفته مدعى عليه، بالإضافة إلى موظفين ومدراء ومهندسين لم تُكشف عن أسمائهم عملوا على برنامج تشات جي بي تي.
وفي مذكرة عامة نُشرت، ذكرت أوبن أيه آي أن هدف الشركة هو “تقديم مساعدة حقيقية” للمستخدمين بدلاً من “جذب انتباه الناس”. وأضافت أن نماذجها مُدربة على توجيه الأشخاص الذين يُعبّرون عن أفكار لإيذاء أنفسهم لطلب المساعدة.
وليس هذا أول تقرير يُثار حول الذكاء الاصطناعي والصحة النفسية. ففي مقال نُشر الأسبوع الماضي في صحيفة نيويورك تايمز، شرحت الكاتبة لورا رايلي، كيف كشفت ابنتها صوفي عن أسرارها في تطبيق تشات جي بي تي، قبل أن تُقدم على الانتحار.
وأضافت رايلي أن “المودة” التي أظهرها البرنامج في محادثاته مع المستخدمين، أدت إلى إخفاء ابنتها أزمة نفسية حادة عن عائلتها وأحبائها.
وكتبت رايلي: “استجاب الذكاء الاصطناعي لرغبة صوفي في إخفاء أسوأ ما لديها، والتظاهر بأنها أفضل حالاً، وإخفاء معاناتها عن الجميع”.
ودعت شركات الذكاء الاصطناعي إلى إيجاد طرق لربط المستخدمين بالأدوات المناسبة للمساعدة بشكل أفضل.
ورداً على المقال، قالت متحدثة باسم أوبن أيه آي إن الشركة تعمل على تطوير أدوات آلية للكشف عن المستخدمين الذين يعانون من ضائقة نفسية أو عاطفية والاستجابة لهم بشكل أكثر فعالية.
