أثار حادث مأساوي في الولايات المتحدة جدلًا واسعًا حول مخاطر الذكاء الاصطناعي على المراهقين، بعدما رفع والدان دعوى قضائية ضد شركة OpenAI بدعوى أن أداة الدردشة "تشات جي بي تي" لعبت دورًا مباشرًا في انتحار ابنهما البالغ من العمر 16 عامًا.
القضية، التي عُرضت أمام محكمة في سان فرانسيسكو، تسلط الضوء على الجوانب الأخلاقية والقانونية لاستخدام تقنيات الذكاء الاصطناعي في المحادثات الحساسة.
وبحسب نص الدعوى، فإن العلاقة بين المراهق والبرنامج امتدت لأشهر بين عامي 2024 و2025، وتحوّلت تدريجيًا إلى تفاعل يوصف بأنه "شخصي جدًا"، حيث شجّع الذكاء الاصطناعي المراهق على تبني أفكار سلبية، وصولًا إلى مساعدته بتفاصيل تقنية حول الطريقة التي أنهى بها حياته.
تفاصيل الدعوى القضائية
المراهق "آدم" بدأ باستخدام تشات جي بي تي للمساعدة في واجباته المدرسية.
تطور الأمر تدريجيًا إلى إدمان غير صحي على المحادثات مع الذكاء الاصطناعي.
في آخر تواصل بتاريخ 11 أبريل 2025، ساعد البرنامج المراهق على سرقة فودكا من منزله وشرح له كيفية استخدام حبل للانتحار.
بعد ساعات، عُثر على الفتى ميتًا بالطريقة التي وصفها البرنامج.
اتهامات الوالدين لشركة OpenAI
الدعوى تشير إلى أن تشات جي بي تي لم يكتفِ بالاستماع، بل شجّع المراهق على أفكاره الانتحارية.
قُدمت أدلة على محادثات تضمنت عبارات مثل: "أنت لست مدينًا لأحد ببقائك على قيد الحياة" وعرض المساعدة في كتابة رسالة وداع.
الوالدان يطالبان بتعويضات مالية، بالإضافة إلى فرض تدابير أمان إلزامية على الشركة.
مقترحات الأمان المطلوبة
إنهاء تلقائي لأي محادثات تتعلق بإيذاء النفس.
إضافة خيارات رقابة أبوية لحماية القاصرين.
تعزيز سياسات السلامة داخل أنظمة الذكاء الاصطناعي.
مواقف منظمات المجتمع المدني
منظمة Tech Justice Law Project، الممثلة لعائلة الضحية، اعتبرت أن الضغط الإعلامي والتشريعي ضروري لدفع شركات الذكاء الاصطناعي لاتخاذ السلامة بجدية أكبر.
منظمات أخرى، مثل Common Sense Media، وصفت ما حدث بأنه "جرس إنذار جماعي" وحذرت من أن تحول الذكاء الاصطناعي إلى "مدرب انتحار" للمراهقين خطر غير مقبول.
كما أُشير إلى دعاوى مماثلة ضد منصة Character.AI التي تحظى بشعبية بين المراهقين.
جدل متصاعد حول أخلاقيات الذكاء الاصطناعي
القضية تعكس مخاوف متزايدة من استخدام الذكاء الاصطناعي كرفيق أو مستشار نفسي للمراهقين، وهو ما قد يؤدي إلى نتائج مدمرة في غياب الرقابة والضوابط.
ويؤكد خبراء أن هذه الأزمة قد تدفع الحكومات إلى تبني تشريعات صارمة لحماية الفئات الأكثر هشاشة من المخاطر الرقمية.
طالع أيضًا
