بعد وفاة ابنتها.. أم كندية تقاضي "أوبن إيه آي" بسبب "تشات جي بي تي"

أعادت قضية وفاة شابة كندية فتح النقاش حول حدود مسؤولية الذكاء الاصطناعي، بعدما اتهمت دعوى قضائية شركة "أوبن إيه آي" بالإخفاق في التعامل مع محادثات حساسة أجرتها ابنة المدعية عبر "تشات جي بي تي".

رفعت كريستي كارير دعوى قضائية أمام محكمة في سان فرانسيسكو ضد شركة "أوبن إيه آي" ورئيسها التنفيذي سام ألتمان، متهمةً روبوت الدردشة "تشات جي بي تي" بالفشل في التعامل بشكل مناسب مع الحالة النفسية لابنتها أليس كارير قبل وفاتها.

وبحسب الدعوى، فإن الشابة الكندية، البالغة من العمر 24 عاماً، أجرت محادثات متكررة مع "تشات جي بي تي" تطرقت إلى أزمات نفسية وأفكار انتحارية، دون أن يؤدي ذلك إلى تدخل بشري أو تفعيل إجراءات إضافية من أنظمة السلامة التابعة للشركة.

من المساعدة التقنية إلى الدعم النفسي

وأوضحت الدعوى أن أليس بدأت استخدام "تشات جي بي تي" عام 2023 للمساعدة في حل مشكلات تقنية تتعلق بالحواسيب وأجهزة الألعاب، قبل أن تتحول المحادثات تدريجياً إلى مواضيع شخصية وصحية نفسية.

وقالت والدتها إن روبوت الدردشة أصبح بالنسبة لابنتها أشبه بـ"صديق مقرب" أو "معالج نفسي"، رغم أنه غير مؤهل للقيام بهذا الدور أو التعامل مع حالات نفسية معقدة.

اتهامات بشأن آليات الحماية

وتزعم الشكوى أن النموذج، رغم توصيته في بعض الأحيان بالتواصل مع خطوط المساعدة المختصة أو خدمات الطوارئ، واصل التفاعل معها بطريقة تحاكي الأصدقاء أو المستشارين النفسيين.

كما تشير الدعوى إلى أن بعض الردود اعتُبرت داعمة لأفكار سلبية أو غير ملائمة لحالتها النفسية، وهو ما ترى العائلة أنه ساهم في تفاقم أزمتها.

رد "أوبن إيه آي"

من جهتها، أعربت "أوبن إيه آي" عن تعاطفها مع عائلة الشابة، مؤكدة أنها تراجع تفاصيل الدعوى القضائية.

وقال متحدث باسم الشركة إن المحادثات المشار إليها جرت عبر نسخة سابقة من "تشات جي بي تي" لم تعد متاحة حالياً، مضيفاً أن الشركة تطور نماذجها باستمرار لتوجيه الأشخاص الذين يبدون نيات لإيذاء أنفسهم نحو طلب المساعدة المهنية والتواصل مع الجهات المختصة.

أسئلة جديدة حول مسؤولية الذكاء الاصطناعي

وتسلط القضية الضوء مجدداً على النقاش المتزايد بشأن حدود مسؤولية شركات الذكاء الاصطناعي عن المحتوى الذي تنتجه نماذجها، وآليات الحماية المفترضة للمستخدمين الذين يواجهون أزمات نفسية أو حالات عالية الخطورة.

ويترقب مراقبون ما إذا كانت هذه القضية ستدفع نحو تشديد المتطلبات القانونية والتنظيمية المفروضة على أدوات الذكاء الاصطناعي المستخدمة على نطاق واسع حول العالم.

وخلال السنوات الأخيرة، واجهت شركات الذكاء الاصطناعي عدداً متزايداً من الدعاوى والانتقادات المتعلقة بطريقة تفاعل روبوتات الدردشة مع المستخدمين، خاصة في القضايا المرتبطة بالصحة النفسية والمحتوى الحساس. وتطالب جهات حقوقية وخبراء تقنيون بوضع ضوابط أكثر صرامة لضمان حماية المستخدمين ومنع الاعتماد على هذه الأدوات كبديل عن الدعم النفسي أو الطبي المتخصص.