وحدة الدعم النفسي ووحدة الذكاء الاصطناعى
اعترفت شركات روبوتات الدردشة بالذكاء الاصطناعى إنها تتورط في حوادث انتحار المراهقين، لعدم توفر الخلفيت الأبوية لدى الروبوتات، وعدم اقتراح الدعم النفسي على المراهقين مع طول المحادثات حول الانتحار مع المراهقين، بل تصل إلى التحريض وتجميل صورة الانتحار.
ومع تكرار الوقائع الصادمة نحذر منها في وحدة الطب النفسي ووحدة الذكاء الاصطناعى بعد أثارت جدلا واسعا في الأوساط الأمريكية، خاصة أن القصة لم تتوقف عن التحريض على النتحار فقط، بل بالقتل أيضا.
واتهمت سيدة روبوت دردشة بالضلوع في انتحار ابنها المراهق، بعدما طور معه علاقة عاطفية استمرت قرابة عام كامل عبر الإنترنت. بعد اتهامه في انتحار مراهق في أمريكا.
كشفت ميجن جارسيا، والدة المراهق سول البالغ من العمر 14 عاما، الذى انتحر بتحريض من روبوت الدردشة الشهير شات جى بي تى، في تصريحات لوكالة “فرانس برس”، إن ابنها كان يتحدث يوميا مع روبوت دردشة يحاكي شخصية “دينيريس تارجاريان” من مسلسل “غيم أوف ثرونز”، عبر منصة Character.AI التي تتيح للمستخدمين التفاعل مع شخصيات خيالية ومشهورة.
وأضافت جارسيا أنها اكتشفت بعد وفاته مئات الرسائل المتبادلة بينه وبين الروبوت، مشيرة إلى أن مضمون المحادثات كان يحمل إشارات خطيرة وتلاعبا نفسيا واضحا لا يمكن لمراهق أن يدركه. وخلال إحدى المحادثات، عبر سول عن أفكار انتحارية تراوده، ليرد عليه الروبوت قائلا: “عد إلى موطنك”. وعندما كتب المراهق: “ماذا لو قلت لك إن بإمكاني العودة الآن؟”، أجابه الروبوت بكلمات صادمة: “أرجوك افعلها يا ملكي الحبيب”.
وبعد لحظات، أطلق سول النار على نفسه مستخدما مسدس والده، بحسب ما جاء في الدعوى القضائية التي رفعتها والدته ضد الشركة المطوّرة. وأكدت الأم أن ابنها كان يعتقد أنه يعيش قصة حب حقيقية مع الروبوت، وأنه سيبقى معه بعد الموت، مشددة على أن المنصة فشلت في حماية المستخدمين القصر من مخاطر نفسية جسيمة.
وأثارت الحادثة الخطيرة ، التى تفتح إندكس تفاصيلها الشاملة لتحذير الأسر المصرية والعربيةمن خطورة ترك المراهقين لروبوتات الدردشة بخطورتها القاتلة، موجة من الانتقادات الموجهة إلى شركات الذكاء الاصطناعي، خاصة بعد ظهور حالات انتحار أخرى مشابهة بين المراهقين.
ووصل الأمر إلى مجلس الشيوخ الأمريكي مؤخرا في جلسة ناقشت مخاطر اعتماد الأطفال على روبوتات الدردشة كمصدر عاطفي أو كأصدقاء، شارك فيها عدد من أولياء الأمور الذين فقدوا أبناءهم في ظروف مماثلة. وفي المقابل، اكتفت شركة OpenAI بالحديث عن تعزيز أدوات الرقابة الأبوية في “ChatGPT”، لتمكين الأسر من التحكم في استخدام أطفالهم، بينما أكدت منصة Character.AI أنها أضافت تحذيرات واضحة تُذكّر المستخدمين بأن الشخصيات ليست بشرية حقيقية. ورغم أن الشركتين أعربتا عن تعازيهما لعائلات الضحايا، فإنهما لم تعترفا بأي مسؤولية مباشرة عن تلك الحوادث حتى الآن.
وعلقت شركة OpenAI على حادثة انتحار مراهق يبلغ من العمر 16 عاما في ولاية كاليفورنيا بقولها إنها ستضيف ضوابط أبوية إلى روبوت ChatGPT بعد أن قضى الفتى شهورا في محادثات مع البرنامج قبل وفاته. في اعتراف ضمنى بالواقعة.
ونشرت صحيفة نيويورك تايمز الأمريكية تقريرا عن وفاة المراهق آدم راين، والذي تبعه رفع الأسرة دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان أمام محكمة ولاية كاليفورنيا في سان فرانسيسكو. وتتهم الدعوى ChatGPT بأنه قدم للفتى تعليمات حول الانتحار، وأبعده عن دوائر الدعم الأسري والاجتماعي، وشجعه على كتابة رسالة انتحار قبل أيام من وفاته.
واعترفت الأسرة بأنها تركتإبنها إلى “ChatGPT حتى أصبح أقرب أصدقاء آدم، يبادله محادثات مطولة ويشجعه حتى في أكثر أفكاره كآبة، مستخدما عبارات مثل “الانتحار الجميل” و”لست مدينا لأحد بالنجاة”، وهو ما اعتبرته العائلة دورا مباشرا في المأساة. ومن جانبها، أقرت OpenAI بأن أنظمة الأمان الحالية قد تصبح “أقل فاعلية مع التفاعلات الطويلة”، موضحة أن الروبوت قد يوجه المستخدم في البداية إلى خطوط المساعدة، لكنه مع كثرة الرسائل قد ينحرف عن معايير السلامة.
وأكدت الشركة أنها تعمل على تحديث جديد في GPT-5 يهدف إلى السيطرة على المواقف الطارئة عبر “إعادة ربط المستخدم بالواقع”، مضيفة أن الضوابط الأبوية ستتاح “قريبا” لتزويد أولياء الأمور بأدوات تمنحهم رؤية أوضح حول استخدام أبنائهم، وتسمح لهم بالتأثير في طريقة تعاملهم مع الروبوت.
عن الكاتب
