أطلقت شركة “جوجل” تحديثات لإجراءات السلامة المتصلة بالصحة النفسية في روبوت الدردشة التابع لها “جيميني”، وذلك في وقت تواجه فيه الشركة دعوى قضائية تتهم روبوت الذكاء الاصطناعي بالمساهمة في انتحار أحد المستخدمين.
وقالت الشركة إن “جيميني” سيعرض نسخة محدثة من ميزة “المساعدة متاحة” (Help is available) عند رصد ضائقة نفسية لدى المستخدم، خلال المحادثة، لتوفير وصول أسرع إلى خدمات التدخل في الأزمات.
وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة بشأن الانتحار أو إيذاء النفس، سيُظهر واجهة مبسطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت “جوجل” إنها ستظل ظاهرة خلال المحادثة بعد تفعيلها.
وتعهّدت “جوجل دوت أورج”، فرع غوغل المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى 3 سنوات للمساعدة في تعزيز خطوط الأزمات الساخنة حول العالم. كما ستخصص 4 ملايين دولار إضافية من أجل دعم شراكة موسعة مع منصة تدريب الذكاء الاصطناعي “ريفلكس إيه آي”.
وكتبت “جوجل” عبر مدونتها: “ندرك أن أدوات الذكاء الاصطناعي قد تَطرح تحديات جديدة، لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دورا إيجابيا في الصحة النفسية للناس”.
وأضافت في المنشور نفسه، أنها دربت “جيميني” على تجنّب التصرّف كرفيق يشبه الإنسان، وعلى مقاومة محاكاة الحميمية العاطفية أو تشجيع التنمّر.
وجاءت تلك التحديثات بعد أشهر من رفع دعوى قضائية أمام محكمة فدرالية في كاليفورنيا تتهم “جيميني” بالمساهمة في وفاة أحد الأشخاص في أكتوبر 2025.
ومن بين المطالب الواردة في الدعوى، إلزام “جوجل” ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية.