تواصل شركة “ميتا” مساعيها ضمن إجراءات حماية الأطفال والمراهقين، في ظل تزايد المخاوف حول تعامل أنظمة الذكاء الاصطناعي مع الأزمات النفسية.
نظام جديد للسلامة
وأعلنت “ميتا” عن نظام جديد للسلامة يهدف إلى تنبيه أولياء الأمور عندما تكشف محادثات المراهقين مع روبوت الدردشة الخاص بها Meta AI عن إشارات تتعلق بالانتحار أو إيذاء النفس.
ويعتمد النظام الجديد على تقنيات ذكاء اصطناعي مخصصة لرصد المحادثات التي تتضمن إشارات واضحة إلى رغبة المراهق في إيذاء نفسه، قبل مراجعتها يدويًا من قبل فرق مختصة للتأكد من الحالة قبل إرسال إشعار إلى الوالدين.
وقالت ميتا إن عملية المراجعة البشرية تأتي بهدف تقليل الإنذارات غير الدقيقة، لكنها أوضحت أنها ستفضل اتخاذ إجراءات احترازية في الحالات التي تكون فيها نية المستخدم غير واضحة، وذلك لضمان عدم تجاهل أي مؤشرات قد تشير إلى وجود خطر محتمل.
وتأتي هذه الخطوة في ظل تصاعد الضغوط على شركات التكنولوجيا الكبرى لوضع ضوابط أكثر صرامة على روبوتات الدردشة المدعومة بالذكاء الاصطناعي، خاصة فيما يتعلق بتفاعلها مع المراهقين والمستخدمين الذين يمرون بأزمات نفسية.
وأوضحت ميتا أن ميزة التنبيهات أصبحت متاحة حاليًا لأولياء الأمور الذين يستخدمون أدوات الرقابة الأبوية على تطبيق إنستجرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، على أن يتم توسيع نطاقها عالميًا قبل نهاية العام.
توسيع إجراءات الحماية
كما وسّعت الشركة إجراءات الحماية لتشمل إمكانية تدخلها في الحالات التي تشير فيها محادثات المستخدمين مع Meta AI، سواء كانوا مراهقين أو بالغين، إلى وجود خطر وشيك يتعلق بالانتحار، حيث تعمل على التواصل مع خدمات الطوارئ عند الضرورة.
وتُعد هذه الخطوة امتدادًا لإجراءات أطلقتها ميتا سابقًا على منصاتها الاجتماعية، إذ كانت الشركة ترسل تنبيهات للآباء عند ملاحظة عمليات بحث متكررة عن محتوى متعلق بالانتحار أو إيذاء النفس على إنستجرام، كما أتاحت لهم الاطلاع على الموضوعات التي ناقشها أبناؤهم مع Meta AI خلال الفترة الأخيرة.
وفي إطار تعزيز الرقابة الأسرية، أعلنت ميتا أيضًا توسيع إعدادات “المحتوى المحدود” لتشمل روبوت الدردشة الخاص بها، بحيث يحصل المراهقون على تجربة أكثر تقييدًا، مع منع Meta AI من الدخول في محادثات تتعلق بالمحتوى الجنسي أو الرومانسي أو الكحول، إضافة إلى رفض مجموعة أكبر من الطلبات التي قد تكون غير مناسبة للفئات العمرية الصغيرة.
وتسعى ميتا من خلال هذه الإجراءات إلى تحقيق توازن بين تقديم تجارب ذكاء اصطناعي أكثر تفاعلية وبين وضع آليات حماية مشددة للمستخدمين القُصّر، في وقت أصبحت فيه سلامة الأطفال والمراهقين أحد أبرز الملفات التي تحدد مستقبل انتشار تقنيات الذكاء الاصطناعي.