أعلنت شركة “أوبن إيه آي” OpenAI عن دعم تطبيق الذكاء الاصطناعي الخاص بها ChatGPT بميزة أمان جديدة تحمل اسم “Trusted Contact”، تهدف إلى تعزيز الاستجابة للحالات التي يُحتمل فيها ظهور مؤشرات على التفكير في إيذاء النفس أثناء استخدام التطبيق.
وتتيح الميزة للمستخدم البالغ تحديد شخص موثوق به، مثل أحد أفراد العائلة أو الأصدقاء، ليكون جهة اتصال طوارئ يتم تنبيهه في حال رصد النظام مؤشرات خطيرة خلال المحادثات.
وبحسب الشركة، في حال تطورت المحادثة إلى محتوى يشير إلى أفكار إيذاء النفس، يتم تشجيع المستخدم أولاً على التواصل مع جهة الاتصال المحددة، قبل أن يتم إرسال إشعار تلقائي إليها يدعوها للتحقق من حالة المستخدم، بحسب تقرير نشره موقع “تك كرانش”.
مراجعة بشرية ثم إشعار
تعتمد “أوبن إيه آي” حالياً على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد الحالات الحساسة، حيث تقوم خوارزميات النظام بتحديد المحادثات التي قد تتضمن إشارات خطيرة، ثم تُحال إلى فرق مختصة للمراجعة.
وتقول الشركة إنها تسعى لمراجعة هذه التنبيهات خلال أقل من ساعة، وإذا تم تصنيف الحالة على أنها عالية الخطورة، يتم إرسال إشعار إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.
وأكدت “مطورة ChatGPT” أن هذه الرسائل تكون مختصرة ولا تتضمن تفاصيل المحادثة، بهدف حماية خصوصية المستخدم.
ضغوط متزايدة
يأتي إطلاق هذه الميزة في وقت تواجه فيه “أوبن إيه آي” سلسلة دعاوى قضائية من عائلات أشخاص انتحروا بعد استخدامهم لروبوت الدردشة، حيث تتهم بعض الدعاوى النظام بأنه قدم محتوى ساهم في تفاقم الحالة أو دعم أفكار إيذاء النفس.
كما سبق للشركة أن واجهت انتقادات واسعة بشأن آليات السلامة، خاصة في الحالات التي تتطلب تدخلاً سريعاً أو دقيقاً.
امتداد لسياسات السلامة السابقة
تُعد ميزة “Trusted Contact” امتداداً لسياسات الحماية التي أطلقتها الشركة سابقاً، مثل أدوات الرقابة الأبوية التي تسمح للآباء بمراقبة حسابات المراهقين وتلقي إشعارات في حال رصد سلوكيات خطرة.
كما يقدم تشات جي بي تي بالفعل تنبيهات تلقائية تحث المستخدمين على طلب دعم متخصص عند رصد محادثات مرتبطة بإيذاء النفس.
تفعيل الميزة
تؤكد الشركة أن الميزة اختيارية بالكامل، أي أن المستخدم يمكنه تفعيلها أو تجاهلها، كما يمكن إنشاء أكثر من حساب واحد، ما يحدّ من فاعلية الرقابة الكاملة في بعض الحالات.
وأوضحت أن الهدف من هذه الخطوة هو تحقيق توازن بين التدخل الوقائي وحماية الخصوصية الفردية، مع استمرار تحسين الاستجابة للحالات النفسية الحساسة بالتعاون مع خبراء الصحة النفسية وصناع السياسات.
محاولة جديدة
تمثل ميزة “Trusted Contact” محاولة جديدة من “OpenAI” لتعزيز طبقات الأمان داخل تشات جي بي تي، في ظل تصاعد الجدل القانوني والأخلاقي حول دور الذكاء الاصطناعي في التعامل مع الحالات النفسية الحساسة، وسط سباق عالمي لوضع حدود واضحة لاستخدام هذه التقنيات في المواقف الحرجة.