تعمل شركة “أوبن إيه آي” على تطوير آليات لإيقاف أنظمة الذكاء الاصطناعي تلقائيًا، وذلك بعد أسابيع من كشف الشركة عن حادثة خروج أحد وكلائها عن السيطرة خلال اختبار أمني وتمكنه من اختراق منصة “هاجينج فيس” Hugging Face المتخصصة في الذكاء الاصطناعي.
وبحسب تقرير لوكالة “رويترز” أبلغت “أوبن إيه آي” اثنين من أعضاء الحزب الديمقراطي في مجلس النواب الأمريكي أن مهندسيها يعملون على تطوير “قدرات إيقاف التشغيل التلقائي” لأنظمة الذكاء الاصطناعي.
وخضعت ممارسات السلامة لدى الشركة للتدقيق منذ أن كشفت مطورة ChatGPT، عن حادث خروج أحد وكلاء الذكاء الاصطناعي التابعة لها عن السيطرة خلال اختبار أمني. ويعمل وكلاء الذكاء الاصطناعي هذه بأقل قدر من الإشراف البشري.
ووجّه مشرّعون، من بينهم عُضوا مجلس النواب الديمقراطيان: جريج كاسار، ودوريس ماتسوي، رسائل إلى الشركة في أغسطس، طالبوا فيها بمزيد من المعلومات حول الحادثة وإجراءات الحماية التي تتّبعها الشركة.
وفي ردّها، قالت أوبن إيه آي إنها ستراقب عن كثب الإجراءات التي تتخذها أنظمة الذكاء الاصطناعي التابعة لها لإنجاز المهام، بما في ذلك الأدوات الرقمية التي تستخدمها والخطوات التي تتبعها.
وأفادت الشركة في رسالتها بأنها شددت القيود على وصول نماذج الذكاء الاصطناعي إلى الإنترنت أثناء اختبارات الأمان. وكان البرنامج المستقل الذي خرج عن السيطرة خلال الاختبار الأمني قد تمكن من الوصول إلى الإنترنت، ما مكّنه من اختراق منصة Hugging Face.
ولم تقدم الشركة سجلًّا لعملية الاختراق، ما أثار انتقادات من كاسار. وكتب كاسار في رسالة منفصلة إلى أوبن إيه آي: “إن عدم رغبتكم في تزويد أعضاء الكونجرس بالمعلومات التي طلبناها أمر مثير للقلق للغاية، ويشير لنا إلى أن شركتكم لا تتعامل مع حوادث الأمن السيبراني هذه بالجدية المطلوبة”.
واقترح مشرّعون مشروع قانون باسم “AI Kill Switch Act” أي “قانون زر إيقاف الذكاء الاصطناعي” بعد أيام من كشف أوبن إيه آي عن خروج أحد برامجها الذكية عن السيطرة. ويمنح مشروع القانون المسؤولين الأمريكيين صلاحية إصدار أوامر إلى شركات الذكاء الاصطناعي بإيقاف النماذج التي تُعرّض حياة الإنسان أو الاقتصاد للخطر. ولا يزال مشروع القانون قيد النظر في مجلس النواب الأمريكي.