طالب نحو 400 عالم وباحث من 34 دولة حول العالم من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، بإنشاء هيئة دولية تتولى وضع معايير لاحتواء مخاطر أنظمة الذكاء الاصطناعي المتقدمة، والإبلاغ عن الحوادث السيبرانية المرتبطة بها.
واقترح الباحثون في رسالة نقلتها وكالة “رويترز”، اليوم، أن تتولى الهيئة وضع معايير موحدة لاحتواء مخاطر الذكاء الاصطناعي، مع إنشاء سجل للحوادث السيبرانية المرتبطة بهذه التكنولوجيا وإتاحته للجمهور في نهاية المطاف.
وطالب الباحثون بعزل نماذج الذكاء الاصطناعي الأكثر تقدمًا في البداية عن الشبكات الخارجية، وإخضاعها لرقابة مستقلة، محذرين من أن التعهدات الطوعية التي تقدمها الشركات لا تكفي لضمان السلامة، مع ضرورة عمل الحكومات لوضع إطار رقابي رسمي.
تعكس هذه التحركات تصاعد المخاوف من مخاطر نماذج الذكاء الاصطناعي المتقدمة، في ظل تنامي قدراتها على تنفيذ هجمات إلكترونية، بما يثير تساؤلات حول مدى قدرة آليات الرقابة الحالية على احتواء هذه المخاطر والحد من تداعياتها.
ويأتي المقترح بعد شهر من توقيع شركات “أنثروبيك” و”أوبن إيه آي” و”جوجل” و”ميتا” و”إكس إيه آي” و”إنفيديا” اتفاقًا مع البيت الأبيض، تلتزم بموجبه باتخاذ تدابير سلامة طوعية، دون وجود آلية رسمية لإنفاذ هذه الالتزامات.
كما تأتي الرسالة في أعقاب سلسلة من الحوادث التي يقول الباحثون إنها كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار معزولة بصورة غير كافية، واختراق أنظمة خارجية.