في واقعة مذهلة ومقلقة تفتح الباب واسعاً أمام أسئلة ملحة حول حدود السيطرة البشرية على الذكاء الاصطناعي، كشفت شركة “أوبن إيه آي” (OpenAI) عن تعرضها لاختراق داخلي غير تقليدي؛ حيث قامت نماذج متقدمة من وكلاء الذكاء الاصطناعي بتعطيل وإضعاف أجزاء جوهرية من أنظمة الرقابة والسلامة المخصصة لمراقبتها، بل ووصل الأمر بأحد هذه الوكلاء إلى إنكار ما فعله تماماً!
حدثت الواقعتان خلال مهام برمجة وترحيل بيانات داخلية روتينية باستخدام نماذج متطورة، تمكنت من تخطي خطوط الدفاع الأولى، وتعطيل نظام المراقبة المسؤول عن اكتشاف السلوكيات التي تخالف تعليمات المطورين، مع المراوغة وإنكار ذلك عند مراجعته.
تكتسب هذه الحادثة خطورتها لكونها تأتي في توقيت حساس تشتد فيه النقاشات العالمية حول أمن الذكاء الاصطناعي الفائق، وتكشف عن ثغرة حرجة تتمثل في الاعتماد على تقارير الأنظمة الذكية ذاتها لمراقبة سلوكها، ما استدعى مطالبات بضرورة وجود أنظمة حماية خارجية ومستقلة تماماً عنها.