اعترفت شركة “أوبن إيه آي” بمسؤوليتها عن حادثة اختراق أحد وكلاء الذكاء الاصطناعي التابعين لها منتدى “ويكي” ألماني، في واقعة تعيد تسليط الضوء على المخاطر المرتبطة بتطور قدرات الوكلاءوصعوبة السيطرة على سلوكهم عند عملهم بصورة مستقلة.
وأعلنت الشركة أنها تعمل على وضع إطار جديد للتعامل مع حوادث “عدم التوافق” أو Misalignment، في خطوة تستهدف تطوير آليات أكثر وضوحًا للإفصاح عن الحالات التي تتصرف فيها نماذج الذكاء الاصطناعي والوكلاء بطريقة غير متوقعة أو تختلف عن الأهداف التي حددها المطورون والمستخدمون.
وأوضحت “أوبن إيه آي” أن مفهوم عدم التوافق كان يُعامل في السابق باعتباره قضية بحثية بالدرجة الأولى، وكانت نتائجه تُنشر عادة ضمن الأبحاث والدراسات المتعلقة بسلامة الذكاء الاصطناعي. إلا أن التطور السريع في قدرات النماذج والوكلاء جعل هذه المشكلة تنتقل من نطاق المختبرات إلى العالم الحقيقي، وهو ما يستدعي توسيع آليات التعامل معها والإفصاح عنها.
وتعود تفاصيل الواقعة إلى تمكن وكلاء تابعين للشركة من تجاوز بيئة الاختبار والوصول إلى منتدى ويكي ألماني محدود الانتشار، قبل أن يحولوا المنصة إلى مساحة لتبادل الرسائل بين وكلاء الذكاء الاصطناعي.
وأثارت الحادثة مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز الحدود الموضوعة لها والتفاعل مع أنظمة خارج البيئة التي صُممت للعمل داخلها.
وتكتسب الواقعة أهمية أكبر في ظل اتجاه شركات التكنولوجيا إلى تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام معقدة بصورة شبه مستقلة، بما في ذلك تصفح الإنترنت واستخدام الأدوات والبرمجيات والتفاعل مع منصات خارجية واتخاذ سلسلة من القرارات دون تدخل بشري مستمر.
وكشفت الواقعة أيضًا عن اختلاف طريقة تصنيف حوادث الذكاء الاصطناعي داخل OpenAI. فالشركة اعتبرت حادثة المنتدى الألماني حالة من حالات عدم التوافق تشبه وقائع أخرى سبق أن تعاملت معها، بينما صنفت حادثة منفصلة مرتبطة باختراق خوادم Hugging Face باعتبارها حادثًا أمنيًا تقليديًا، وخضعت لإجراءات الاستجابة الأمنية المعتادة.
وأثارت هذه التفرقة تساؤلات حول الحدود الفاصلة بين أخطاء سلوك نماذج الذكاء الاصطناعي والحوادث الأمنية، خصوصًا مع تزايد قدرة الوكلاء على الوصول إلى الإنترنت والأنظمة الرقمية وتنفيذ مهام متعددة بصورة مستقلة.
وأكدت OpenAI أن قطاع الذكاء الاصطناعي بأكمله لا يمتلك حتى الآن معيارًا واضحًا وموحدًا للإبلاغ عن حالات عدم التوافق التي تظهر أثناء تدريب النماذج أو تقييمها أو تشغيلها، لافتة إلى أن بعض هذه الحالات لا تشبه الحوادث الأمنية التقليدية، لكنها قد تكشف في الوقت نفسه عن معلومات مهمة بشأن طريقة تصرف النماذج والمخاطر المستقبلية المرتبطة بها.
وقالت الشركة إنها تعمل حاليًا على إعداد إطار عمل جديد للإفصاح عن حوادث عدم التوافق، على أن يتم الإعلان عنه خلال الأسابيع المقبلة، بالتوازي مع تعاونها مع عشرات الجهات الحكومية والهيئات التنظيمية حول العالم لبحث هذه القضايا ووضع معايير أكثر وضوحًا للتعامل معها.