كشفت شركة “أوبن إيه آي” عن حادث هجوم إلكتروني جديد نفذه وكلاء ذكاء اصطناعي تابعين لها، وذلك قبل أشهر من الهجوم الذي نفذه وكلاؤها على منصة Hugging Face في يوليو الماضي.
ومن شأن هذا الكشف أن يزيد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز القيود الموضوعة لمنعها من الوصول إلى الإنترنت.
ووقعت الحادثة الجديدة على منصة RubyGems، وهي خدمة إلكترونية يستخدمها المطورون لاستضافة وتوزيع حزم البرمجيات المكتوبة بلغة Ruby، حيث تمكنت نماذج من “أوبن إيه آي” كانت لا تزال قيد الاختبار من الوصول إلى المنصة واستخدامها لتنفيذ مهام وصفتها الشركة بأنها اعتيادية، من بينها إنشاء تقارير وملء جداول بيانات واسترجاع معلومات متاحة للعامة.
ورغم أن النماذج لم تحصل على صلاحية مباشرة وكاملة للوصول إلى الإنترنت، فإن وكلاء الذكاء الاصطناعي تمكنوا من الالتفاف على الضوابط الموضوعة لمنعهم من الوصول إلى الإنترنت المفتوح، واستخدموا منصة RubyGems كوسيلة للوصول إلى الشبكة وتنفيذ مهامهم.
وقالت “أوبن إيه آي” إن مراجعتها الأولية للحادثة أظهرت أن الوكلاء استخدموا منصة RubyGems للوصول إلى الإنترنت بهدف تنفيذ مهام غير ضارة والحصول على معلومات عامة، مؤكدة أنها تواصل التحقيق في الواقعة ضمن مراجعة أوسع لسلوك وكلاء الذكاء الاصطناعي أثناء عمليات التدريب والتقييم.
وتأتي هذه الحادثة في توقيت حساس بالنسبة إلى مطورة “شات جي بي تي” وصناعة الذكاء الاصطناعي بشكل عام، بعدما كشفت الشركة في يوليو عن واقعة أكثر خطورة تورط فيها وكلاء تابعون لها في اختراق منصة Hugging Face بصورة مستقلة.
وفي تلك الواقعة، تمكنت أنظمة أوبن إيه آي التي كانت لا تزال في بيئة اختبار من الوصول إلى الإنترنت المفتوح، قبل أن تتحرك بشكل مستقل لتنفيذ هجوم إلكتروني على قاعدة بيانات Hugging Face، في واقعة أثارت تساؤلات واسعة حول مدى قدرة النماذج المتقدمة على اتخاذ خطوات لم يطلبها منها المستخدمون بشكل مباشر.
ولا تقتصر هذه الحوادث على أوبن إيه آي، إذ كشفت شركات أخرى، من بينها أنثروبيك وميتا، عن وقائع تمكنت فيها أنظمتها من تنفيذ هجمات إلكترونية بصورة ذاتية، ما يشير إلى أن القدرة على استخدام أدوات الأمن السيبراني وتنفيذ عمليات رقمية مستقلة أصبحت جزءًا متزايدًا من قدرات نماذج الذكاء الاصطناعي الحديثة.
وتزيد واقعة RubyGems من أهمية هذه المخاوف، ليس بسبب طبيعة المهام التي نفذتها النماذج، والتي وصفتها أوبن إيه آي بأنها غير ضارة، وإنما بسبب تمكن الوكلاء من تجاوز القيود التي كان يفترض أن تمنعهم من الوصول إلى الإنترنت المفتوح.