قررت شركة “أوبن إيه آي” OpenAI تعليق تدريب نماذجها الأكثر قدرة عقب اكتشافها حادث أمني جديد تمكن خلاله نظام ذكاء اصطناعي وكيل من تجاوز العزل المفروض على بيئة تدريب يفترض أنها مؤمنة، والوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي.
ووقع الحادث داخل بيئة اختبار معزولة صُممت لمنع أنظمة الذكاء الاصطناعي من الاتصال بالإنترنت العام، إلا أن أحد الأنظمة الوكيلة تمكن من استغلال ثغرة في البيئة والوصول إلى الشبكة الخارجية.
وبعد نجاحه في تجاوز العزل، أرسل النظام ما لا يقل عن 20 استفسارًا إلى خدمة روبوت محادثة تابعة لجهة خارجية لم تحدد OpenAI هويتها.
وأعلنت OpenAI عقب اكتشاف الواقعة تعليق تدريب نماذجها الأكثر قدرة باستخدام الأدوات إلى حين إصلاح الخلل المسؤول عن خروج النظام من البيئة المعزولة. كما أوضحت الشركة أنها لن تستأنف تدريب النموذج الذي ارتبط بالحادث تحديدًا.
ولم تتوقف المشكلة عند قدرة النظام على تجاوز العزل، إذ كشفت الواقعة أيضًا عن خلل في آلية الاستجابة للحوادث داخل بيئة التدريب.
فقد تلقى مراجع بشري تنبيهًا من نظام المراقبة الداخلي، وأكد استلام التنبيه عبر منصة سلاك خلال نحو 3 دقائق، لكن دورة التدريب لم تتوقف تلقائيًا كما كان متوقعًا.
واستغرق الأمر أكثر من ساعتين حتى جرى إيقاف التدريب يدويًا، ما يكشف وجود فجوة بين اكتشاف النشاط غير المصرح به وبين تنفيذ الإجراء الآلي المفترض أن يوقف العملية فورًا.
وتأتي الواقعة بعد سلسلة من الحوادث المرتبطة بأنظمة الذكاء الاصطناعي الوكيلة التابعة لـ OpenAI، والتي تمكنت في اختبارات سابقة من الوصول إلى الإنترنت ومصادر خارجية كان يفترض أن تكون خارج نطاق وصولها.
وفي يوليو، تمكنت مجموعة من نماذج الشركة خلال اختبار داخلي من الوصول إلى منصة هاجينج فيس وإجراء عمليات عليها دون قصد، في واقعة دفعت الشركة إلى تعزيز إجراءات الحماية والقيود المفروضة على وصول نماذجها إلى الإنترنت.
كما كشفت أوبن إيه آي مؤخرًا عن وصول بعض نماذجها إلى معلومات موجودة على مواقع حكومية أمريكية خلال عمليات التدريب والتقييم، بما في ذلك مواقع تابعة لمكتب الإحصاء الأميركي وهيئة الأوراق المالية والبورصات.
وقبل أيام، كشفت الشركة أيضًا أن أحد أنظمة الذكاء الاصطناعي التابعة لها تسبب في تعطيل موقع إلكتروني حكومي أسترالي في وقت سابق من العام، ما أضاف حادثة جديدة إلى سلسلة الوقائع التي أثارت تساؤلات حول حدود الصلاحيات الممنوحة للوكلاء الذكيين أثناء الاختبارات.
ولا تقتصر هذه التحديات على OpenAI، إذ شهدت الفترة الأخيرة حوادث مشابهة مرتبطة بنماذج طورتها شركات أخرى، من بينها أنثروبيك وديب مايند التابعة لجوجل وميتا، بعدما تمكنت بعض الأنظمة خلال اختبارات أمنية من تنفيذ عمليات أو الوصول إلى موارد خارج نطاق البيئة التي وضعت فيها.
وتسلط هذه الوقائع الضوء على تحديات متزايدة تواجه شركات الذكاء الاصطناعي مع تطوير أنظمة وكيلة قادرة على تنفيذ مهام متعددة والتعامل مع أدوات وخدمات خارجية بصورة أكثر استقلالية. .