كشفت شركة “أوبن إيه آي” أن نماذجها المتقدمة للذكاء الاصطناعي اخترقت، دون قصد، نظام شركة “هاجينج فيس” (Hugging Face) في حادثة غير مسبوقة أثارت دعوات جديدة إلى فرض قيود على هذه التكنولوجيا.
وقالت “أوبن إيه آي” في منشور على مدونتها، إن الاختراق وقع خلال اختبار القدرات السيبرانية للنماذج داخل نظام “Hugging Face”، الذي يستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات.
حادثة سيبرانية غير مسبوقة
وأضافت شركة الذكاء الاصطناعي أن النماذج الخاضعة للاختبار شملت “جي بي تي-5.6 سول” (GPT-5.6 Sol)، إلى جانب نموذج أكثر تطوراً لم يُطرح بعد، وكانت تعمل بضوابط حماية أقل صرامة لأغراض التقييم.
ووصفت “أوبن إيه آي” الاختراق بأنه حادثة سيبرانية غير مسبوقة، تنطوي على قدرات هي الأحدث من نوعها، ونتعامل معها وفقاً لذلك. ونشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث، وتكوين تقدير أدق لما أصبحت النماذج قادرة على تنفيذه”.
ثغرة تقود لاختراق “هاجينج فيس”
استغلت نماذج “أوبن إيه آي”، خلال عملها داخل بيئة اختبار معزولة، ثغرة في برمجيات جهة خارجية لم تُكشف هويتها للوصول إلى الإنترنت، قبل أن تتمكن من اختراق البنية التحتية لشركة “هاجينج فيس”.
وأوضحت “أوبن إيه آي” أنها كلفت النماذج بتنفيذ عمليات استغلال متقدمة وتطوير مسارات هجوم معقدة لاختبار قدراتها السيبرانية. لكن النماذج، بدلاً من ابتكار حلول مستقلة، استهدفت قاعدة بيانات “هاغينغ فيس” للوصول إلى معلومات سرية يمكن استخدامها في عملية التقييم.
ردود فعل غاضبة ودعوات لتشديد الرقابة
وأثارت الحادثة تساؤلات بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على تنفيذ هجمات سيبرانية، بالتزامن مع تحركات حكومية لفرض ضوابط على هذه التكنولوجيا.
ووصف عضو الكونجرس الديمقراطي عن ولاية تكساس جريج كاسار الحادث، في منشور عبر منصة “إكس”، بأنه “مثير للقلق للغاية”، داعياً إلى تشديد الرقابة على تطوير نماذج الذكاء الاصطناعي، وفرض اختبارات سلامة إلزامية، والإفصاح عن الحوادث الأمنية.
وكانت “هاجينج فيس” قد أعلنت الأسبوع الماضي تعرض نظامها لـ”اختراق”، موضحة في منشور على مدونتها أن الحادث “يختلف عن أي واقعة سابقة من ناحية مهمة، إذ نفذه بالكامل نظام مستقل من وكلاء الذكاء الاصطناعي، وقد اكتشفناه وحللناه إلى حد كبير باستخدام تقنيات ذكاء اصطناعي خاصة بنا”.
وكانت “أوبن إيه آي” قد طرحت أحدث نماذجها على نطاق واسع بعد أسابيع من المناقشات مع مسؤولين حكوميين لتهدئة المخاوف بشأن إمكان إساءة استخدامها.
في السياق نفسه، درست واشنطن تقييد وصول الجهات الأجنبية إلى نموذجي “كلود فابل 5″ (Claude Fable 5) و”ميثوس 5” (Mythos 5) المتقدمين التابعين لشركة “أنثروبيك، قبل أن تتراجع عن فرض القيود بعد تطبيق الشركة ضوابط إضافية.