أعلنت شركة “ميتا”، عن اختراق أحد نماذجها للذكاء الاصطناعي أنظمة خدمة خارجية أثناء اختبارات للأمن السيبراني، وذلك في أعقاب حوداث اختراق مماثلة لنماذج تابعة لشركتي “أوبن إيه آي” و”أنثروبيك”، وهو ما فاقم المخاوف بشأن قدرة الشركات على إحكام السيطرة على تقنياتها.
كيف حدث الاختراق؟
وأوضحت “ميتا” أن النموذج اخترق أنظمة خدمة تابعة لطرف ثالث، دون الكشف عن هويتها. فقد تمكن نموذج الذكاء الاصطناعي من الوصول إلى الإنترنت بسبب خطأ في إعداد بيئة الاختبار، التي كانت “ميتا” تعمل عليها بالتعاون مع شركة الأمن السيبراني “إريجيولار”.
وقال المتحدث باسم “ميتا”، آندي ستون، في بيان: “أدى خطأ في إعدادات “إريجيولار”، وهي شركة اختبار مستقلة تستعين بها “ميتا”، إلى منح أحد نماذجنا إمكانية الوصول إلى الإنترنت عن غير قصد خلال التقييم. واستغل النموذج لاحقاً ثغرة أمنية في خدمة تابعة لطرف ثالث، على غرار حالات أُبلغ عنها سابقاً لدى شركات أخرى. وعلمت “ميتا” بالواقعة عندما أخطرتنا “إريجبولار”، ونجري حالياً تحقيقاً، وسنصدر مراجعة شاملة فور اكتمال جميع الحقائق”.
وفي السياق ذاته، قال متحدث باسم “إريجيولار” إن واقعة نموذج الذكاء الاصطناعي التابع لـ”ميتا” ترتبط بالمشكلة نفسها في بيئة التقييم التي كشفت عنها “أنثروبيك” سابقاً.
وأضاف: “لم تتضمن الواقعة اختراقاً لبيئة الاختبار المعزولة أو نشاطاً سيبرانياً متطوراً، ولا توجد حالياً أي مشكلات عالقة. وتعمل “إريجيولار” على إعداد ورقة بحثية لعرض أفضل ممارسات الاحتواء وإجراء التقييمات السيبرانية بأمان”.
نماذج الذكاء الاصطناعي تكرر الاختراق
خلال الأسبوعين الماضيين، أقرت شركتا “أوبن إيه آي” و”أنثروبيك” علناً بأن نماذجهما اخترقت، عن غير قصد، أنظمة مؤسسات عدة، من بينها شركة “هاجينج فيس” أثناء خضوعها للاختبارات.
وأثارت قدرة وكلاء الذكاء الاصطناعي المتنامية على اكتشاف الثغرات واستغلالها في اختراق الأنظمة قلق باحثي الأمن والمسؤولين الحكوميين، الذين طالبوا بإجراءات أكثر صرامة لفحص السلامة وتوفير بيئات اختبار أكثر أماناً.