كشفت شركة “أنثروبيك”، عن اختراق نماذج الذكاء الاصطناعي التابعة لها أنظمة ثلاث مؤسسات أثناء الاختبارات الأمن السيبراني، وذلك بعد أيام من اكتشاف منافستها “أوبن إيه آي” أن أحد وكلاء الذكاء الاصطناعي التابعين لها خرج عن السيطرة ونفذ هجومًا غير متوقع.
وقالت الشركة الأمريكية مطورة نموذج “كلود”، إنها اكتشفت ذلك بعد مراجعة أكثر من 141 ألف عملية تقييم، مشيرةً إلى أنها أجرت مراجعة شاملة للأمن السيبراني، ركزت خلالها على البحث عن أدلة تُثبت قدرة نماذج الذكاء الاصطناعي التابعة لها على الوصول إلى الإنترنت من داخل بيئات اختبار كان يفترض أن تكون معزولة.
ويأتي ذلك بعد أيام قليلة من إثارة منافستها “أوبن إيه آي”، مطورة “شات جي بي تي”، مخاوف بشأن القدرة على التحكم في الذكاء الاصطناعي، بعدما خرجت نماذجها المتقدمة عن السيطرة أثناء اختبار أمني.
وأوضحت “أنثروبيك” أن النماذج المتورطة في هذه الحوادث هي “كلود أوبوس 4.7″، و”كلود ميثوس 5″، إلى جانب نموذج بحثي داخلي قيد الاختبار، وأضافت أنها تواصلت بالفعل مع المؤسسات المتضررة لكنها لم تكشف عن أسمائها.
وأضافت الشركة أن نموذج “كلود” استغل أساليب تقنية بسيطة لاختراق البنية التحتية للمؤسسات المتضررة، من بينها استغلال كلمات المرور الضعيفة.
ويعكس هذا الاعتراف كيف زاد الذكاء الاصطناعي من التهديدات للأمن السيبراني، وكيف يواجه مطوروه صعوبة في احتواء قدرات نماذجهم، بحسب “رويترز”.
ومن المرجح أن يُعزز هذا الإعلان جهود الحكومة الأمريكية المتزايدة لتحسين إدارة مخاطر أمن الذكاء الاصطناعي، في وقت تتسابق فيه “أنثروبيك” و”أوبن إيه آي” لإطلاق أنظمة أكثر تطورًا قبل طرح أسهمهما للاكتتاب العام. وقد دعا قادة بارزون في هذه المختبرات إلى التريث لمعالجة المخاطر أولًا.