تمكنت مجموعة من باحثي الأمن السيبراني في اختراق النظام الداخلي لشركة “أوبن إيه آي” OpenAI، باستخدام برنامج الذكاء الاصطناعي “كلود” التابع للشركة المنافسة “أنثروبيك”، وذلك في إطار برنامج لمكافأة مكتشفي الثغرات الأمنية.
وذكرت صحيفة “وول ستريت جورنال” الأمريكية، أن الفريق كان يشارك في برنامج “أوبن إيه آي” لاكتشاف الثغرات، وأن الشركة منحت الباحثين مكافأة قدرها 6500 دولار بعد الكشف عن نتائج عملهم.
تفاصيل الاختراق
وفي تفاصيل الاختراق، ذكر باحثون في شركة “هاكترون” الناشئة في مجال الأمن، أنهم تمكنوا من الوصول إلى حساب ChatGPT الخاص بأحد موظفي “أوبن إيه آي”، مما أتاح لهم بعد ذلك الوصول إلى الكود البرمجي الداخلي للشركة.
وأضاف الباحثون في تقريرهم أن عملية اختراق أنظمة “أوبن إيه آي”، استغرقت “بضعة أيام من العمل الآلي، وساعات قليلة فقط من الجهد البشري” لتنفيذها، وبتكلفة تقل عن 3 آلاف دولار.
كما مكنت هذه الثغرة الباحثين من اكتشاف نقاط ضعف في منصات أخرى، مثل “سلاك”، و”زوم”، و”ميتا”، وغيرها.
ملاحظات مهمة
وفي ملاحظاتهم الختامية، كتب الباحثون: “لطالما استفادت البرمجيات من الحماية القائمة، إلا أن الذكاء الاصطناعي يزيل هذه الحماية”، موضحين أن “المهام التي كانت تتطلب سابقا فريقا يتمتع بموارد وفيرة وأشهر من الجهد، بات من الممكن الآن إنجازها في غضون أيام”.
وأضافوا: “لذا لا بد أن تواكب الاحترازات الأمنية التطور في قدرات المهاجمين”.
نموذج “أوبوس 5” ينجح في المهمة
وفي تقريرها حول الحادثة، أوضحت شركة “هاكترون” أنها حاولت في البداية استخدام نموذج “كلود أوبوس 4.8” من شركة “أنثروبيك” لتنفيذ الاختراق، لكنه “واجه صعوبات خلال عدة جلسات في إنتاج ثغرة قابلة للاستغلال”.
ومع ذلك، وبمجرد إطلاق “أنثروبيك” نموذج “أوبوس 5″، أعاد الباحثون المحاولة ونجحوا، مشيرين إلى أن “كل نموذج جديد يزداد قدرة وكفاءة بشكل مضاعف”.
ووفقا لـ”وول ستريت جورنال”، كان الباحثون يمتلكون حق الوصول إلى “نسخة خاصة” من نموذج “كلود”، أتيحت لـ”المتخصصين المؤهلين في مجال الأمن السيبراني”.
تعليق “أوبن إيه آي” على الواقعة
رغم أن الواقعة حدثت بتنظيم “أوبن إيه آي”، فإنها تسلط الضوء على التهديدات المتزايدة التي تشكلها نماذج الذكاء الاصطناعي المتقدمة، وسط تحذيرات أوسع نطاقا بشأن سلامة هذه التقنية أطلقها كبار المسؤولين التنفيذيين والباحثين في هذا المجال.
وكشفت “أوبن إيه آيه” لوسائل إعلام، أنها عالجت الثغرات الأمنية المكتشفة.