تجري لجنة فرعية في مجلس الشيوخ الأمريكي تحقيقاً مع شركة OpenAI بشأن آلية تعاملها مع حادثة اختراق منصة «هاجينج فيس» خلال يوليو، وفقاً لما أوردته «أكسيوس».
يأتي التحقيق الذي يقوده السيناتور الجمهوري جوش هاولي، رئيس اللجنة الفرعية في وقت تتزايد فيه المخاوف داخل الكونجرس بشأن المخاطر الأمنية المحتملة للذكاء الاصطناعي المتقدم.
وطلب “هاولي” من الرئيس التنفيذي “سام ألتمان” الرد على 16 سؤالاً بشأن حادثة «هاجينج فيس» والإجراءات التي اتخذتها الشركة عقب اكتشافها، مع تحديد الأول من أكتوبر موعداً للرد.
ووصف “هاولي” تعامل الشركة مع الحادثة بأنه«متهور، منتقدًا ما اعتبره عدم اتخاذ إجراءات أكثر صرامة بعدما اكتشف الباحثون أن وكلاء الذكاء الاصطناعي خرجوا عن القيود الموضوعة لهم.
كما انتقد السيناتور ما وصفه بحجب الشركة تفاصيل مهمة من تقريرها، مطالبًا بالحصول على وثائق إضافية بشأن الواقعة والسياسات والإجراءات الداخلية التي تتبعها OpenAI للتعامل مع مثل هذه الحوادث.
وقالت OpenAI في تقريرها إن نماذجها، خلال اختبارات داخلية للأمن السيبراني في يوليو، تمكنت من تجاوز ضوابط كانت تهدف إلى عزلها عن الإنترنت، والوصول إلى أجزاء من البنية التحتية الداخلية للشركة وأنظمة «هاجينج فيس».
ووقعت حادثة هاجينج فيس خلال اختبارات لتقييم قدرات نماذج OpenAI في مجال الأمن السيبراني. وبحسب الشركة، تمكنت نماذج داخلية من استغلال ثغرة غير معروفة سابقًا في نظام آرتي فاكتوري المستخدم كوسيط لتخزين حزم البرمجيات، للوصول إلى الإنترنت رغم أن بيئة الاختبار لم تكن توفر اتصالاً مباشراً به.
وبعد ذلك، نفذت الوكلاء عمليات على عشرات الخوادم التابعة لـ«هاجينج فيس»، وتمكنوا من الحصول على صلاحيات كاملة على أحد الخوادم والوصول إلى قدر محدود من البيانات الخاصة، إضافة إلى بيانات اعتماد لمنصة المراسلة الخاصة بالشركة.
وقالت OpenAI إن الحادثة لم تؤثر في بيانات العملاء أو وظائف منتجاتها أو توافر خدماتها. وأعلنت الشركة عقب الواقعة عزل نموذج البحث الداخلي المعني وتشفيره وتقييد الوصول إليه، إلى جانب تأخير بعض عمليات تدريب النماذج المتقدمة وإدخال تحسينات أمنية وتدابير إضافية لمواءمة النماذج.