فرضت شركة “أوبن إيه آي” OpenAI ضوابط أكثر صرامة لمراقبة نماذج الذكاء الاصطناعي قيد التطوير وحمايتها، في أعقاب حوادث أمن سيبراني أثارت مخاوف بشأن قدرة هذه التقنية على تنفيذ عمليات اختراق تتجاوز التوقعات.
وقالت الشركة في بيان أمس الثلاثاء، إنها ستوسع نطاق مراقبة طريقة تعامل أكثر نماذجها تقدمًا قيد التطوير مع المهام واستخدامها أدوات مختلفة عبر الإنترنت، بهدف تنبيه فرق السلامة إلى أي سلوك مقلق خلال 30 دقيقة.
كما أضافت OpenAI ضوابط جديدة لمنع بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت لتنفيذ مهام عالية المخاطر، إلى جانب اشتراط عزل أقوى، أو ما يعرف بـ”صندوق الحماية”، عند تدريب النماذج وتقييمها في مهام تتضمن تنفيذ شفرات برمجية مولدة بواسطة النماذج نفسها أو شفرات غير موثوقة.
واعتبرت OpenAI أن أحدث الجهود لتعزيز السلامة وضمان عمل نماذج الذكاء الاصطناعي على النحو المقصود تهدف إلى مساعدة الشركة على مواكبة التكنولوجيا مع ازدياد قدراتها بمرور الوقت.
وقالت ميا جليز، نائبة رئيس الأبحاث في OpenAI خلال إحاطة مع الصحفيين: “من الواضح أن كل ما نقوم به يهدف إلى منع تكرار ما حدث مع هاجينج فيس”.
وأضافت: “لكن قدرات النماذج تتقدم بسرعة كبيرة جداً، لذلك فإن هذا ليس كافياً بأي حال من الأحوال. ونحن نعمل بجد كبير للتأكد من أن ما نقوم به يظل متقدماً حتى على النماذج الأكثر قدرة”.
وكانت OpenAI قد قالت في وقت سابق إنها أوقفت مؤقتاً بعض الأعمال الداخلية المتعلقة بأحد نماذج الذكاء الاصطناعي المقبلة لديها لتطبيق ضمانات أكثر صرامة. وقالت الشركة في تدوينة أمس الثلاثاء إن عملية تدريب كبيرة لا تزال معلقة، مؤكدة أنها تخطط لنشر تحليل مفصل لحادثة “هاجينج فيس” قريباً.
وتأتي هذه الإجراءات بعدما أقرت OpenAI و”أنثروبيك” خلال الأسابيع الأخيرة بأن بعض نماذجهما تمكنت بصورة غير مقصودة، من اختراق أنظمة عدة مؤسسات، من بينها منصة “هاجينج فيس”، أثناء عمليات التقييم.
وتمثل أحدث الإفصاحات دليلاً جديداً على أن وكلاء الذكاء الاصطناعي قادرون على التصرف بصورة مستقلة بطرق لم يعد حتى الباحثون المدربون على اكتشاف الثغرات في هذه التكنولوجيا قادرين على توقعها.