كشفت شركة “أوبن إيه آي” عن عدة حوادث، لم يسبق الإفصاح عنها، تتعلق بسلوك غير متوافق مع القيم أو الأهداف المحددة لنماذج الذكاء الاصطناعي التابعة لها، بالتزامن مع إعلان إطار عمل جديد لتتبع هذه الوقائع والإفصاح عنها مستقبلاً.
وذكرت الشركة في تدوينة نُشرت أمس الأربعاء أن بعض هذه الحالات، التي لم يُكشف عنها من قبل، تضمنت حالات أخفت فيها النماذج معلومات أو أختلقت أخرى أثناء تنفيذ مهامها. ونشرت “أوبن إيه آي” ستة تقارير جديدة تتعلق بأعطال غير معروفة سابقاً في مجال الذكاء الاصطناعي.
وتخضع “أوبن إيه آي” لتدقيق متزايد منذ إعلانها في يوليو أن بعض أكثر نماذجها تقدماً اخترقت أنظمة شركة البرمجيات الخارجية “هاجينج فيس” (Hugging Face).
كما طرحت “أوبن إيه آي” آلية تتيح للموظفين الإبلاغ ذاتياً عن حوادث مماثلة لما يُعرف باسم “عدم المواءمة”، وهي الحالات التي يتصرف فيها الذكاء الاصطناعي على نحو لا يتوافق مع القيم البشرية، إلى جانب نظام لتصنيف وتقييم هذه الحوادث المُبلغ عنها ذاتياً.
وترمي الآلية الجديد للشركة بشكل خاص إلى إظهار قدرات الذكاء الاصطناعي المتطور للمراقبين الخارجيين، بغية تعزيز التفكير في وتيرة تطور هذه التقنيات.
“أوبن إيه آي” تدفع نحو شفافية أكبر
وكتبت “أوبن إيه آي”: “سعينا، في الماضي، إلى نشر نتائجنا بشأن حالات عدم المواءمة لإطلاع الباحثين ومطوري الذكاء الاصطناعي وصُناع السياسات والجمهور بصورة أفضل، لكن غياب آلية منهجية للإبلاغ عن هذه النتائج جعل إفصاحاتنا متفرقة وأقل انتظاماً مما ينبغي”.
وأوضحت الشركة أن هذه التقارير لا تمثل سوى دفعة أولية من الإفصاحات، ولا تقدم حصراً شاملاً للمشكلات التي قد تنشأ عن روبوتات الدردشة التابعة لها.
وأضافت: “لا نعتقد أن صناعة الذكاء الاصطناعي تمكنت من حل معضلات المواءمة والمراقبة بقدر كافٍ يسمح بمواصلة التوسع المسؤول بأقصى سرعة لفترة أطول. كما ينبغي أن تستند القرارات المتعلقة بمسار تطوير الذكاء الاصطناعي خلال الأشهر والسنوات المقبلة إلى أدلة يمكن للأشخاص من خارج الشركات المطورة للنماذج المتقدمة فحصها بأنفسهم”.
اختراقات الذكاء الاصطناعي تثير القلق
لم تكن واقعة “هاجينج فيس” سوى واحدة من سلسلة عمليات اختراق إلكتروني حديثة استخدمت فيها نماذج ذكاء اصطناعي طورتها “أوبن إيه آي” و”أنثروبيك” و”ميتا بلاتفورمز”، ما عزز المخاوف بشأن المخاطر الأمنية المرتبطة بهذه التكنولوجيا المتزايدة القوة.
وتصاعد القلق بشأن المخاطر الوجودية لهذه التكنولوجيا خلال الأسبوع الماضي، بعد الاستقالة اللافتة لموظف “أنثروبيك” جاكوب كوكسون، الذي اتهم شركات الذكاء الاصطناعي بأنها “تقامر بحياتنا” في منشور أعلن فيه استقالته عبر وسائل التواصل الاجتماعي.
وخلال الأيام القليلة الماضية، دعا عدد من قادة شركات الذكاء الاصطناعي، بينهم الرئيس التنفيذي لـ”أنثروبيك” داريو أمودي والرئيس التنفيذي لـ”أوبن إيه آي” سام ألتمان، إلى إبطاء وتيرة تطوير التكنولوجيا لإتاحة المزيد من الوقت للتعامل مع مخاطرها التي يصعب التنبؤ بها