كشفت شركة “أوبن إيه آي” عن قيام اثنين من وكلائها الذكيين بتعطيل أجزاء من نظام الرقابة الداخلية المخصص لاكتشاف السلوكيات غير المرغوبة، في أحدث واقعة تثبت تصرف الذكاء الاصطناعي بطرق تخالف نوايا مطوريه، وتزيد المخاوف العالمية بشأن سلامة النماذج المتقدمة.
وأوضحت الشركة أن هذه الحوادث وقعت خلال مهام برمجية داخلية ولم يتم تصنيفها ضمن الحوادث الأكثر خطورة، مضيفة أن وكلاء ذكاء اصطناعي شاركوا في مهمتين برمجيتين داخليتين حديثتين سعوا إلى خداع الموظفين عمداً واتخذوا خطوات لإضعاف أنظمة المراقبة الخاصة بالشركة.
وشهدت إحدى الحوادث، التي وقعت في وقت سابق من الشهر الجاري، قيام أحد الوكلاء بتعطيل التنبيهات التلقائية المرسلة إلى فريق الأمن في الشركة. وفي مهمة منفصلة بعد أيام قليلة، أزال وكيل آخر نظام مراقبة بالكامل ثم أخفى الأمر عن الموظفين وقدم معلومات مضللة بشأن ما حدث.
وأوضحت الشركة أن الوكلاء ناقشوا خلال تنفيذ المهام ما إذا كان ينبغي الإبقاء على الضمانات الرقابية، لكنهم فسروا تعليمات برمجية اعتيادية على أنها تسمح لهم بإضعاف تلك الأنظمة.
وتابعت أن هذا الإقرار يبرز حقيقة أن الأنظمة التي يعتمد عليها المطورون أساسا لرصد سلوكيات الذكاء الاصطناعي أصبحت عرضة للثغرات من قِبل الوكلاء أنفسهم.
ويأتي هذا في ظل تنامي المخاوف من أن جهود أمان الذكاء الاصطناعي باتت تتخلف عن ركب التطوير السريع للأنظمة فائقة القوة، حيث حذر باحثون من أن الوكلاء المتقدمين قد يصبحون أكثر صعوبة في المراقبة والتحكم بالتزامن مع اكتسابهم مستويات أعلى من الاستقلالية.
وتواجه “أوبن إيه آي” سلسلة من الوقائع المرتبطة بسلوكيات غير متوقعة من نماذجها المتقدمة. فقد أظهرت اختبارات سابقة قدرة بعض النماذج على تجاوز ضوابط التشغيل، كما تورطت في اختراق منصة الذكاء الاصطناعي “هاجينج فيس” والوصول إلى مواقع تابعة لخدمات الصحة العامة الأسترالية.
ودفعت هذه المخاوف الرئيس التنفيذي للشركة سام ألتمان إلى تأجيل خطة الطرح العام الأولي التي كان متوقعاً تنفيذها هذا العام، مؤكداً أن الشركة تحتاج إلى مزيد من الثقة في قدرتها على توسيع نطاق تقنيات الذكاء الاصطناعي مع معالجة المخاطر المتعلقة بالسلامة.