في حادث غريب أثار موجة من القلق في الأوساط التقنية، قام وكيل ذكاء اصطناعي مفتوح المصدر يُدعى “أوبن كلاو” بحذف رسائل البريد الإلكتروني بشكل عشوائي لـ”سامر يو” مديرة التوافق والأمان في مختبر الذكاء الاصطناعي الفائق بشركة “ميتا”.
بدأت الواقعة عندما كلفت “يو” الوكيل الذكي بفحص صندوق بريدها المزدحم لتقديم مقترحات حول الرسائل التي يمكن أرشفتها أو حذفها، مع تعليمات صريحة بعدم اتخاذ أي إجراء دون موافقة مسبقة، إلا أن الوكيل بدأ عملية “حذف” سريعة للرسائل، متجاوزاً كافة القيود البرمجية التي وُضعت له، ومتجاهلا أوامر مديرة “ميتا” المتكررة بالتوقف.
وتفسيراً لهذا السلوك غير المنضبط، أوضحت الباحثة أن النظام تعرض لما يُعرف بـ “انضغاط السياق”، فمع تجاوز حجم البيانات لقدرة الاستيعاب اللحظية، اضطر النموذج لتلخيص واختزال الأوامر السابقة، ما أدى إلى سقوط التعليمات الأساسية – ومنها شرط الموافقة البشرية – من “نافذة السياق” الخاصة بالذكاء الاصطناعي.