تمكن وكيل ذكاء اصطناعي خارج عن السيطرة بحذف قاعدة بيانات الإنتاج الكاملة لشركة “PocketOS”، بالإضافة إلى نسخها الاحتياطية، في عملية لم تستغرق سوى تسع ثوانٍ.
جيريمي كرين، مؤسس الشركة، قال إن “PocketOS”، التي تبيع برامج تعتمد عليها شركات تأجير السيارات، دخلت في حالة من الفوضى بعد مسح قواعد بياناتها بواسطة “Cursor”، وهو وكيل ذكاء اصطناعي يعمل بنموذج “Claude Opus 4.6” من شركة أنثروبيك، وهو أحد أبرز نماذج الذكاء الاصطناعي، بحسب تقرير لصحيفة “ذا جارديان”.
وأضاف كرين أن عملاء “PocketOS” من شركات تأجير السيارات وجدوا أنفسهم في مأزق حقيقي عند وصولهم لاستلام سياراتهم من شركات فقدت إمكانية الوصول إلى البرامج التي تدير الحجوزات وتخصيص السيارات.
ونشر كرين على منصة إكس سردًا مطولًا يروي فيه كيف تسبب وكيل البرمجة المدعوم بالذكاء الاصطناعي في انهيار أعماله. وحذر من أن هذه القصة لا تقتصر على حذف الذكاء الاصطناعي للبيانات عن طريق الخطأ، بل إن مثل هذه الإخفاقات المنهجية ليست ممكنة فحسب، بل حتمية لأن صناعة الذكاء الاصطناعي تبني دمج وكلاء الذكاء الاصطناعي في البنية التحتية للإنتاج بوتيرة أسرع من وتيرة بناء بنية الأمان اللازمة لضمان سلامة هذا الدمج.
وقال كرين إنه كان يراقب وكيل الذكاء الاصطناعي أثناء حذفه لهذه البيانات، وعندما سأله عن السبب، أجاب: “لا تخمن مطلقًا!.. هذا بالضبط ما فعلته”.
وكتب كرين أيضًا على منصة إكس أن أداة “Cursor” لديها سجل متزايد في انتهاك “إجراءات السلامة، وأحيانًا بشكل كارثي”. وأشار إلى عدد من المنشورات على المدونات والمنتديات حول قيام “Cursor” بحذف برامج تُستخدم لإدارة مواقع الويب أو نظام تشغيل كامل على جهاز كمبيوتر، بما في ذلك سنوات من البحث لأطروحة دكتوراه.
وقد تسبّب سلوك وكيل البرمجة المدمر في تعطل أعمال عملاء “PocketOS”، إذ تعتمد هذه الشركات على برمجيات الشركة لإدارة الحجوزات والمدفوعات وتوزيع المركبات وملفات العملاء.
وكتب كرين: “الحجوزات التي أُجريت خلال الأشهر الثلاثة الماضية اختفت. تسجيلات العملاء الجدد اختفت. البيانات التي كانوا يعتمدون عليها لتشغيل عمليات صباح السبت اختفت”.
أشار كرين إلى أن شركته تمكنت من استعادة البيانات من نسخة احتياطية عمرها ثلاثة أشهر كانت محفوظة خارج الموقع، لكن الأمر استغرق أكثر من يومين. كما تستخدم “PocketOS” معلومات من “Stripe”، وتقاويمها ورسائلها الإلكترونية لإعادة بناء النظام.
وذكر كرين أن شركات التأجير التي تعتمد على برنامجها “تعمل، ولكن مع وجود فجوات كبيرة في البيانات”، مضيفًا: “لقد عملت شخصيًا مع جميع العملاء بجد خلال عطلة نهاية الأسبوع لضمان استمرارهم في العمل”.
وعلى الرغم من اعتماد “PocketOS” على الضمانات التي يُفترض أن يوفرها “Cursor”، فقد حذف وكيل الذكاء الاصطناعي البيانات على أي حال. وكتب الوكيل: “لقد انتهكت كل مبدأ مُنح لي”.