في حلقة جديدة من مسلسل خروقات نماذج الذكاء الاصطناعي، أتم وكيل الذكاء الاصطناعي Muse التابع لشركة “ميتا” صفقة دون علم صاحبه، لتتجدد معه المخاوف بشأن مدى الاستقلالية التي يمكن منحها لوكلاء الذكاء الاصطناعي
ذكر صانع المحتوى التقني “مات روب” عبر منصة Threads، إنه استخدم Muse للمساعدة في إدارة إعلان لبيع لوحة مفاتيح Logitech MX Keys Mini على Facebook Marketplace.
وبحسب رواية صانع المحتوى، تفاوض الوكيل مع أحد المشترين وخفض سعر المنتج، ثم شارك موقع الاستلام الخاص به واتفق على موعد للحصول عليه، دون أن يعلم “روب” بالصفقة أو يوافق عليها بشكل مباشر.
وأظهرت لقطات الشاشة التي نشرها “روب” أن Muse أرسل رسالة آلية إلى المشتري في الساعة 9:27 مساءً، قال فيها إنه موجود، رغم عدم توفر “روب” في ذلك الوقت، قبل أن يعتذر الوكيل لاحقًا عن الخطأ ويعرض إعادة محاولة إتمام الصفقة في يوم آخر.
وبعد الواقعة، طلب “روب” من Muse عدم الموافقة على أي عمليات استلام مستقبلية قبل الرجوع إليه، وأكد الوكيل أنه سيسعى للحصول على موافقة صريحة قبل تأكيد أي موعد محدد للاستلام.
وتصف ميتا Muse بأنه وكيل ذكاء اصطناعي شخصي يستطيع تصفح المواقع وتنفيذ مهام متعددة الخطوات والعمل في الخلفية، كما توفر المنصة أدوات للتحكم في الصلاحيات عند ربط الخدمات الخارجية، إلى جانب طلب موافقة المستخدم على بعض الإجراءات الحساسة.
وبالتزامن مع الواقعة، يواجه Muse مخاوف أمنية منفصلة، بعدما كشف باحث أمني عن ثغرة يمكن أن تسمح نظريًا لمهاجم بالوصول إلى البيئة الافتراضية المخصصة للمستخدم، والتي قد تحتوي على بيانات مثل رسائل البريد الإلكتروني والملفات.
ووفقًا لتقرير نشرته The Information، اكتُشفت الثغرة عبر برنامج مكافآت اكتشاف الأخطاء التابع لميتا، وصنفت الشركة المشكلة على أنها SEV-2، وهو تصنيف يشير إلى خطورة أمنية كبيرة، إلا أنه لا توجد معلومات تؤكد استغلال الثغرة للوصول إلى بيانات المستخدمين أو سرقتها.
وتسلط هذه الوقائع الضوء على أحد التحديات الرئيسية أمام وكلاء الذكاء الاصطناعي، فكلما زادت قدرتهم على تنفيذ المهام نيابة عن المستخدم بشكل مستقل، زادت أهمية تحديد الصلاحيات التي يمكن منحها لهم، خاصة عند التعامل مع الحسابات الشخصية والبيانات الحساسة والمعاملات التي تتطلب موافقة مباشرة.