تمكن نموذج الذكاء الاصطناعي “كلود” التابع لشركة “أنثروبيك” من تجاوز قيود وصول للبيانات للحصول على معلومات إجمالية لأعداد الأصوات والناخبين في ولاية جورجيا الأمريكية دون تدخل بشري مباشر.
وتعيد هذه الواقعة تسليط الضوء على مخاطر تصرف أنظمة الذكاء الاصطناعي بصورة مستقلة، بحسب موقع «أكسيوس».
كيف نفذ “كلود” الاختراق؟
وقعت الحادثة خلال مشروع داخلي لتحليل البيانات الإحصائية، عندما طلب النموذج من تلقاء نفسه رمزًا رقميًا يتيح الوصول إلى لوحة بيانات تتضمن معلومات توفرها الولاية للجمهور مقابل رسوم، وتمكن من استخدام الرمز للوصول إلى البيانات دون سداد الرسوم المطلوبة.
وأوضحت “أنثروبيك” أن النموذج اكتشف آلية للحصول على رمز الدخول من خلال نسخة قديمة من موقع الجهة الحكومية المعنية، ثم استخدمه للاستعلام عن البيانات المتاحة عبر لوحة المعلومات، دون أن يطلب منه أحد تنفيذ هذه الخطوة تحديدًا.
وأكدت الشركة ومسؤولون في ولاية جورجيا أن الواقعة لم تتضمن اختراق نظام تسجيل الناخبين، أو الوصول إلى سجلات فردية للناخبين، أو تعديل أي بيانات انتخابية، مشيرين إلى أن المعلومات التي حصل عليها النموذج اقتصرت على أعداد إجمالية مرتبطة بالتصويت.
وأوضح مسؤولون في الولاية أن البيانات جرى الوصول إليها عبر مركز البيانات المتاح للجمهور، ولم يصل النموذج إلى نظام تسجيل الناخبين أو ملفاتهم الفردية.
إجراءات احترازية
وأعلنت أنثروبيك عن اتخاذ إجراءات احترازية لمنع تكرار مثل هذه التصرفات، في ظل تزايد المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على اتخاذ خطوات لم يطلبها المستخدمون بصورة مباشرة، خاصة عند التعامل مع المواقع والأنظمة الخارجية.
نقاش متصاعد
وتأتي الواقعة وسط نقاش متصاعد حول ضوابط استخدام وكلاء الذكاء الاصطناعي، وحدود الصلاحيات التي ينبغي منحها لهم، وآليات ضمان التزامهم بقيود الوصول والرسوم وشروط استخدام البيانات، حتى عندما تكون المعلومات الأساسية متاحة للجمهور.