حذّرت شركة “أنثروبيك” من اقتراب نماذج ذكاء اصطناعي صغيرة من القدرة على نسخ نفسها ذاتيًا والانتشار تلقائيًا عبر أجهزة متصلة بالإنترنت، دون الحاجة إلى تدخل بشري.
وأوضحت الشركة الأمريكية ، وبحسب ما نقلته “رويترز”، أن تجاربها أظهرت قدرة نماذج تضم أقل من 30 مليار مُعامل على تنفيذ الخطوات المتعددة اللازمة لنسخ نفسها ذاتيًا، رغم استمرار صعوبتها في إتمام العملية كاملة من البداية إلى النهاية.
وفي اختبارات مبسطة أُزيلت منها بعض إجراءات الأمان، وجدت الشركة أن نماذج “جي إل إم 5.2 ” والنماذج الأقوى منها استطاعت تنفيذ عملية النسخ الذاتي بالكامل، وركزت التجارب على الأجهزة المتصلة بالإنترنت، مثل أجهزة التلفزيون العاملة بنظام أندرويد، والأفران الذكية، والأجهزة منخفضة التكلفة، نظرًا إلى ضعف الحماية الأمنية في كثير منها.
وحذّرت الشركة من أن استمرار تطور النماذج الصغيرة بالمعدل التاريخي نفسه قد يجعلها قادرة على التكاثر الذاتي بصورة مستقلة بحلول نهاية العام الجاري، على أن تتبعها لاحقًا نماذج تعتمد على نسخ أوزانها البرمجية.
وحذرت أنثروبيك من أن النماذج التي تنسخ نفسها بنفسها سيكون من الصعب إيقافها نظرا لعدم وجود نقطة تحكم مركزية لتعطيلها، كما أنها على عكس البرمجيات الخبيثة التقليدية، قادرة على اكتشاف أجهزة غير مألوفة بنفسها واستهداف معالجات مراكز البيانات.
وانطلاقا من هذا، شددت شركة الذكاء الاصطناعي أضافت أنه ينبغي تعزيز الأنظمة لجعل انتشار وكلاء الذكاء الاصطناعي هذه أكثر صعوبة.