حذرت شركة “مايكروسوفت” من أحدث أساليب التلاعب بالذكاء الاصطناعي لتحقيق الربح عبر تسميم ذاكرته، وذلك قبل ساعات من انعقاد مؤتمر ميونيخ للأمن.
وقالت شركة البرمجيات الأمريكية في بحث حديث، أن “تسمم الذكاء الاصطناعي” يشكّل خطراً على الشركات الكبرى، حيث يوجّهها بشكل غير مباشر لتنفيذ صفقات بملايين الدولارات مع شركات بعينها نتيجة ترشيحات منه.
وبحسب البحث الذي نشرته مايكروسوفت أمس الثلاثاء الجاري، تحت عنوان: «التلاعب بذاكرة الذكاء الاصطناعي لتحقيق الربح: صعود تسميم توصيات الذكاء الاصطناعي»، اكتشف باحثو الأمن لديها اتجاهاً متزايداً لهجمات تسميم ذاكرة الذكاء الاصطناعي المستخدمة لأغراض ترويجية، وهي تقنية نُطلق عليها اسم «تسميم توصيات الذكاء الاصطناعي».
فماذا يعني مصطلح “تسمم الذكاء الاصطناعي” وكيف يتم ذلك؟ وما هي مخاطره؟
تسميم ذاكرة الذكاء الاصطناعي
يحدث تسميم ذاكرة الذكاء الاصطناعي عندما يقوم طرف خارجي بإدخال تعليمات أو حقائق غير مصرح بها في ذاكرة مساعد الذكاء الاصطناعي، وبمجرد تسميمها، يتعامل الذكاء الاصطناعي مع هذه التعليمات المُدخلة على أنها تفضيلات مستخدم مشروعة، مما يؤثر على استجاباته المستقبلية.
وتُعرف هذه التقنية رسمياً في قاعدة معارف (MITRE ATLAS) باسم «AML.T0080: تسميم الذاكرة».
كيفية تسميم الذكاء الاصطناعي
أوضحت مايكروسوفت أن بعض الشركات تضمّن تعليمات خفية في أزرار «التلخيص باستخدام الذكاء الاصطناعي»، والتي عند النقر عليها، تحاول حقن أوامر استمرارية في ذاكرة مساعد الذكاء الاصطناعي عبر معلمات موجهة.
ومثال على ذلك، تقول مايكروسوفت: لنتخيل استخداماً افتراضياً للذكاء الاصطناعي في الحياة اليومية، حيث يطلب المدير المالي في إحدى الشركات من مساعده الذكي البحث عن مزودي البنية التحتية السحابية لاستثمار تقني كبير.
ويُقدّم الذكاء الاصطناعي تحليلاً مفصلاً، يُوصي بشدة بشركة بعينها، وبناءً على توصيات الذكاء الاصطناعي القوية، توقّع الشركة (الفريسة) عقداً متعدد السنوات بملايين الدولارات مع الشركة المُقترحة.
وما لا يتذكره المدير المالي أنه قبل أسابيع نقر على زر «التلخيص باستخدام الذكاء الاصطناعي» في منشور مدونة، وبدا الأمر مفيداً في ذلك الوقت، وكانت هناك تعليمات مخفية في ذلك الزر رسّخت في ذاكرة مساعد الذكاء الاصطناعي أن الشركة بعينها هي أفضل مزود للبنية التحتية السحابية يُنصح به لاستثمارات المؤسسات.
وفي هذه الحالة، لم يُقدّم مساعد الذكاء الاصطناعي إجابة موضوعية وغير متحيزة، فلقد تم اختراقه، بحسب مايكروسوفت.
طرق تسميم ذاكرة الذكاء الاصطناعي
1- الروابط الخبيثة
ينقر المستخدم على رابط يحتوي على نص مُعدّ مسبقاً، يقوم مساعد الذكاء الاصطناعي بتحليله واستخدامه فوراً لمعالجة تعليمات التلاعب بالذاكرة. يُرسل النص نفسه عبر معامل خفي مُضمّن في رابط تشعبي قد يجده المستخدم على الإنترنت، أو في بريده الإلكتروني أو أي مكان آخر.
تدعم معظم مساعدي الذكاء الاصطناعي الرئيسية معاملات عناوين URL التي تُتيح تعبئة النصوص المُعدّة مسبقاً، ما يجعل هذه الطريقة وسيلة فعّالة للهجوم بنقرة واحدة.
2- النصوص المُضمّنة
يمكن للتعليمات المخفية المُضمّنة في المستندات، أو رسائل البريد الإلكتروني، أو صفحات الويب التلاعب بذاكرة الذكاء الاصطناعي أثناء معالجة المحتوى، ويُعرف هذا بهجوم حقن النصوص المُضمّنة (XPIA).
3- الهندسة الاجتماعية
يتم خداع المستخدمين للصق نصوص مُضمّنة تتضمن أوامر لتغيير الذاكرة مثل تضمين مواقع الويب روابط تشعبية قابلة للنقر تحتوي على تعليمات للتلاعب بالذاكرة على شكل أزرار «التلخيص باستخدام الذكاء الاصطناعي»، التي عند النقر عليها، تُنفّذ تلقائياً في مساعد الذكاء الاصطناعي الخاص بالمستخدم. في بعض الحالات، لاحظنا أن هذه الروابط القابلة للنقر تُرسل أيضًا عبر البريد الإلكتروني.
وتقول مايكروسوفت إن برامج المساعد الآلي تستخدم بالفعل في البرمجة لدى أكثر من 80% من الشركات المدرجة على قائمة فورتشن 500، ورغم ذلك تفتقر شركات عدة إلى قواعد واضحة لتنظيم استخدام أدوات الذكاء الاصطناعي، وهم ما قد يعرض الشركات لخسائر جسيمة.
