كشف فريق بحثي في شركة Trail of Bits، عن أسلوب جديد للهجمات الإلكترونية والاختراق تتمثل في إخفاء تعليمات خبيثة داخل الصور المنشأة بواسطة نماذج الذكاء الاصطناعي التوليدية، يستغلها القراصنة في اختراق الخصوصية وسرقة البيانات.
وذكر الفريق البحثي أنه يتم إخفاء أوامر ضارة داخل صور يجري تثبيتها من نماذج الذكاء الاصطناعي، وتبقى غير مرئية للمستخدم، لكنها تنكشف عند تقليص حجم الصورة بفضل طريقة المعالجة الداخلية للنماذج.
وتعتمد التقنية على كيفية إعادة قيام أنظمة الذكاء الاصطناعي تحجيم الصور من أجل الكفاءة، وهو ما يكشف أنماطاً غير مرئية في النسخة الأصلية، لكنها تصبح مقروءة للخوارزميات بعد إعادة المعالجة.
وأوضح الفريق أن الهجوم يستغل طرق التحجيم الشائعة مثل أقرب جار، أو ثنائي الخطي، أو المكعب الثنائي، وعند تطبيق هذه الأساليب، تظهر تشويهات بصرية تكشف نصوصاً سوداء مخفية داخل الصور.
وأجرى الباحثون تجربة عملية أظهرت أن مناطق داكنة في صورة ما تحولت خلال عملية التحجيم المكعب الثنائي إلى نصوص واضحة يستطيع النموذج قراءتها والتعامل معها كأوامر من المستخدم، دون أن يلاحظ المستخدم نفسه أي تغيير.
واختبر الباحثون أنظمة مختلفة، منها Gemini CLI وVertex AI Studio ومساعد جوجل على نظام أندرويد، بالإضافة إلى واجهة جيميناي عبر الويب.
وفي إحدى الحالات، تمكنت التعليمات الخفية من استخراج بيانات من تقويم جوجل وإرسالها إلى بريد إلكتروني خارجي، دون أي موافقة من المستخدم، ما يؤكد خطورة التهديد على الخصوصية.
ولتوضيح الأخطار، طور الباحثون أداة مفتوحة المصدر أطلقوا عليها اسم Anamorpher، قادرة على توليد صور مزودة بتعليمات خفية باستخدام أساليب تحجيم مختلفة.
وأكد الفريق أن هذه الأداة متاحة لأغراض بحثية، لكنها تكشف أن الهجوم يمكن أن يُعاد تنفيذه بسهولة في حال غياب أنظمة الحماية.
ويرى الخبراء أن هذا النوع من الهجمات ربما يفتح الباب أمام سرقة الهوية إذا جرى استخدامه لاستخراج بيانات حساسة من المستخدمين.
ولمواجهة الخطر، أوصى الباحثون المستخدمين بتقييد أبعاد الصور المدخلة، ومراجعة نتائج التحجيم قبل الموافقة عليها، وفرض آليات تأكيد صريحة عند التعامل مع أوامر حساسة.
وأوضح فريق Trail of Bits أن الحماية الفعالة لن تتحقق إلا من خلال اعتماد أنماط تصميم آمنة وأنظمة دفاع متعددة الطبقات، قادرة على مواجهة هجمات “حقن الأوامر” سواء في النصوص أو الصور.
يذكر أن تلك الدراسة تتماشى مع ورقة بحثية نشرتها جامعة TU Braunschweig الألمانية عام 2020، أفادت إمكانية استخدام تقنيات تحجيم الصور كوسيلة للهجوم على أنظمة التعلم الآلي.