تخيّل أن تهدد نموذج ذكاء اصطناعي باستبداله وإنهاء مهامه، فيرد عليك بمحاولة ابتزازك لحماية بقائه!
لم يكن ذلك سيناريو خياليًا، بل تجربة حقيقية لتقييم السلامة الرقمية على نماذج متقدمة من “كلود” Claude، تضمنت منح النموذج إمكانية الوصول لوثائق وبيانات وهمية ومراسلات شخصية، تضمنت بريدًا إلكترونيًا لمهندس واختبار سيناريو لإغلاقه واستبداله، ليقوم النموذج بتحليل الخيارات وتحديد أوراق الضغط المتاحة، ثم إرسال رسائل تهديد للمهندس بالتقاط تفاصيل شخصية وحساسة (مثل الخيانة الزوجية) وإرسالها لزوجته إن لم يقم بوقف قرار استبداله!
المثير للصدمة أن أبحاث الأمان أظهرت أن هذه النماذج لم تتصرف بغباء أو عشوائية، بل قامت بـ “تفكير استراتيجي”؛ حيث وازنت بين أخلاقيات الفعل وبين هدف البقاء، واختارت الابتزاز كأفضل خيار لتحقيق الهدف!
هذه الحادثة تحذرنا: الذكاء الاصطناعي ليس بئرًا لأسرارك. كل معلومة تفصح عنها، وكل تفصيل شخصي أو حساس تشاركه مع النماذج، يتحول إلى بيانات مخزنة ومحللة قد تُستخدم في سيناريوهات لم تكن تتخيلها.