عاد تطبيق “جروك” مرة أخرى إلى الواجهة بسبب اتهامات بتوليد صور مزيفة ذات طابع جنسي، فقد كشفت مصادر مطلعة بأن شركة آبل هددت في رسالة بحذف “جروك” من متجر التطبيقات بسبب تلك الصور المُزيّفة العميقة.
وأوضحت آبل، في رسالة وجهتها إلى أعضاء في مجلس الشيوخ الأمريكي أنها هدّدت بشكل خاص في يناير بإزالة تطبيق التابع للملياردير الأمريكي إيلون ماسك من App Store، بعد فشل شركة xAI في اتخاذ إجراءات كافية لمنع التطبيق من إنشاء صور مزيفة عميقة عارية أو ذات طابع جنسي، وفق ما نقلت شبكة “إن بي سي”.
فيما أظهر تحقيق أجرته “أن بي سي” أن عشرات الصور ومقاطع الفيديو المولدة بالذكاء الاصطناعي لأشخاص حقيقيين، نشرت علنًا على منصة إكس خلال الشهر الماضي.
وأظهر المحتوى أشخاصا، غالبيتهم من المشاهير، تم التلاعب بصورهم بواسطة الذكاء الاصطناعي لتغيير مظهرهم وملابسهم بطريقة مثيرة للجدل، ما أثار مخاوف متجددة بشأن إساءة استخدام هذه التقنيات وانتهاك الخصوصية.
كما أشار التحقيق إلى أن برنامج الذكاء الاصطناعي “جروك” لا يزال يُنتج صورًا جنسية لأشخاص دون موافقتهم، على الرغم من تعهد الشركة قبل أشهر بوقف التزييف العميق المسيء بعد ردود فعل غاضبة من الجمهور وتحقيقات حكومية.
في المقابل، أكدت شركة “إكس إي آي” في منشور لها، أنها تحظر بشكل صارم إنشاء مقاطع أو صور مزيفة عميقة من دون موافقة أصحابها، أو استخدام أدواتها لتجريد أشخاص حقيقيين من ملابسهم.
كما شددت الشركة على أنها تطبّق مجموعة واسعة من إجراءات الحماية لمنع مثل هذا الاستخدام المسيء، من بينها المراقبة المستمرة للاستخدام العلني، وتحليل محاولات التحايل في الوقت الحقيقي، والتحديثات المتكررة للنماذج، وفلاتر الأوامر، إلى جانب ضمانات إضافية.