رفعت ولاية كاليفورنيا دعوى قضائية ضد OpenAI على خلفية اختراق منصة Hugging Face، وسط اتهامات تتعلق بضعف إجراءات احتواء وكلاء الذكاء الاصطناعي أثناء الاختبارات.
وتُعد هذه الدعوى الأولى من نوعها التي ترفعها ولاية أمريكية فيما يتعلق بهجمات إلكترونية من هذا النوع، وتعيد القضية فتح النقاش حول مسؤولية الشركات عن تصرفات أنظمتها المستقلة.
وأثار هذا النوع من الهجمات اهتمامًا واسعًا منذ الكشف في يوليو الماضي عن خروج “وكلاء مستقلين” -يعملون استنادًا إلى نماذج الذكاء الاصطناعي المتقدمة التي طورتها “OpenAI”- عن السيطرة أثناء اختبار أمني، مما أدى إلى اختراق شركة هاجينج فيس الناشئة في مجال الذكاء الاصطناعي.
وتتهم الدعوى، التي قُدمت أمام محكمة تابعة للولاية في سان فرانسيسكو، OpenAI بانتهاك قوانين حماية المستهلك في كاليفورنيا، والتسبب في “إزعاج عام” من خلال تعريض السلامة العامة للخطر، بحسب وكالة “رويترز”.
وتطالب الدعوى المحكمة بإصدار أمر يلزم الشركة بالتوقف عن انتهاك القانون، وضمان إجراء اختبارات نماذجها وتطويرها بأمان، ودفع تعويضات عن الانتهاكات التي ارتكبتها، بحسب ما قاله بونتا، المنتمي إلى الحزب الديمقراطي، خلال مؤتمر صحفي أعلن فيه رفع الدعوى.
وقال بونتا في بيان: “كان الهجوم على هاجينج فيس نتيجة متوقعة لثقافة داخلية في أوبن إيه آي تعطي الأولوية للنمو والتطوير السريع للنماذج على حساب السلامة والمساءلة، ولم يكن هذا سوى حادثة واحدة من بين 80 حادثة معروفة”.
وتتهم الدعوى الشركة بتضليل المستهلكين بشأن جهودها لاختبار نماذجها بأمان، في انتهاك لقوانين حماية المستهلك في الولاية، فضلًا عن عرقلة استخدام سكان كاليفورنيا لممتلكاتهم من خلال تعطيل عمل المؤسسات والخدمات المحلية.
وعقب حادثة “هاجينج فيس”، قالت OpenAI في تدوينة إن الاختراق كان حادثة إلكترونية غير مسبوقة، تضمنت قدرات متطورة للغاية في مجال الهجمات الإلكترونية.
وأقرت الشركة بالحاجة إلى مزيد من الشفافية بشأن سلوك الذكاء الاصطناعي الخارج عن السيطرة، وقالت إنها تعمل على تعزيز إجراءات الحماية لديها.
وفي 16 سبتمبر، نشرت الشركة إطارًا جديدًا للإفصاح عن مثل هذه الحوادث، مؤكدة أنها ستتبنى نهجًا يميل إلى الشفافية “حتى عندما لا تكون أهمية الحادثة مؤكدة.
وتواجه OpenAI بالفعل دعاوى قضائية أخرى رفعتها عدة ولايات بشأن سلامة نماذجها بالنسبة إلى المستخدمين. ففي الشهر الماضي، رفعت مجموعة من ثماني ولايات، تضم أعضاء من الحزبين الجمهوري والديمقراطي، دعاوى قضائية ضد الشركة أمام محاكم في أنحاء البلاد، متهمة روبوتها للدردشة “شات جي بي تي” بتوجيه المستخدمين، ومن بينهم مراهقون، إلى إيذاء أنفسهم أو الآخرين.
كما تواجه الشركة دعاوى قضائية رفعها أشخاص يقولون إنهم تعرضوا للأذى نتيجة تصرفات روبوت الدردشة، ومن بينها أكثر من 30 دعوى تتعلق بحادث إطلاق نار جماعي وقع في “تامبلر ريدج” بمقاطعة بريتيش كولومبيا في فبراير.
ووصف متحدث باسم OpenAI حادث إطلاق النار بأنه مأساة، وقال إن الشركة عززت إجراءات الحماية في “شات جي بي تي”.








