ألغت شركة “أوبن إيه آي” OpenAI، إطلاق نموذج الذكاء الاصطناعي “جي بي تي-6.1 أسترا” بسبب مخاوف تتعلق بالسلامة، بعدما لم يستوفِ المعايير المطلوبة.
وقالت “ساشي جاين”، رئيسة أنظمة السلامة لدى الشركة الناشئة، إن النموذج لم يحقق المستوى المطلوب في الالتزام بنطاق المهام والتفويضات، إضافة إلى طريقة إبلاغ المستخدم بنوع العمل الذي أنجزه، وذلك حسبما نقلت وكالة “بلومبرج”.
وأكدت “جاين” التزام الشركة بضمان سلامة النموذج، سواء خلال مراحل اختباره داخل الشركة أو بعد طرحه للمستخدمين، قائلة: “لدينا معايير مرتفعة للغاية فيما يتعلق بالسلامة و المواءمة”.
وكان النموذج قادرًا على تنفيذ مهام ذاتيًا، من بينها تصفح الإنترنت واستخدام التطبيقات، فيما جاء قرار إلغاء إطلاقه في أعقاب حوادث شملت وصول نماذج ذكاء اصطناعي إلى أنظمة خارجية دون تفويض.
كما كشفت OpenAI، اليوم الثلاثاء، عن تحديث بشأن حوادث وقعت في يونيو ولم يعلن عنها حتى الأسبوع الماضي، تضمنت وصول نماذجها إلى مواقع وأنظمة حكومية أسترالية دون تصريح.
يُذكر أن النموذج الرائد “جي بي تي-6.1 أسترا” ، الذي يتمتع بقدرات تنفيذية مستقلة، قد أُطلق في سبتمبر، وهو متخصص في الاستدلال المعقد وتنفيذ المهام بشكل ذاتي؛ وقد وصفت OpenAI هذا النموذج بأنه نتاج “سنوات من البحث والرهانات الكبيرة”.
ومن المقرر أن تعقد OpenAI مؤتمرها السنوي للمطورين في سان فرانسيسكو اليوم الثلاثاء، حيث يُتوقع أن تعلن عن عدة أمور جديدة، وإن كان من غير الواضح ما إذا كان سيتم الكشف عن نسخة جديدة من “Astra” ضمن تلك الإعلانات.
وتأتي هذه التطورات وسط تصاعد الجدل حول مخاطر الذكاء الاصطناعي، بعد حوادث مشابهة مرتبطة بنماذج طورتها شركات كبرى في القطاع، فيما دعا “سام ألتمان”، الرئيس التنفيذي لـ “أوبن إيه آي”، و”داريو أمودي”، رئيس “أنثروبيك”، إلى إبطاء وتيرة تطوير التقنية بسبب المخاطر المرتبطة بها.