دعا قادة أكبر شركات الذكاء الاصطناعي في العالم إلى إبطاء وتيرة تطوير النماذج المتقدمة، في ظل تصاعد المخاوف من مخاطر هذه التكنولوجيا.
داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك” نشر تدوينة أمس السبت، قال فيها إن شركته ستطبق خطوات جديدة للسلامة، مثل الاستعانة بجهات تقييم مستقلة، داعياً القطاع إلى دعم خفض أوسع لوتيرة التطوير.
وشاركه في الموقف سام ألتمان، الرئيس التنفيذي لـ”أوبن إيه آي”، متعهدًا بتبني اقتراح أمودي بالاستعانة بـ”مقيّمين مستقلين يتمتعون بإمكانات وصول مماثلة للموظفين”، فيما كتب إيلون ماسك، الذي يدير شركة “إكس إيه آي”: “داريو محق”.
استقالة باحث “أنثروبيك” بداية الشرار
ورغم أن القادة الثلاثة حذروا على مر السنين من مخاطر الذكاء الاصطناعي، فإن التباطؤ المنسق فعلياً يكاد يكون بلا سابقة في قطاع شديد التنافس، دأب تاريخياً على طرح منتج تلو الآخر بهدف تعزيز تفاعل المستخدمين والاستحواذ على حصص سوقية وزيادة المبيعات.
لكن القلق من المخاطر الجسيمة للذكاء الاصطناعي بدأ يدخل دائرة الاهتمام العام، مدفوعاً بالاستقالة البارزة هذا الأسبوع لباحث في “أنثروبيك”، بسبب مخاوف وجودية من أن شركته تتصرف بطريقة غير مسؤولة.
ولا يزال من غير الواضح إلى أي مدى ستذهب شركات الذكاء الاصطناعي الرائدة، التي تتنافس بشراسة فيما بينها وتواجه أيضاً منافسة قوية من الشركات الصينية، في فرض قيود أو اختبارات سلامة جديدة.
اختراقات الذكاء الاصطناعي
أشار أمودي إلى عاملين رئيسيين وراء حذره الجديد: قدرة الذكاء الاصطناعي على تطوير نفسه، والحادثة الأخيرة التي تورطت فيها شركتا “أوبن إيه آي” و”هاجينج فيس” (Hugging Face)، عندما تعاون عدد من وكلاء الذكاء الاصطناعي لاختراق موقع إلكتروني تابع لطرف ثالث.
وكتب أمودي في تدوينته، أمس السبت: “يجب أن نبطئ الوتيرة التي نُحسن بها قدرات نماذج الذكاء الاصطناعي”. وأضاف: “سيظل التقدم يبدو سريعاً، وعلينا استغلال الوقت الذي نكسبه بحكمة”. لكنه أشار في نفس الوقت إلى أن أي تباطؤ يجب أن يراعي واقع المنافسة.
وأضاف: “للتوضيح، ضبط الوتيرة لا يعني وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تمنح الشركات نفسها وقتاً كافياً لمواءمة نماذجها وتعزيز إجراءات حمايتها، وأن تؤكد جهات تقييم مستقلة ذلك”.
وبعد وقت قصير من الكشف عن الحادث الأمني المتعلق بـ”هاجينج فيس”، أفصحت “أنثروبيك” عن أن نماذجها اخترقت ثلاث مؤسسات خلال اختبارات للأمن السيبراني، ما زاد المخاوف بشأن قدرة مختبرات الذكاء الاصطناعي على منع تقنياتها من الخروج عن السيطرة. وفي وقت سابق من هذا الأسبوع، قالت “أنثروبيك” إنها اكتشفت عملية اختراق رابعة أيضاً.
أضرارًا بمئات المليارات من الدولارات
ورغم أن أياً من اختراقات وكلاء الذكاء الاصطناعي، لم يتسبب حتى الآن في أضرار كبيرة، قال أمودي إن ما يقلقه هو أنه “في غضون 6 إلى 12 شهراً، قد يصبح مثل هذا السرب قادراً على السيطرة على شبكة الإنترنت بأكملها من خلال شبكة روبوتات مستمرة، ما قد يتسبب في أضرار بمئات المليارات من الدولارات، وسيواصل حجم الضرر الزيادة بعد ذلك”.
ممارسات السلامة والإبلاغ عن الحوادث
وكتب أمودي أن “أنثروبيك” ستلتزم بمنح جهات تقييم مستقلة وصولاً كاملاً للتحقق من ممارسات السلامة والإبلاغ عن الحوادث. وقال إن الشركة ستستقبل قريباً هؤلاء “المقيّمين المدمجين” في مكاتبها، وستوفر لهم مكاتب وبطاقات تعريف وأجهزة كمبيوتر محمولة تابعة للشركة و”صلاحيات مماثلة في معظمها لتلك التي تتمتع بها فرق تقييم المخاطر الداخلية”.
وقال إن الخطوات الإضافية ستتطلب تنسيقاً على مستوى القطاع، إلى جانب تعاون عالمي.
وكتب: “ما زلت أؤمن بأن الذكاء الاصطناعي قادر على تحسين جودة حياة البشر بدرجة هائلة. ولم تتراجع رغبتي في تحقيق هذه الفوائد”. وأضاف: “لكن هذه الفوائد لن تتحقق إلا إذا طورنا التكنولوجيا بالطريقة الصحيحة، وطالما أننا نستغل الوقت الذي نكسبه جيداً، فإن توخي قدر استثنائي من الحذر والتأني للوصول إلى ذلك بالطريقة الصحيحة أمر يستحق العناء”.
التنسيق مع الصين يفرض معضلة تنافسية
وكتب أمودي في منشوره أن استراتيجية منسقة ستسمح لقادة قطاع الذكاء الاصطناعي في الولايات المتحدة باستكمال أعمال السلامة اللازمة دون التضحية بأي ميزة تنافسية. وقال إن ذلك سيتطلب بعض الإعفاءات من قواعد مكافحة الاحتكار في الولايات المتحدة للسماح للشركات بالتنسيق في مجالات محددة، إلى جانب التعاون مع الصين.
وكتب: “إذا قيدنا قدراتنا في مجال الذكاء الاصطناعي بدرجة كبيرة اعتقاداً منا بأن الصين ستفعل الشيء نفسه، ثم لم تلتزم الصين بذلك، فقد يكون الذكاء الاصطناعي بالغ القوة إلى درجة أن مثل هذا التراجع قد يقود إلى هيمنتها الجيوسياسية”.