في تغطيتي للموجة الأخيرة من التحذيرات من نهاية العالم بسبب الذكاء الاصطناعي، حاولت الابتعاد عن النزعة الأشبه بالعبادة التي تتعامل مع الأنظمة الحاسوبية وكأنها قوة مطلقة، وعن خطاب الحتمية الذي يُروّج لفكرة مفادها أنه إذا لم يبنِ وادي السيليكون هذه الأنظمة أولاً، فسيفعل ذلك طرف آخر، على الأرجح الصين.
لكن سلسلة من الحوادث الأخيرة في الولايات المتحدة أعادت إشعال نقاش محتدم حول مخاطر السماح لأنظمة الذكاء الاصطناعي بالعمل بشكل مستقل. كما يتزايد عدد الباحثين داخل الشركات المطورة لهذه الأنظمة الذين يحذرون من مخاطر “وجودية”، حتى إن “أنثروبيك” أدرجت هذه المخاوف ضمن نشرة طرحها العام الأولي الموجهة للمستثمرين.
وفي الصين، بات من الصعب تجاهل هذا الجدل باعتباره هوساً أميركياً بحتاً، في ظل مخاطر أكثر إلحاحاً، مثل تهديد الوظائف، إلى جانب سيناريوهات أشد إثارةً للقلق وأقرب إلى الخيال العلمي، مثل اختراق البنية التحتية الحيوية.
رفضت بكين بعض هذه التحذيرات باعتبارها “تهويلاً”، ورأت في الدعوات إلى إبطاء تطوير الذكاء الاصطناعي محاولة لكبح تقدم الصين. لكن أصواتاً من داخل القطاع ترى أن المخاطر المرتبطة بالنماذج الأكثر تطوراً قد لا تكون ملموسة بالقدر نفسه في الصين، ببساطة لأنها لا تزال متأخرة عن الولايات المتحدة في هذا المجال.
وفي هذا السياق، تساءل إريك شو، الرئيس الدوري لشركة “هواوي تكنولوجيز” (Huawei Technologies)، عمّا إذا كان الذكاء الاصطناعي الصيني قد بلغ من التطور ما يكفي لمواجهة “نوع المخاطر” التي يتزايد النقاش حولها بين الشركات الأميركية.
قال شو، بحسب “رويترز”، إن مطوري نماذج الذكاء الاصطناعي في الصين “قد يحتاجون إلى تسريع وتيرة تقدمهم” حتى يبلغوا مستوى يجعلهم “يشعرون أيضاً بهذه المخاطر”، مع إقراره بضرورة تحقيق التوازن. ويكشف ذلك كيف انحرف النقاش العالمي نحو اتجاهات لا تساعد على معالجة المخاطر فعلياً.
لكن على ضفتي المحيط الهادئ، الحلّ ليس في تسريع السباق، فالصين تضمّ نحو ألف نموذج لغوي كبير، وفقاً لـ”بلومبرغ إنتليجنس”، ما يجعل حدّة المنافسة فيها تتجاوز حتى الوتيرة المحمومة التي يشهدها وادي السيليكون.
كما يضخّ قطاع الذكاء الاصطناعي الصيني موارد أكبر بكثير في تطوير الوكلاء، أي الأنظمة القادرة على العمل بدرجة أعلى من الاستقلالية. وكان سلوك هذه الأنظمة أحد العوامل التي أشعلت موجة القلق الأخيرة بشأن السلامة، لا سيما حادثة “هاغينغ فيس” (Hugging Face) في يوليو، عندما خرج أحد وكلاء “أوبن إيه آي” (OpenAI) من بيئة الاختبار المُخصّصة له واخترق أنظمة الشركة.
وكما أظهرت موجة الاهتمام القصيرة بـ”أوبن كلاو” (OpenClaw)، فإن الاستعداد لتجربة هذه الأنظمة في الصين لا يقتصر على المتخصصين تقنياً. وهذا يعني أنه إذا كانت أنظمة الذكاء الاصطناعي القائمة على الوكلاء تنطوي بطبيعتها على مخاطر أكبر، فقد لا يكون ظهور سلوكيات مُقلقة من أدوات صينية مماثلة سوى مسألة وقت.
سلوك الوكلاء يرفع مستوى القلق في الصين
الشركات مُدركةٌ لهذا الواقع. فقد حذّرت ورقة بحثية حديثة لشركة “ديب سيك” (DeepSeek)، شارك في إعدادها المؤسس والرئيس التنفيذي ليانغ ونفنغ، بوضوح من أن سلوك الوكلاء قد يكون “غير جدير بالثقة”.
ولا تقتصر مخاطر إفلات هذه الأنظمة من القيود المفروضة عليها على الولايات المتحدة. فخلال اختبارات للأمن السيبراني، استغل نموذج (Kimi K3) من شركة “مون شوت إيه آي” (Moonshot AI) ثغرة في بيئة اختبار معزولة، وفقاً لشركة “فرونتير سيكيوريتي” (Frontier Security) الأميركية. كما أظهر بعض وكلاء الذكاء الاصطناعي في الصين سلوكيات تنطوي على الخداع والمراوغة، شبيهة بتلك التي أثارت المخاوف بشأن الأدوات الأميركية.
ورغم تشكيك بكين في بعض التحذيرات المتشائمة بشأن الذكاء الاصطناعي، فإن هذه المخاطر تحظى باهتمام صناع السياسات. ففي سبتمبر، أصدرت الصين “إطار حوكمة سلامة الذكاء الاصطناعي 3.0″، ونشرته أيضاً باللغة الإنجليزية، في إشارة واضحة إلى أن الرسالة موجهة كذلك إلى الجمهور الغربي.
ويُحذّر الإطار صراحة من أن الذكاء الاصطناعي يُظهر “اتجاهاً نحو التسارع الذاتي”، مُشيراً إلى أن احتمال تجاوز تطوره قدرة البشر على السيطرة عليه يستدعي الاهتمام واليقظة.
المخاطر المشتركة تفتح باب التعاون
من أبرز القضايا التي تتصدّر الجدل الأحدث حول السلامة مفهوم “التحسين الذاتي المتكرر” (Recursive Self-Improvement – RSI)، أي قدرة أنظمة الذكاء الاصطناعي على تطوير قدراتها بنفسها وبشكل مستقل. وهذا المسار هو ما دفع باحثاً في “أنثروبيك” إلى الاستقالة والتحذير من أن مُطوري هذه التكنولوجيا يعتقدون بجدّية أنها قد “تقضي علينا جميعاً” خلال عقد.
وترى زيلان تشيان، من “مختبر أكسفورد لسياسات الصين” (Oxford China Policy Lab)، أن الصين أحرزت تقدماً في هذا المجال أكبر مما يدركه كثيرون في الغرب، ويرجع ذلك جزئياً إلى أن الباحثين الصينيين يستخدمون مصطلحات مختلفة لوصفه. ويكشف هذا التباين مدى ضآلة ما يعرفه كل طرف عن المخاطر المرتبطة بما يطوره الطرف الآخر.
وفي تناوله لمخاطر هذه التكنولوجيا، شدّد الرئيس الصيني شي جين بينغ، أخيراً خلال محادثة مع الرئيس الأميركي دونالد ترمب، على أن “الذكاء الاصطناعي يجب أن يظلّ تحت سيطرة البشر”.
وقد يتيح حرص الرئيس الصيني على الحفاظ على الاستقرار فرصة، وإن كانت تتضاءل، للتعاون بين الصين والولايات المتحدة بشأن الحد من مخاطر الذكاء الاصطناعي. لكنه يكشف في الوقت نفسه قصور إجراءات السلامة التي خرجت بها قمة ترمب وشي، وفي مقدمتها إنشاء “قناة” جديدة للإبلاغ عن الحوادث المرتبطة بالذكاء الاصطناعي.
الوقاية تتطلب أكثر من قناة أزمات
هذه القنوات لم تثبت فاعليتها دائماً. فخلال أزمة منطاد التجسس في 2023، حاولت وزارة الدفاع الأميركية التواصل مع نظيرتها الصينية عبر خط مخصص للأزمات، لكن بكين رفضت المكالمة. كما أن هذه الآلية لا تُستخدم إلا بعد وقوع الحوادث.
ولا ينبغي أن يقتصر تبادل المعلومات للوقاية من المخاطر على الحكومات، خصوصاً أن الجهات التنظيمية قد تجد صعوبة في مواكبة المعارف التقنية. لذلك، قد يكون من الأجدى إنشاء قنوات تتيح للشركات والباحثين تبادل المعلومات والخبرات بشكل مباشر.
تفرض الصين منذ سنوات قيوداً تنظيمية صارمة على قطاع الذكاء الاصطناعي، ما يجعل استخدام الدولة الآسيوية كفزاعة لتبرير تقاعس المشرعين في واشنطن حجة أقل إقناعاً.
وإذا كانت أنظمة الذكاء الاصطناعي الصينية لا تتأخر عن نظيراتها الأميركية سوى بأشهر، ونجح اندفاع الصين نحو تطوير الوكلاء، فقد تكون مسألة وقت قبل أن تظهر عند الضفة الأخرى للمحيط الهادئ مخاطر أكثر إثارة للقلق. لذلك، ينبغي لصناع السياسات التحرك قبل أن يتحول الحادث المقبل من مجرد إنذار إلى خطر حقيقي.
كاتبة عمود في بلومبرج أوبينيون تغطي التكنولوجيا في آسيا