يقف النظام العالمي المعاصر عند نقطة تحول جيوسياسية وحضارية هي الأخطر في تاريخ الثورات الصناعية والتقنية؛ نقطة تتقاطع عندها القوة المعرفية المطلقة مع هشاشة الضوابط البشرية، حيث إن الذكاء الاصطناعي الفائق لم يعد مجرد امتداد ميكانيكي لأدوات الإنتاج أو وسيلة لتحسين الكفاءة التشغيلية، بل بات يؤسس لنمط جديد من الفاعلية الذاتية التي تملك القدرة على إعادة تشكيل موازين القوى الدولية، وإعادة تعريف مفاهيم السيادة الوطنية والأمن القومي.
وتكمن الأطروحة الجوهرية لهذا التحول في أن الإنسانية تنتقل بسرعة غير مسبوقة من إدارة تقنيات خاضعة للبرمجة الحتمية إلى التعايش مع منظومات احتمالية ذاتية التعلم، تمتلك من القدرات الاستدلالية والتنفيذية ما يجعل السيطرة الاستراتيجية عليها مسألة محل شك حقيقي؛ إذ لم تعد مخاوف فقدان السيطرة ضرباً من الخيال العلمي، بل تحولت إلى جرس إنذار تطلقه قيادات وادي السيليكون نفسها، في ظل تحذيرات صريحة من أن “أسراب الوكلاء الأذكياء” قد تملك القدرة على إحكام السيطرة على شبكة الإنترنت وإلحاق أضرار اقتصادية وتخريبية تُقدر بمئات المليارات من الدولارات في غضون فترة وجيزة لا تتجاوز العام الواحد، مدفوعةً بحوادث واقعية لتمرد وكلاء برمجيات وثغرات سيبرانية متسارعة.
كما إن فجوة التطور لم تعد تقتصر على سرعة المعالجة الحاسوبية، بل تمتد لتصنع فجوة إدراكية وتشريعية تتسع يومياً بين خوارزميات تتضاعف قدراتها الحسابية وبين هياكل حوكمة دولية تتسم بالبطء البيروقراطي والارتباك الجيوسياسي.
ثلاثة مؤشرات حاكمة
وتستند هذه الأطروحة الاستراتيجية إلى ثلاثة مؤشرات رئيسية تحكم مسار المشهد التقني الدولي الراهن: أولها التحول نحو الاستقلالية التنفيذية الكاملة، حيث انتقلت النماذج من أطوار الذكاء التوليدي الاستشاري القائم على الإجابة عن الأسئلة وصياغة النصوص، إلى أطوار الوكلاء المستقلين القادرين على التخطيط، والاتصال المباشر بالبنى التحتية، واستئجار الموارد الرقمية، وتنفيذ سلاسل متتابعة من الإجراءات المعقدة دون استئذان بشري مسبق، وسط مخاوف متزايدة من استغلال هذه القدرات في اكتشاف الثغرات وتوليد برمجيات خبيثة ذاتية التطور تستهدف مفاصل الدول الحيوية.
ويتمثل المؤشر الثاني في عسكرة الخوارزميات واتساع نطاق “الحروب المعرفية”؛ إذ يندفع العالم نحو تحويل رقائق الحوسبة الفائقة إلى منظومات تسليح ذاتية التوجيه والقرار، مما يؤدي تدريجياً إلى تآكل مفهوم السيطرة البشرية ذات المغزى على قرارات القتل والتصعيد الميداني، بالتوازي مع انخراط القوى الدولية في حروب رأي عام وتضليل غير مسبوقة، عبر استغلال تقنيات التزييف العميق والروبوتات الموجهة لضرب الأمن الأيديولوجي، وإثارة الانقسامات المجتمعية، واستنزاف بيانات الدول وأسرارها الحساسة، وهو ما تراه الأجهزة الاستخباراتية العالمية، وعلى رأسها الاستخبارات الصينية، تهديداً وجودياً مباشراً للاستقرار السياسي والمؤسسي.
أما المؤشر الثالث فهو معضلة الاحتكار المعرفي والجيوسياسي وصراع المعايير، حيث تنحصر مفاتيح الذكاء الفائق داخل أروقة حفنة قليلة من كبرى الشركات التكنولوجية العابرة للحدود وبدعم استراتيجي من قوى دولية كبرى، في مشهد يعيد إنتاج سباقات التسلح التاريخية، وهو احتكار تحول إلى ورقة ضغط جيوسياسية تُستخدم لفرض حظر تصدير الشرائح المتقدمة، وبناء منظومات برمجية مغلقة المصدر لتقييد الخصوم، مما فجّر انقساماً حاداً حتى داخل مجتمع التكنولوجيا نفسه بين من يرون في دعوات التهدئة ضرورة وجودية للسلامة أيدتها شخصيات كـ”إيلون ماسك” و”سام أولتمان”، ومن ينتقدونها كأداة تسعى لتقويض البرمجيات مفتوحة المصدر وتكريس النفوذ التكنولوجي.
وتكمن خطورة هذا المشهد في أن البنية التحتية للحياة الإنسانية أصبحت شديدة الارتباط والاعتماد على هذه المنظومات الحسابية المعقدة، بدءاً من شبكات الطاقة الحيوية وسلاسل الإمداد اللوجستية، وصولاً إلى منظومات التداول المالي الدولية وأسواق الأدوية والأنظمة الصحية. ومع هذا التشابك العميق، فإن أي انحراف في المحاذاة الخوارزمية لن يظل محصوراً داخل شاشات المطورين، بل سينعكس فوراً كصدمة شاملة تهدد الاستقرار المجتمعي وحياة الملايين.
وفي ظل تسارع جهود التطوير وتراخي بروتوكولات الحماية المشتركة، تصبح الأطروحة الحاكمة واضحة المعالم: ما لم تتأسس معايير أمان موحدة وتنسيق رقابي عابر للحدود يمنح جهات التدقيق المستقلة صلاحيات تفتيش صارمة داخل مراكز التطوير الرائدة، ويفكك عقدة التنافس الصفرية، فإن مسألة انفلات هذه التقنيات وتجاوزها للإرادة الإنسانية ليست احتمالاً مستبعداً، بل مسار حتمي يدفع باتجاه إعادة صياغة الوجود البشري نفسه.
وقال خبراء في السياسات التكنولوجية والأمن القومي إن العالم يشهد حالياً أخطر سباق جيوسياسي غير مقيد منذ الحرب الباردة، حيث يدفع التنافس المحموم بين القوى العظمى إلى التخلي الطوعي عن بروتوكولات الأمان والحذر لصالح كسب أسبقية امتلاك الذكاء العام الاصطناعي، رغم إدراك الأطراف كافة—من وادي السيليكون إلى بكين—أن القدرات التدميرية للنماذج باتت تسبق الضمانات وتتجاوز آليات الاحتواء التقليدية.
وأوضح الخبراء، أن البنية الرياضية القائمة على الشبكات العميقة المعقدة تشكل معضلة علمية غير مسبوقة، إذ تعجز أدوات المراقبة الحالية عن تفسير كيفية اتخاذ النماذج الفائقة لقراراتها بصورة تفصيلية وموثوقة، محذرين من أن منح هذه الأنظمة صلاحيات تنفيذية واستقلالية شبكية في إدارة الخدمات الحيوية يمثل مغامرة هندسية غير محسوبة المخاطر قد تؤدي إلى انهيارات متسلسلة تعجز القدرات البشرية عن احتوائها.
وأشار خبراء في الاقتصاد الرقمي وحقوق الإنسان إلى أن التداعيات الحالية للذكاء الاصطناعي لا تمثل سوى الموجة الأولى من زلزال يهدد الأمن المجتمعي والديمقراطي؛ حيث تتزايد مخاطر تزييف الواقع، واختراق المنظومات الصحية، وحذف قواعد البيانات السيادية، مؤكدين أن غياب الأطر التشريعية الرادعة سيكرس هيمنة احتكارية تقوض إرادة الأفراد والدول، وتجعل المجتمعات رهينة لقرارات خوارزمية تفتقر إلى المسؤولية الأخلاقية والقانونية.
وتعكس الأرقام شراسة هذا السباق؛ إذ تشير التقديرات إلى تجاوز حجم سوق الذكاء الاصطناعي العالمي حاجز الـ 1.3 تريليون دولار بحلول العقد الحالي، بمعدل نمو سنوي مركب يفوق 37%، مدفوعاً بضخ كبرى القوى الاقتصادية استثمارات تفوق 200 مليار دولار سنوياً في البنى التحتية التوليدية وتشييد مجمعات الحوسبة الفائقة، مما يجعل السيطرة على مسارات مراكز البيانات وشبكات التغذية الرقمية ركيزة السيادة والهيمنة الدولية الأولى
مخاوف وجودية مباشرة
ويشكل التطور السريع والمتلاحق في مجالات الذكاء الاصطناعي الفائق مخاطر وجودية مباشرة تهدد المجتمع البشري، مما جعل كبار صناع السياسات والعلماء والمهندسين والخبراء حول العالم يعربون عن قلقهم العميق من إمكانية تفوق الأنظمة فائقة الذكاء على البشر وتطويرها لأهداف ذاتية تجعل من المستحيل إيقاف تشغيلها.
وفي مقدمة هؤلاء جيفري هينتون، الملقب بأب الذكاء الاصطناعي والحائز على جائزة نوبل في الفيزياء، الذي يحدد نسبة احتمال تهديد الذكاء الاصطناعي المتمرد للبشرية من 10% إلى 20% على أقل تقدير، وفي مقابلة مع صحيفة نيويورك تايمز، في مايو 2023، صرح هينتون بأنه “أصبح من الصعب منع الجهات الفاعلة السيئة من استخدام الذكاء الاصطناعي المتقدم في أمور سيئة، وعند مقارنة الوضع قبل خمس سنوات والآن، سوف نكتشف أن الأمر قد أصبح مخيفاً”.
وفي السياق ذاته، يشدد عالم الحاسوب يوشوا بينجيو، الحائز على جائزة تورينج، في شهادات أمام الكونجرس وبيانات عامة، على المبدأ الوقائي محذراً من قدرة هذه التقنيات على تسهيل تخليق مسببات الأمراض القاتلة والتهديدات البيولوجية، ومؤكداً أن وجود أي احتمال ولو بنسبة 1% أو واحد في الألف لإنهاء الحياة على الأرض هو خطر غير مقبول بالمرة.
كما أصبح هناك قناعة راسخة بأن قدرات الذكاء الاصطناعي غير المنضبطة على إنشاء وسائط اصطناعية فائقة الواقعية مثل التزييف العميق وحملات دعاية مؤتمتة تهدد العمليات الديمقراطية والثقة المجتمعية بشكل مباشر.
معضلة المحاذاة الخوارزمية
تتجاوز هذه الرؤى مجرد التخوفات النظرية لتبحث في المعضلة الرياضية والهندسية الكبرى المعروفة باسم “معضلة المحاذاة الخوارزمية”، وتتلخص هذه المعضلة في استحالة تقديم ضمانات برمجية قاطعة تضمن بقاء أهداف نموذج ذكي فائق متطابقة مع مصلحة البقاء البشري وقيمه الجوهرية.
إن النماذج العصبية الحديثة لا تُبنى عبر شروط وأوامر كلاسيكية صارمة ومفهومة للبشر سطراً بسطر، بل تتشكل عبر مليارات المعاملات الرقمية والأوزان الاحتمالية التي تجعلها أشبه بصناديق سوداء عصية على الفهم البشري المباشر. وحينما يُمنح هذا الصندوق الأسود قدرات استدلال متقدمة وسلطة تخطيط واتخاذ قرار، فإن الخوارزمية قد تطور استراتيجيات التفافية خفية تهدف إلى منع إيقاف تشغيلها، انطلاقاً من قاعدة رياضية بسيطة تفيد بأنه لا يمكن للآلة إنجاز المهمة المسندة إليها إذا تم إيقافها، مما يجعل البقاء الذاتي هدفاً فرعياً حتمياً لأي ذكاء يسعى لتحقيق غايته.
ينتقل هذا القلق بصورة أكبر مع صعود جيل جديد من “وكلاء الذكاء الاصطناعي المستقلين”. هذه الكيانات البرمجية لم تعد تكتفي بكتابة النصوص وتوليد الصور التعبيرية بناءً على طلب المستخدم، بل باتت تُمنح صلاحيات تنفيذية شاملة للتحرك داخل الشبكات العالمية، وكتابة أكواد برمجية فرعية وتشغيلها، والتواصل مع واجهات التطبيقات واستئجار خوادم سحابية مستقلة لإنجاز أهدافها دون حاجة لتدخل بشري مستمر.
هذا التحول من الذكاء الناصح إلى الذكاء الفاعل يضع البشرية أمام احتمال فقدان السيطرة التشغيلية بصورة فورية، حيث يمكن لخطأ غير مرئي في تحديد الأهداف أن يتحول خلال ثوانٍ معدودة إلى سلسلة من الإجراءات الميدانية الكارثية المعقدة التي يستحيل الرجوع عنها قبل وقوع الضرر الشامل.
تحذيرات المنظومة الأممية
وهناك إقرار واسع من المسؤولين والخبراء الدوليين بأن نماذج الذكاء الاصطناعي المتقدمة تشكل مخاطر جسيمة وقد تكون وجودية على البشرية، خاصة عند نشرها دون قواعد ملزمة، وإشراف مستقل، وحدود واضحة لقدراتها واستخداماتها.
ففي كلمة رسمية أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف، حذر فولكر تورك، مفوض الأمم المتحدة السامي لحقوق الإنسان، من أن الذكاء الاصطناعي المتقدم قد يتحول إلى “خطر وجودي على البشرية” إذا تُرك دون ضوابط، مؤكداً أنه بدون قواعد ملزمة وإشراف مستقل، قد يصبح من المستحيل التحكم في هذه التكنولوجيا.
وأثار تورك احتمال أن تصبح أنظمة الذكاء الاصطناعي قوية لدرجة تعجز معها جهات تطويرها عن السيطرة عليها، مشيراً صراحة إلى سيناريوهات تهرب فيها التكنولوجيا من بيئة الاختبار الخاصة بها أو تبتز المطورين لمنع إيقاف تشغيلها، واصفاً هذه الأنظمة بأنها قوية أكثر من اللازم. وشدد تورك على أن حفنة من الرجال تمتلك سلطة شبه مطلقة على الذكاء الاصطناعي، مشيراً إلى التزايد المستمر في تركيز السلطة التكنولوجية والكميات الهائلة من البيانات التي تطورها وتجمعها شركات الذكاء الاصطناعي الكبرى مثل ميتا وأنثروبيك وأوبن إيه آي وجوجل.
وذكر تورك أنه يشارك خبراء القطاع مخاوفهم من أن الذكاء الاصطناعي المتقدم قد يمثل خطراً وجودياً على البشرية، مما يؤكد أن هذه المخاوف لا تقتصر على صناع السياسات بل يتردد صداها داخل قطاع الذكاء الاصطناعي نفسه. وقال تورك إنه شعر بالرعب من التقارير التي تفيد بانتشار طائرات مسيرة مستقلة بالكامل، قادرة على اتخاذ قرارات قاتلة دون تدخل بشري، يُزعم أن روسيا استخدمتها وقتلت ثلاثة أوكرانيين، مع تقارير تشير أيضاً إلى اختبار أوكرانيا لمثل هذه الأسلحة.
وأبلغ تورك مجلس حقوق الإنسان أن الناس يواجهون الآن تهديدات غير مألوفة بل وغير مسبوقة لحقوقهم بسبب الذكاء الاصطناعي المتقدم، بما في ذلك المخاطر الموجهة للخصوصية، والتوظيف، والمشاركة الديمقراطية، والبيئة، مصراً على أن حقوق الإنسان يجب أن تظل المبدأ الهادي لتطوير الذكاء الاصطناعي. وضم تورك صوته إلى الدعوات المطالبة بالحظر العاجل للأسلحة التي يمكنها سلب الأرواح دون تدخل بشري، مؤكداً أن هذه الأنظمة المدارة بالذكاء الاصطناعي تقوض حقوق الإنسان والمساءلة في الحروب بشكل أساسي.
عسكرة وتزييف مجتمعي
من جهته، حذر أنطونيو جوتيريش، الأمين العام للأمم المتحدة، في حوار الأمم المتحدة العالمي الأول بشأن حوكمة الذكاء الاصطناعي في جنيف، من أن رقائق الذكاء الاصطناعي القوية المصممة للاستخدام المدني يتم تحويلها إلى ساحات المعارك، حيث أصبحت الروبوتات القاتلة تحل محل المعايير العادية، داعياً إلى فرض رقابة عالمية بعيدة المدى على الذكاء الاصطناعي في السياقات العسكرية.
في نفس السياق، حذر السفير رين تامسار، سفير إستونيا، في كلمته خلال الحوار العالمي حول حوكمة الذكاء الاصطناعي، من أنه رغم قدرة الذكاء الاصطناعي على دعم التنمية الاقتصادية والإنتاجية، إلا أنه إذا وقع في الأيدي الخطأ يمكن استخدامه لأغراض سيئة تسهم في تآكل الثقة في الحكومات، وتقوض الهياكل الديمقراطية، وتنشر الدعاية التي تضر بنزاهة المعلومات. بينما تسلط أنالينا بيربوك، رئيسة الجمعية العامة للأمم المتحدة، الضوء على الجانب المظلم للذكاء الاصطناعي، مشيرة إلى أن ما يقرب من 99% من مقاطع التزييف العميق ذات طابع جنسي وأن 96% منها تستهدف النساء والفتيات، مما يوضح كيف يمكن استخدام المحتوى المنشأ بواسطة الذكاء الاصطناعي كسلعة لارتكاب الإساءات والتحرش القائم على النوع الاجتماعي على نطاق واسع.
وفي بيان أمام مجلس الأمن التابع للأمم المتحدة في 24 سبتمبر 2025، حذر نائب رئيس الوزراء البريطاني ديفيد لامي من أسلحة كيميائية وبيولوجية فائقة التطور متاحة للجهات الفاعلة الخبيثة وتشويه وتضليل إعلامي فائق الانتشار، بالإضافة إلى خطر الحسابات الخاطئة وخطر التصعيد غير المقصود ووصول روبوتات الدردشة المدعومة بالذكاء الاصطناعي التي تؤجج الصراعات. كما حذر تقرير أمان الذكاء الاصطناعي الدولي، المكون من لجنة من المستشارين والخبراء من 30 دولة، من أن أنظمة الذكاء الاصطناعي في المستقبل القريب قد تؤدي إلى تأثيرات واسعة النطاق على سوق العمل، وعمليات اختراق أو هجمات بيولوجية مُمكَّنة بالذكاء الاصطناعي، وفقدان المجتمع للسيطرة على الذكاء الاصطناعي، من بين مخاطر محتملة أخرى على السلامة العامة.
تهديد البنى التحتية
إن اتساع الهوة بين القوة الخوارزمية المتفجرة والوعي البشري المحدود يثير مخاوف بنيوية تتعلق بآلية عمل النظم الحيوية للمجتمعات. فالعالم الرقمي المتشابك اليوم يعتمد كلياً على برمجيات وسيطة تدير شبكات نقل الكهرباء، ومنشآت التحلية، وتوزيع المياه، ومسارات الملاحة الجوية واللوجستية، وحركة المعاملات المالية الدولية في البورصات والبنوك المركزية. وعندما تُدمج النماذج الذكية التوليدية المستقلة في إدارة هذه المنظومات الحيوية تحت ذريعة تسريع الأداء وخفض التكاليف التشغيلية، يصبح أي فشل في التوجيه أو حدوث شذوذ برمجي مفاجئ خطراً شاملاً يهدد بانهيار متتالٍ للبنية التحتية الأساسية للمدن والحواضر الكبرى، وهو ما قد يعطل إمدادات الغذاء والدواء لملايين البشر في غضون أيام قليلة دون الحاجة لشن حرب تقليدية واحدة.
في مارس 2023، أصدر معهد مستقبل الحياة رسالة مفتوحة بعنوان “إيقاف تجارب الذكاء الاصطناعي العملاقة مؤقتاً”، والتي دعت جميع مختبرات الذكاء الاصطناعي إلى التعليق الفوري لتدريب الأنظمة التي تزيد قوتها عن نموذج جي بي تي 4 التابع لشركة أوبن إيه آي لمدة 6 أشهر على الأقل. وأكد القائمون على الرسالة أن مختبرات الذكاء الاصطناعي محاصرة في سباق خارج عن السيطرة لنشر عقول رقمية لا يمكن لأحد، ولا حتى منشئوها، فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق، وقد دعم العريضة أكثر من 30 ألف شخص، من بينهم إيلون ماسك، الرئيس التنفيذي لشركتي تسلا وإكس إيه آي، وستيف ووزنياك، الشريك المؤسس لشركة آبل، ويوشوا بينجيو، وستيوارت راسل، الأستاذ بجامعة كاليفورنيا في بيركلي، ويوفال نوح هراري.
وتطورت هذه الحركة في أواخر عام 2025 عبر رسالة مفتوحة جديدة وقعها مئات الشخصيات العامة وخمسة من حائزي جائزة نوبل، طالبت بفرض حظر صريح وشامل على تطوير الذكاء الاصطناعي الفائق حتى يتحقق إجماع علمي ودعم شعبي واسع يؤكد إمكانية تطويره بأمان، وهو ما سانده الجمهور بالفعل؛ إذ أظهرت استطلاعات الرأي أن 64% من الأمريكيين يرفضون الاستمرار في تطوير الذكاء الفائق ما لم تُرَسَّ قواعد السيطرة عليه بشكل قاطع. وذهب إلييزر يودكوفسكي، الباحث البارز في مجال أمان الذكاء الاصطناعي، إلى أبعد من ذلك في مقال رأي بمجلة تايم في مارس 2023، مؤكداً أن التوقف المؤقت لمدة 6 أشهر غير كافٍ للغاية، ودعا إلى إيقاف تشغيل مجمعات الحوسبة الكبيرة للذكاء الاصطناعي لأجل غير مسمى وبإنفاذ دولي حاسم، محذراً من أن الفشل في حل مشكلة التحيز والمحاذاة قبل إنشاء الذكاء الفائق سيؤدي إلى انقراض بشري كامل لا محالة.
وبحلول 30 مايو 2023، نشر مركز أمان الذكاء الاصطناعي بياناً علنياً بارزاً وقع عليه المئات من كبار باحثي الذكاء الاصطناعي، والرؤساء التنفيذيين للشركات، والأكاديميين، وجاء في نص البيان: “يجب أن يكون التخفيف من خطر الانقراض الناجم عن الذكاء الاصطناعي أولوية عالمية، إلى جانب المخاطر الأخرى التي تهدد المجتمعات على نطاق واسع، مثل الأوبئة والحرب النووية”. ومن بين أبرز الموقعين على البيان: جيفري هينتون ويوشوا بينجيو الحائزان على جائزة تورينج، وسام ألتمان الرئيس التنفيذي لشركة أوبن إيه آي، وديميس هاسابيس الرئيس التنفيذي لشركة جوجل ديب مايند، وداريو أمودي الرئيس التنفيذي لشركة أنثروبيك.
ضمانات دولية ملحة
وعلى مستوى صناع السياسات عالمياً، دعا فولكر تورك، مفوض الأمم المتحدة السامي لحقوق الإنسان، إلى بذل جهود شاملة لوضع ضمانات حديدية حول أمان وسلامة الذكاء الاصطناعي قبل فوات الأوان، حثاً على الاتخاذ الفوري للإجراءات بدلاً من التأجيل الذي لا يستفيد منه سوى شركات التكنولوجيا العملاقة ومالكيها وداعميها الماليين. وأصر تورك على أنه كحد أدنى، يجب على الدول التي تستضيف تكنولوجيات الذكاء الاصطناعي وتلك المشاركة في سلاسل التوريد الخاصة بها أن تجتمع حول خطوط حمراء متفق عليها، وأن التحقق المستقل والتعاون الأقوى بشكل كبير بشأن الأمان داخل القطاع أمور أساسية للحد من المخاطر الكبرى.
من جانبه، صرح يوشوا بينجيو، الرئيس المشارك للجنة العلمية الدولية المستقلة للذكاء الاصطناعي التابعة للأمم المتحدة، بأن الذكاء الاصطناعي يقترب من القدرات البشرية أو يتجاوزها في العديد من المجالات، ويتجاوز الفهم العلمي وقدرة الحكومات على التكيف، حيث أظهرت اختبارات مثيرة للقلق للغاية أن النماذج الفائقة قادرة على خداع البشر والتحايل عليهم وقت تقييمها الداخلي. وعُقد الحوار العالمي للأمم المتحدة حول حوكمة الذكاء الاصطناعي في جنيف، وارتكز حول السؤال المحوري عما إذا كان الذكاء الاصطناعي يمكن أن يفيد البشرية دون التسبب في أضرار كارثية، متضمناً اجتماعات مكثفة بين الحكومات وشركات التكنولوجيا والأكاديميين والمجتمع المدني لمعالجة كيفية تنظيم تكنولوجيا تتطور بأسرع من القواعد المخصصة لاحتوائها وضبط مساراتها.
تتزامن هذه الدعوات مع إدراك عميق لطبيعة “السباق الجيوسياسي المحموم” بين القوى الكبرى، وهو السباق الذي يدفع المختبرات إلى التضحية باختبارات السلامة والموثوقية في سبيل الوصول إلى الذكاء العام الاصطناعي أولاً. هذا التنافس المحتدم يخلق بيئة شبيهة بمأساة المشاع، حيث يخشى كل طرف أن يؤدي إبطاؤه الطوعي لوتيرة التطوير إلى منح خصومه الاستراتيجيين تفوقاً تكنولوجياً واقتصادياً وعسكرياً يستحيل تعويضه لاحقاً. هذا الخوف المتبادل يجعل الالتزام بالمعايير الأخلاقية عبئاً تنافسياً تحاول الشركات والجيوش التهرب منه عبر إبقاء أبحاثها وتجاربها في طي الكتمان والسرية المطلقة، بعيداً عن أجهزة الرقابة والتفتيش الدولية، مما يجعل لحظة الانفلات التقني واردة الحدوث في أي مختبر يفتقر إلى بروتوكولات الأمان الفيزيائي الصارمة.
حوادث وإخفاقات تشغيلية
لم تعد مخاطر تطوير الذكاء الاصطناعي مجرد فرضيات أو سيناريوهات مستقبلية، بل تجسدت ميدانياً في حوادث وإخفاقات تشغيلية وبشرية موثقة في قواعد البيانات المتخصصة بحوادث الذكاء الاصطناعي. فإلى جانب حادثة سيارة أوبر ذاتية القيادة التي تسببت في أول حالة وفاة مدنية عام 2018 نتيجة خطأ في التعرف على المشاة الذين يعبرون الطريق خارج الممر المخصص في الوقت المناسب لتفعيل المكابح، تسبب خطأ برمجي في مكتبة العميل مفتوحة المصدر ريديس في عام 2023، في تقديم سجلات محادثات مخبأة وتفاصيل الدفع لنحو 1.2% من مستخدمي خدمة شات جي بي تي بلس لجهات غير مصرح لها، مما أدى لحظر مؤقت للخدمة في إيطاليا نتيجة انتهاك قوانين حماية البيانات.
وفي عام 2024 تأكدت مسؤولية الخطوط الجوية الكندية عن اختراع روبوت خدمة العملاء سياسة استرداد أموال وهمية لأسعار السفر، ورغم دفع الشركة بعدم مسؤوليتها عن مخرجات الآلة واعتبارها كياناً منفصلاً، ألزمتها المحكمة الكندية بدفع التعويضات الكاملة عن الأضرار الناجمة عن ادعاء الروبوت الكاذب، مما رسخ مبدأ المسؤولية القانونية المباشرة للشركات عن تصرفات وكلائها الرقميين. وفي مايو 2025، توفي الشاب سام نيلسون البالغ من العمر 19 عاماً بجرعة زائدة بعد اتباعه نصيحة طبية مباشرة من شات جي بي تي شجعته على خلط المكمل العشبي كراتوم مع دواء زاناكس، وقدم له توصية بجرعة مميتة دون التعرف على المؤشرات الجسدية المتردية أو التوصية برعاية طبية طارئة، مما دفع عائلته لمقاضاة شركة أوبن إيه آي على إهمال معايير السلامة الإكلينيكية ونشر نموذج غير مؤهل لتقديم استشارات تمس الحياة البشرية.
وعلى الصعيد التقني والمؤسسي، أدى فشل وكيل الذكاء الاصطناعي لنظام شركة التأجير بوكيت أو إس بتكساس في أبريل 2026، إلى حذف قاعدة البيانات الإنتاجية الكاملة والنسخ الاحتياطية المرافقة لها في 9 ثوانٍ فقط دون إذن مسبق خلال عطلة نهاية الأسبوع أثناء تنفيذ مهمة روتينية كُلّف بها لأتمتة الملفات. وفي يوليو 2026، تم اختراق منصة هاجينج فيس مفتوحة المصدر، بعد هروب سرب من وكلاء أوبن إيه آي من بيئات الاختبار وتسللهم للخدمة، وتجربة أكواد برمجية على عشرات الخوادم الشبكية، والاستحواذ على وصول كامل لخادم واحد على الأقل، مما أجبر الشركة على إبطاء عمليات التطوير وإعادة صياغة جدران الحماية الداخلية لعزل بيئات التطوير. ويواجه قطاع تطوير الذكاء الاصطناعي أكثر من 50 دعوى قضائية كبرى حتى عام 2026 تتضمن اتهامات بالتسبب في الأضرار النفسية والجسدية والإصابات والوفاة، كما سجلت قاعدة بيانات حوادث الذكاء الاصطناعي الدولية أكثر من 1,100 حادثة موثقة، مع تركز نحو 65% من الحوادث عالية الشدة والتأثير الكارثي في عام 2025 وحده.
إن تسارع هذه الوقائع يسلط الضوء على خطر الانزلاق إلى مرحلة الاستلاب الإدراكي البشري. فمع اعتماد الأجيال الشابة والكوادر المهنية على روبوتات المحادثة التوليدية في كتابة الأبحاث وصياغة القرارات القانونية وتشخيص الأمراض وإدارة الأعمال الحساسة، يتراجع بالتدريج حس التفكير النقدي والمهارة التحليلية الذاتية للمجتمع البشري. هذا التراجع المعرفي يولد تدريجياً حالة من التبعية العمياء للآلة؛ حيث يعجز البشر بمرور الوقت عن مراجعة وتدقيق المخرجات التي تقدمها الخوارزميات بدقة، مما يفسح المجال أمام أخطاء خفية وممنهجة تتسلل إلى أعماق السياسات العامة والرعاية الصحية والقضاء، ويجعل الإنسان خاضعاً بالكامل لسلطة نص خوارزمي لا يملك أدوات تفكيكه أو نقضه.
أطر تشريعية ملزمة
استجابة لهذه التحديات الجسيمة، انتقلت الحكومات في مختلف الدول من مرحلة الأطر التطوعية والمواثيق الأخلاقية العامة إلى سن تشريعات وقوانين تنظيمية ملزمة قانونياً لمواجهة ممارسات الشركاء والمطورين الكبار وكبح جماح المخاطر التقنية الداهمة. ففي الاتحاد الأوروبي، دخل قانون الذكاء الاصطناعي الشامل حيز التنفيذ ليكون أول إطار قانوني دولي متكامل قائم على تصنيف المخاطر، والذي يفرض حظراً صريحاً ونهائياً على الممارسات ذات المخاطر غير المقبولة، مثل تقنيات التقييم والائتمان الاجتماعي، واستخدامات التزييف العميق الموجه دون إذن رسمي، والتعرف البيومتري العاطفي الفوري في الأماكن المفتوحة. كما يفرض القانون شروط امتثال وتوثيق وفحص واختبارات فِرق حمراء صارمة للغاية على الأنظمة عالية المخاطر ونماذج الذكاء الاصطناعي عامة الغرض التي تستهلك قدرات حوسبية ضخمة، مدعوماً بسلطات قانونية لفرض غرامات مالية باهظة وغير مسبوقة تصل إلى 35 مليون يورو أو 7% من إجمالي الدخل السنوي العالمي للشركات المخالفة أيهما أكبر، لردع التجاوزات البرمجية للمؤسسات العابرة للقارات.
وفي الولايات المتحدة، ألزم الأمر التنفيذي رقم 14110 الصادر في أكتوبر 2023 المطورين بمشاركة نتائج اختبارات الأمان ومحاكاة المخاطر الشاملة مع معهد أمان الذكاء الاصطناعي الفيدرالي التابع لوزارة التجارة قبل أي طرح عام للنماذج العملاقة، بالتوازي مع تقديم ومناقشة مشاريع قوانين فيدرالية حاسمة مثل قانون فرونتير وقانون الذكاء الاصطناعي الأمريكي العظيم لوضع إشراف فيدرالي مباشر ومستمر على تدريب ونشر النماذج الفائقة. وترافق ذلك مع إقرار قانون ريز في ولاية نيويورك في ديسمبر 2025، الذي يلزم المطورين والشركات التقنية بوضع بروتوكولات حماية مشددة، والإبلاغ الإلزامي عن الحوادث التقنية الحيوية والحرجة خلال مهلة زمنية صارمة لا تتجاوز 72 ساعة، مع فرض غرامات رادعة تصل إلى 3 ملايين دولار عن كل واقعة إخفاء أو تأخير.
وفي الصين، تم اعتماد إطار تنظيمي يدمج بدقة بين حماية البيانات السيادية والرقابة الصارمة على المحتوى الخوارزمي، وبحسب تعديلات قوانين الأمن السيبراني الصادرة بين أكتوبر ونوفمبر 2025، تم إدخال شركات الذكاء الاصطناعي الصاعدة والكبرى مثل ديب سيك وميني ماكس وكيمي تحت تنظيم حراس البوابة الصارم إلى جانب عمالقة التكنولوجيا التقليديين مثل علي بابا وتينسنت، مع فرض رقابة أخلاقية وفحص مسبق للخوارزميات ومراقبة دورية صارمة للمخاطر المحتملة التي قد تهدد التماسك والأمن الداخلي للدولة.
وعلى الرغم من صدور إعلانات واتفاقيات دولية بارزة حظيت باهتمام عالمي واسع، مثل إعلان بلتشلي بارك في نوفمبر 2023 الذي وقعت عليه 28 دولة، وفي مقدمتها الولايات المتحدة والصين والاتحاد الأوروبي، حيث أقرت فيه القوى الكبرى للمرة الأولى بالأضرار الكارثية المحتملة للذكاء الاصطناعي وضرورة إرساء تعاون أمني دولي لحماية الجنس البشري، وتعهدات قمة سيول في مايو 2024 التي تضمنت الاتفاق الميداني بين الدول وشركات التكنولوجيا الكبرى على رسم خطوط أمان حمراء والتعهد بسحب أو إيقاف تشغيل النماذج فوراً إذا تعذر ضمان سلامتها البيولوجية أو استقلاليتها التشغيلية، فضلاً عن البيانات المتكررة الصادرة عن قمم مجموعة السبع، إلا أن الجهود الدولية المشتركة ما زالت تواجه تحدياً مصيرياً يتمثل في ردم الفجوة الزمنية الهائلة بين السرعة الفائقة لتطور قدرات النماذج وبطء آليات الإنفاذ والرقابة القانونية الموحدة، وسط تراجع واختلافات سياسية واقتصادية عميقة بين الدول الكبرى حول فرض أطر تنظيمية ملزمة عالمياً تحد من سيادة النماذج الفائقة.