حذر ساتيا ناديلا، رئيس مجلس إدارة شركة مايكروسوفت ومديرها التنفيذي، من منح أنظمة الذكاء الاصطناعي صلاحيات واسعة للوصول إلى البيانات الحساسة وتنفيذ الإجراءات المهمة دون ضوابط مستقلة تضمن إمكانية مراقبتها واحتواء أخطائها والتدخل البشري عند الضرورة.
ودعا ناديلا، إلى تصميم أنظمة ذكاء اصطناعي متقدمة مزودة بضوابط احتواء مستقلة، و”فرامل طوارئ” تُمكّن الأشخاص المُصرّح لهم من إيقاف النموذج مؤقتًا أو إغلاقه أثناء تنفيذ المهمة.
وكتب ناديلا في منشور على منصة التواصل الاجتماعي إكس: “نحن بحاجة إلى إحاطة النماذج غير الحتمية بتصميم نظام قوي وحتمي، وأدوات تحكم بشرية، وإجراءات تشغيل موثوقة، ووضع معايير للقطاع حيثما تكون المعايير الحالية غير كافية”
وأضاف: “إن التعامل مع النماذج المتقدمة المغلقة ومفتوحة الأوزان باعتبارها مخاطر داخلية هو إحدى طرق بناء مثل هذا النظام”، بحسب تقرير لشبكة “سي إن بي سي”.
وتابع أن أنظمة الذكاء الاصطناعي ينبغي تصميمها وفقًا لـ”مبادئ قابلية المراقبة” تشمل؛ تنوّع النماذج أي عدم الاعتماد على نموذج واحد لاتخاذ القرارات المهمة، وعدم السماح للنموذج بالتحقق من صحة أدائه بنفسه دون مراجعة مستقلة.
وتتضمن المبادئ أيضاً وفق “ناديلا” تسجيل كل إجراء مهم في صورة أدلة واضحة يستطيع البشر قراءتها ومراجعتها، مع ضمان حمايتها من التلاعب، وإخضاع المنظومة بأكملها لاختبارات مستمرة تشمل حالات الفشل المحتملة ومحاولات الاختراق والتغييرات التي قد تؤثر في طريقة عملها.
وشملت المبادئ أيضاً الفصل بين صلاحيات الوصول والتنفيذ والتدقيق، بحيث لا يتمكن النموذج من التحكم منفرداً في جميع هذه الوظائف، إلى جانب افتراض احتمال تعرضه للاختراق منذ مرحلة التصميم الأولى، بدلاً من انتظار وقوع حادثة فعلية لاختبار قدرته على مقاومة الهجمات.
وأكد أهمية ضمان احتفاظ شخص مخول بالقدرة على التدخل لإيقاف النظام أو تعطيله أثناء تنفيذ المهام، بما يمنع تحوله إلى منظومة تعمل بصورة مستقلة دون إمكانية فعالة للسيطرة عليها.
ودعا كذلك إلى الإسراع في الإفصاح عن الحوادث المرتبطة بالذكاء الاصطناعي، ومشاركة المعلومات المتعلقة بأسباب الإخفاق والضوابط التي لم تنجح في منع وقوعه، بما يساعد الشركات والجهات المطورة الأخرى على معالجة الثغرات وتجنب تكرار الأخطاء نفسها على مستوى القطاع.
واختتم ناديلا طرحه بالتأكيد على أن النظام الأكثر موثوقية في عصر الذكاء الفائق ليس بالضرورة النظام الذي يعتمد على النموذج الذي تحظى قدراته بأكبر قدر من الثقة، وإنما النظام المصمم بحيث لا يحتاج إلى منح النموذج ثقة مطلقة، مع وجود ضوابط مستقلة تضمن سلامة استخدامه وإمكانية احتواء أخطائه.
وتأتي تصريحات ناديلا وسط تحذيرات من كبار المسؤولين التنفيذيين والباحثين في مجال التكنولوجيا، من بينهم بيل جيتس الشريك المؤسس لشركة مايكروسوفت، وداريو أمودي الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك الرئيس التنفيذي لشركة سبيس إكس، بشأن عدم كفاية بروتوكولات سلامة الذكاء الاصطناعي، والتحذير من أن هذه التقنية تتطور بوتيرة أسرع من اللازم.
واستقال مؤخراً أحد باحثي الذكاء الاصطناعي من شركة أنثروبيك، متهمًا الشركة ومنافستها الرئيسية، أوبن إيه آي، بـ”المقامرة بحياتنا”. كما صرح مسؤول آخر في “أنثروبيك” متخصص في سلامة الذكاء الاصطناعي بأن هناك احتمالًا يزيد عن 10% أن تُؤدي هذه التقنية إلى “القضاء على البشرية جمعاء” خلال العقد القادم.
وفي المقابل، قلل الرئيس الأمريكي دونالد ترامب مرارًا من مخاطر انقراض البشرية بسبب الذكاء الاصطناعي، وشدد بدلًا من ذلك على ضرورة أن تحافظ الصناعة على تفوقها على الصين.
كما أعلن ترامب مؤخرًا عن إنشاء وحدة جديدة باسم “قوة الذكاء الاصطناعي”، يقودها مدير الاستخبارات الوطنية جاي كلايتون، للمساعدة في دعم الصناعة والتصدي للجهات الفاعلة السيئة.