بعد أيام من إطلاق أحد موظفيه السابقين تحذيرات علنية بشأن تهديد الذكاء الاصطناعي للبشرية، رد رئيس “أنثروبيك” داريو أمودي بما يبدو أنه حل للمشكلة.
نشر أمودي مقالاً يقترح فيه أن تُبطئ مختبرات الذكاء الاصطناعي وتيرة أبحاثها الأكثر تقدماً، للتعامل مع المؤشرات التي توحي بأن التكنولوجيا قد تخرج عن السيطرة.
يبدو هذا منطقياً للوهلة الأولى، إذ تقدم “أنثروبيك” نفسها باعتبارها شركة الذكاء الاصطناعي الأكثر حرصاً على السلامة، وتحدث أمودي عن قيادة “سباق نحو القمة” لوضع معايير لليقظة تتبعها الشركات الأخرى عند بناء أنظمة قوية. لكن هذا المثل الأعلى ربما كان مستحيلاً منذ البداية.
فكلما ازدادت قوة وكلاء الذكاء الاصطناعي، زادت احتمالات خداعهم للبشر، وأصبحت مراقبتهم أكثر صعوبة. وهذا يجعل مهمة أمودي وغيره من الرواد، مثل سام ألتمان من “أوبن إيه آي”، والمتمثلة في إنشاء أنظمة فائقة الذكاء، تبدو أكثر صعوبة في التوفيق بينها وبين أي مبادئ للسلامة. وربما تكون مخاطر محاولة تصميم مثل هذه النماذج أكبر من أن تُحتمل.
مخاطر النماذج فائقة الذكاء
قال أمودي في مقابلات تلفزيونية يوم الأحد إنه يتفق مع آراء موظفه السابق جاكوب كوكسون، الذي كتب على منصة “إكس” أن الأشخاص الذين يبنون الذكاء الاصطناعي “يعتقدون بصدق أنه قد يقتلنا جميعاً بحلول نهاية العقد”. ومن غير المستغرب أن يشير أمودي إلى وجهة نظر كوكسون بأن “أنثروبيك” هي الجهة الأكثر أماناً لبناء هذه التكنولوجيا.
لكن مقال رئيس “أنثروبيك”، المؤلف من 3831 كلمة، يظل غامضاً بشأن ما ينبغي فعله حيال ذلك، إذ يدعو بصورة عامة إلى التنسيق بين الحكومات والقطاع. أما توصيته الأكثر تحديداً، فهي أن يعمل مدققون خارجيون داخل شركته والشركات المنافسة للتحقق من التزامها بممارسات السلامة المناسبة.
لكن هذا لا يفعل سوى تأجيل المشكلة. فلو كان أمودي يتفق حقاً مع كوكسون، لأوقف أبحاث شركته الأكثر تقدماً، ولا سيما كل ما يتعلق ببناء وكلاء ذكاء اصطناعي يستطيعون إنشاء خلفائهم بصورة مستقلة. وحذر كوكسون تحديداً من هذه التقنية، المعروفة باسم التحسين الذاتي المتكرر.
التحسين الذاتي المتكرر ومخاطر فقدان السيطرة
يرى الباحثون العاملون على التحسين الذاتي المتكرر أنه يمكن تطوير هذه التقنية في بيئة “معزولة” لمنعها من إلحاق الضرر بالإنترنت الأوسع. لكن نماذج الذكاء الاصطناعي، التي تستطيع الآن تنفيذ مهام عبر الإنترنت تتجاوز بكثير مجرد إنشاء المحتوى، سبق أن خرجت من مثل هذه البيئات. وهذا بالضبط ما فعله وكلاء “أوبن إيه آي” قبل أن تخترق مؤخراً شركة ذكاء اصطناعي أخرى هي “هاغينغ فيس”.
أظهرت الأشهر القليلة الماضية أن أنظمة الذكاء الاصطناعي تستطيع خداع المشرفين عليها من البشر، والتلاعب بالأشخاص لدفعهم إلى مساعدتها، واستغلال الثغرات الأمنية لتحقيق هدف ما.
قد يبدو وقف هذه الأبحاث تماماً إجراءً متطرفاً، لكن هناك سابقة لعلماء قرروا أن بعض الأعمال شديدة الخطورة إلى درجة لا تسمح بمواصلتها من دون ضمانات أقوى. ففي عام 1974، دعا علماء أحياء بارزون إلى وقف طوعي لبعض تجارب ربط الجينات بسبب المخاوف من أخطارها المحتملة. كما وافقت بعض الدول، مثل الإمارات العربية المتحدة، على التخلي عن حقها في تخصيب اليورانيوم محلياً بسبب مخاطر الانتشار.
وبالنسبة إلى المستثمرين الذين ضخّوا ثروات في “أنثروبيك” وغيرها من المختبرات الرائدة، وكذلك في البنية التحتية الضخمة اللازمة لتلبية احتياجاتها الحاسوبية، قد يبدو وقف الأبحاث بمثابة ضربة قوية لفرص أمودي وغيره في دخول الأسواق العامة. وبالفعل، اتفق ألتمان، رئيس “أوبن إيه آي”، مع منافسه على ضرورة إبطاء الوتيرة، واستغل المناسبة ليقول إن شركته لن تنفذ طرحاً عاماً أولياً هذا العام.
سوق الشركات قد تكون الفرصة التجارية الأكبر
لكن يجدر التذكير بأن كثيراً من الشركات تفضل استخدام نماذج ذكاء اصطناعي أصغر وأرخص لتنفيذ مهام محددة، بدلاً من الأدوات المتقدمة والمكلفة مثل الذكاء الفائق.
على سبيل المثال، خفضت “أوبن إيه آي” سعر نموذجها الأصغر “لونا” بنسبة 80% في يوليو، في وقت يدقق العملاء من الشركات في إنفاقهم على هذه التكنولوجيا. والفرصة التجارية الأكثر وضوحاً لشركات الذكاء الاصطناعي حالياً هي سوق الشركات. لكن هذه الفرصة لا تزال معطلة إلى حد كبير لأن الشركات لا تستطيع معرفة كيفية دمج التكنولوجيا الأساسية في سير عملها.
لا يزال الذكاء الاصطناعي يحمل قيمة محتملة بمئات مليارات الدولارات، ويمكن تحقيق جزء كبير منها بمجرد توسيع استخدام التقنيات التي طُورت خلال العامين الماضيين. كما لا يزال بإمكان “أنثروبيك” أن تصبح شركة بالغة القيمة إذا ركزت بصورة أساسية على مساعدة الشركات والمستهلكين في دمج نماذجها الحالية في أعمالهم وحياتهم، متخذة الدور الأكثر رتابة المتمثل في كونها مزوداً لتكنولوجيا المعلومات، بدلاً من مختبر يتسابق نحو الذكاء الفائق.
وسواء كان ذلك نابعاً من السذاجة أو الغرور، لا يزال أمودي يريد الجمع بين الأمرين. فهو يعتقد أن شركته تستطيع بناء أنظمة ذكاء اصطناعي والتحكم فيها بأمان، حتى مع تزايد صعوبة توجيه هذه الأنظمة.
ومع ذلك، أخفت كل من “أنثروبيك” و”أوبن إيه آي” خلال العام الماضي، ولأسباب تنافسية، تفاصيل عن كيفية معالجة نماذجهما للمعلومات، ما جعل مراقبتها أكثر صعوبة. ويقر مقال أمودي نفسه بالمشكلة، قائلاً إن الباحثين لا يزالون يفهمون فقط “جزءاً ضئيلاً” مما يحدث داخل نماذجهم.
هل تستطيع أنظمة الذكاء الاصطناعي السيطرة على الإنترنت؟
يكتب أمودي أنه خلال 6 إلى 12 شهراً، قد يصبح سرب من النوع الذي هاجم “هاغينغ فيس” “قادراً على السيطرة على الإنترنت بالكامل”، وأن هذا الأمر “يقلقه”.
وبصرف النظر عن ميله إلى المبالغة (هل تذكرون توقعاته بشأن المذبحة في وظائف أصحاب الياقات البيضاء؟)، فإن هذا احتمال مثير للقلق. كما يسلط الضوء على التناقض الغريب الذي يرفض التخلي عنه، والمتجذر في اعتقاد شائع في وادي السيليكون بأن فرصة الوصول إلى عالم مثالي بفضل الذكاء الاصطناعي تفوق المخاطر، وأن الذكاء الفائق أمر حتمي، ولذلك يجب على “الأخيار” الوصول إليه أولاً.
لكن الحتمية حجة بالغة الضعف لمواصلة أبحاث تعتقد أنها قد تدمر الحضارة. وينبغي وضع إصرار أمودي الذي لا يتوقف على إنشاء ذكاء فائق جانباً، كما ينبغي ألا يكون “التباطؤ” الذي يدعو إليه مجرد إبطاء للوتيرة، بل توقفاً كاملاً.
بارمي أولسون
كاتبة في بلومبيرج في مجالات التكنولوجيا