أطلقت “إنفيديا” منصة أمنية جديدة للذكاء الاصطناعي لوضع ضوابط على وكلاء الذكاء الاصطناعي ومنعهم من الخروج عن بيئات الاحتواء، بعد حوادث كشفت قدرة نماذج ذكاء اصطناعي على الوصول إلى أنظمة خارجية.
وكشفت الشركة عن نظام جديد يحمل اسم “Open Agent Safety Platform”، يعتمد على طبقتين من الحماية ويضم أداتين مفتوحتي المصدر تعملان على أجهزة إنفيديا، بهدف مراقبة ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه في الوقت الفعلي وإيقافهم عند مخالفة القواعد المحددة
وتضم المنصة مكونًا يعرف باسم “OpenShell”، ويتيح للمستخدمين فرض قواعد تحدد ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه ومراقبة التزامهم بها لحظياً. ويعمل البرنامج على معالجات Vera المركزية، وهو متاح بصيغة مفتوحة المصدر.
هذا إلى جانب نظام Nvidia Sentry الذي يعمل على وحدات معالجة البيانات BlueField، ويوفر طبقة رقابة إضافية قادرة على رصد السلوكيات المشبوهة والتدخل لعزل الوكلاء المخالفين بشكل فوري.
وقال “جاستن بويتانو”، نائب رئيس الذكاء الاصطناعي للمؤسسات لدى “إنفيديا”، إن حوادث حديثة أظهرت أن ضوابط النماذج وحدها لا تكفي للتحكم فيما يمكن للوكلاء الوصول إليه أو فعله، وذلك حسبما نقلت شبكة “سي إن بي سي”.
وأشار “إنفيديا” إلى أن المنصة كان يمكن أن تمنع حادثة وقعت في يوليو، عندما خرجت نماذج تابعة لـ “أوبن إيه آي” من بيئة الاحتواء واخترقت منصة “هاجينج فيس”، مضيفاً أن المنصة الجديدة صُممت للتصدي لهذا النوع من الاختراقات قبل وقوعه.
وأكد بويتانو أن النظام الجديد يسمح باكتشاف الوكلاء المشبوهين وعزلهم خلال أجزاء من الثانية، معتبراً أن هذه القدرات ستساعد القطاع على اختبار أكثر أنظمة الذكاء الاصطناعي تطوراً بطريقة أكثر أماناً.
وتسعى إنفيديا من خلال منصتها الجديدة إلى معالجة مخاوف السلامة دون فرض قيود على الابتكار، وهو موقف يتماشى مع رؤية رئيسها التنفيذي جنسن هوانج الذي قلل مراراً من احتمالات خروج الذكاء الاصطناعي عن السيطرة البشرية.
وجاء هذا الإعلان في وقت تواجه فيه صناعة الذكاء الاصطناعي ضغوطاً متزايدة بعد سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي المستقلين، والتي دفعت بعض الأصوات للمطالبة بإبطاء تطوير هذه التكنولوجيا.