أعلنت شركة IBM عن إطلاق حلول watsonx.governance للاستخدام العام بحلول أوائل ديسمبر، وذلك لمساعدة الشركات على أتمتة حوكمة دورة حياة الذكاء الاصطناعي وإدارة المخاطر والامتثال بشكل استباقي.
تؤدي هذه الخطوة إلى توسيع قدرات IBM الرائدة في مجال حوكمة الذكاء الاصطناعي لمساعدة العملاء على إدارة أدوات التعلم الآلي والذكاء الاصطناعي التوليدي وتطبيقاته ونماذجه في مكان واحد.
ومنتج watsonx.governance هو واحد من ثلاثة منتجات برمجية ضمن منصة IBM watsonx للذكاء الاصطناعي والبيانات، والتي تحتوي على مجموعة من مساعدي الذكاء الاصطناعي المصممة لمساعدة الشركات على توسيع نطاق تأثير الذكاء الاصطناعي وتسريعه بالاعتماد على البيانات الموثوقة، كما تضم المنصة استوديو المؤسسات من الجيل التالي watsonx.ai لمنشئي الذكاء الاصطناعي، ومخزن البيانات المفتوح والمختلط والمحوكم watsonx.data.
في الإصدار الأول من watsonx.governance، سيتمكن العملاء، ممن يستخدمون نماذج اللغة الكبيرة LLM داخل watsonx.ai، من حوكمتها على السحابة، بما في ذلك النماذج التي طورتها IBM ومختلف النماذج الخارجية، مثل Llama 2 ونماذج مجتمع Hugging Face.
وتماشيا مع نهج IBM تجاه الذكاء الاصطناعي المفتوح، من المتوقع أن تقوم IBM بتوسيع هذه القدرات في الربع الأول من 2024 للسماح للعملاء بإدارة وحوكمة نماذج الذكاء الاصطناعي من الأطراف الخارجية، سواء على السحابة أو محليا، لتنسيق عمليات الحوكمة عبر مؤسساتهم بالكامل.
ويمكن أن يساعد watsonx.governance العملاء أيضا على تسهيل الامتثال للسياسات الداخلية ومعايير الصناعة واللوائح الحالية والمستقبلية.
تؤمن شركة IBM بالتنظيم على مستوى حالة الاستخدام، مع مسؤولية الشركات عن تشغيل الذكاء الاصطناعي الجدير بالثقة. لتحقيق ذلك، يجب فهم كيفية تدريب نماذج البيانات، وأدوات تدريبها، وكيفية وصولها إلى توصياتها، وهل يتم فحصها بشكل روتيني لاكتشاف أي تحيز ضار.
تمثل هذه الأولويات –الشفافية، وقابلية التفسير، والسلامة، والعدالة- الأساس للعديد من المقترحات التي تطرح في جميع أنحاء العالم لتنظيم الذكاء الاصطناعي، وقد تم تصميم IBM watsonx.governance لمساعدة العملاء على إدارة ذكاءهم الاصطناعي والاستعداد لتلبية المتطلبات التنظيمية بشكل مباشر.
تقدم شركة IBM قدرات آلية تغطي جميع الركائز الثلاث الأساسية لحوكمة الذكاء الاصطناعي –حوكمة دورة الحياة، وإدارة المخاطر، والامتثال.
تشمل القدرات الموسعة لنماذج اللغة الكبيرة LLM ما يلي:
- مراقبة مقاييس نماذج اللغة الكبيرة LLM الجديدة: المراقبة والتنبيه في كل من مدخلات ومخرجات نماذج اللغة الكبيرة LLMs عند تجاوز الحدود المحددة مسبقًا لمقاييس الجودة والانجراف، وحالات التجاوز اللغوي— بما في ذلك الكراهية والإساءة والتجديف — ومعلومات التعريف الشخصية (PII).
- رؤية تطوير نماذج اللغة الكبيرة LLM: الجمع التلقائي للمعلومات حول عملية بناء النموذج، مع شرح القرارات للتخفيف من الأوهام وغيرها من المخاطر الجديدة.
- شفافية دورة حياة الذكاء الاصطناعي لنماذج اللغة الكبيرة LLMs: التوثيق التلقائي لحقائق النموذج عبر جميع مراحل دورة الحياة، ومراقبة الانحراف في نماذج النص، وتتبع التفاصيل الصحية، مثل حجم البيانات ووقت الاستجابة والإنتاجية، لتحديد الاختناقات والأحمال الحسابية المكثفة.
- أدوات التحقق من نماذج اللغة الكبيرة LLMs: تمكين المهندسين من تعيين مخرجات نماذج اللغة الكبيرة LLM من أجل تقديم البيانات السياقية/المرجعية إلى حالات استخدام الأسئلة والأجوبة لتحديد ما إذا كانت نماذج اللغة الكبيرة LLM متأثرة بشكل مناسب بالبيانات المرجعية للمساعدة في ضمان صلتها بالمخرجات.
تعزز IBM الابتكار والتعاون المفتوح لمساعدة العملاء على نشر الذكاء الاصطناعي بطريقة شفافة ومسؤولة، وتساعد شركة IBM Consulting العملاء على توسيع نطاق الذكاء الاصطناعي المسؤول باستخدام كلا من حوكمة نماذج الذكاء الاصطناعي المؤتمتة، وحوكمة الذكاء الاصطناعي التنظيمية، التي تشمل الأشخاص والعمليات والتكنولوجيا من IBM والشركاء الاستراتيجيين.
ويتمتع مستشارو IBM بمهارات عميقة في تأسيس الثقافة التنظيمية والمساءلة، ولجان أخلاقيات الذكاء الاصطناعي، والتدريب، وإدارة المخاطر التنظيمية، والتخفيف من تهديدات الأمن السيبراني، وجميعها باستخدام تصميم يركز على البشر.
يشكل التزام IBM بالثقة والشفافية الأساس لمنتجاتها، وقد أعلنت مؤخرًا عن حماية الملكية الفكرية لنماذج واتسون إكس Watsonx التي طورتها، في الوقت الذي يعد فيه watsonx.governance استثمارا مستمرا للمساعدة على تعزيز ممارسات الذكاء الاصطناعي المسؤولة عبر مختلف مجالات الأعمال والصناعات.