دورة سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها

سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها دورة تدريبية مدتها أسبوع لمسؤولي السياسات ومديري الحوكمة والمخاطر ومختصي الامتثال والتدقيق، يخرج منها المشاركون بمسودة إطار لسياسة الذكاء الاصطناعي والرقابة عليه. فالموظفون يستخدمون المساعدات المحادثية، والموردون يدمجون النماذج في البرمجيات اليومية، والمجالس تسأل عمن يتحمل مسؤولية القرارات الآلية. وتقدم جوبيتر برايم للتدريب هذه الدورة في سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها لمن يكتبون القواعد ويطبقونها.

لماذا تهم سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها الآن

تشكل ثلاث فئات واقع سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها اليوم: موظفون يتبنون الأدوات التوليدية أسرع مما تكتب القواعد، وموردون يضمنون النماذج داخل منتجات مشمولة بعقود قائمة، ومجالس ومدققون وعملاء ينتظرون معرفة من اعتمد كل نظام وكيف تتم مراقبته. المؤسسات التي تملك سياسة واضحة وسجلا فاعلا تعرف أين تعمل النماذج وتستطيع إثبات فحوصها، أما غيرها فتكتشف الأدوات الخفية بعد تسرب أو شكوى. وتأتي الأمثلة من معالجة مطالبات التأمين ومن الإدارة الاستشفائية. وتستند الدورة إلى ISO/IEC 42001 لأنظمة إدارة الذكاء الاصطناعي وإطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF).

المستفيدون من سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها

• مسؤولو السياسات الذين يصوغون القواعد المؤسسية ويتشاورون حولها وينشرونها
• مديرو الحوكمة والمخاطر المسؤولون عن سجلات المخاطر وبيانات تقبل المخاطر واللجان
• مختصو الامتثال الذين يفسرون المتطلبات ويتابعون التقيد بها عبر الإدارات
• مختصو التدقيق الداخلي الذين يخططون مراجعات التأكيد ويختبرون الضوابط
• قادة حماية البيانات وأمن المعلومات الذين يعتمدون استخدام البيانات والوصول إلى الأنظمة

تتحقق أقوى فائدة حين يحضر مسؤول سياسات ومدير مخاطر ومدقق داخلي من المؤسسة نفسها معا.

قدرات سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها

يتعلم المشاركون تحويل المبادئ إلى بنود قابلة للتطبيق وسجل نماذج حي وواجبات رقابية يستطيع المدققون اختبارها.

• صياغة بنود الاستخدام المقبول للأدوات التوليدية والنماذج الداخلية — معتمدو السياسات
• بناء سجل أنظمة الذكاء الاصطناعي بملاكها وأغراضها وبياناتها ومورديها — لجان المخاطر
• تطبيق معايير تصنيف المخاطر التي تحدد عمق المراجعة لكل نظام — مجالس الحوكمة
• تحديد نقاط الرقابة البشرية وصلاحيات التجاوز ومؤشرات المراقبة — ملاك الأعمال
• تصميم مسار تصعيد الحوادث عند إخفاق النماذج أو إساءة استخدامها — الإدارة التنفيذية
• اختبار التقيد بالسياسة عبر إجراءات التدقيق وطلبات الأدلة — لجان التدقيق

مصطلحات سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها الأساسية

• سياسة الاستخدام المقبول للذكاء الاصطناعي — القواعد المؤسسية التي تحدد الأدوات المسموحة للموظفين والمهام والبيانات التي يجوز استخدامها معها.
• سجل أنظمة الذكاء الاصطناعي — سجل يدون كل نظام مستخدم ومالكه وغرضه ومصادر بياناته ومورده وفئة مخاطره.
• تصنيف المخاطر — ترتيب أنظمة الذكاء الاصطناعي حسب الضرر المحتمل لتحظى الفئات الأعلى بمراجعة واعتماد ومراقبة أعمق.
• الرقابة البشرية — النقاط المحددة التي يراجع فيها شخص مخرجات النظام أو يعتمدها أو يتجاوزها.
• مراقبة النماذج — فحوص مستمرة لدقة النظام وانجرافه وعدالته واستخدامه بعد التشغيل الفعلي.
• حادثة الذكاء الاصطناعي — واقعة يسبب فيها النظام أو يكاد يسبب ضررا أو خطأ أو كشفا للبيانات أو مخالفة للسياسة.

سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها يوما بيوم

اليوم 1: مشهد السياسات للذكاء الاصطناعي

• أساسيات تعلم الآلة والذكاء التوليدي — ما يجب أن تغطيه السياسة
• الذكاء الاصطناعي الخفي ونماذج الموردين المدمجة — تحديد نطاق السياسة
• بنية بنود ISO/IEC 42001 — السياسة والأدوار ومراجعة الإدارة
• وظائف NIST AI RMF في الحوكمة والتحديد والقياس والإدارة — واجبات الرقابة
• توقعات المجالس والمدققين والعملاء — أهداف السياسة

اليوم 2: صياغة سياسة الذكاء الاصطناعي

• بنية المبادئ والمعايير والإجراءات — تسلسل الوثائق
• بنود الاستخدام المقبول للأدوات التوليدية — المهام المسموحة والممنوعة
• قواعد التعامل مع البيانات في الأوامر ومجموعات التدريب — حدود السرية
• مصفوفة الأدوار والمساءلة — مالك النظام والمراجع والمعتمد
• إجراء الاستثناءات والإعفاءات — الانحرافات المضبوطة عن السياسة

اليوم 3: السجل وتصنيف المخاطر

• حقول سجل أنظمة الذكاء الاصطناعي وأساليب اكتشافها — اكتمال السجل
• معايير تصنيف المخاطر وتقديرها — عمق المراجعة لكل نظام
• نماذج تقييم الأثر — أسئلة العدالة والسلامة والخصوصية
• بنود الأطراف الثالثة والمشتريات لموردي الذكاء الاصطناعي — ضوابط العقود
• بوابات الاعتماد قبل التشغيل — قرارات توقيع اللجان

اليوم 4: الرقابة البشرية والمراقبة والحوادث

• تصاميم الإنسان داخل الحلقة والإنسان فوق الحلقة — صلاحية التجاوز
• مؤشرات مراقبة الانجراف والأخطاء والشكاوى — محفزات المراجعة
• تصنيف حوادث الذكاء الاصطناعي ومسار تصعيدها — ملكية الاستجابة
• إجراءات التدقيق وطلبات الأدلة — اختبار التقيد بالسياسة
• حزم التقارير للمجالس واللجان — شفافية الرقابة

اليوم 5: تطبيق إطار سياسة الذكاء الاصطناعي والرقابة عليه

• ملف المؤسسة ونطاق السياسة — تطبيق تحديد النطاق والأهداف
• بنود السياسة ومصفوفة الأدوار — تطبيق أساليب الصياغة
• مستخرج السجل وتعيين الفئات — تطبيق تصنيف المخاطر
• إجراءات الرقابة والمراقبة والحوادث — تطبيق تصميم التصعيد
• إطار سياسة الذكاء الاصطناعي والرقابة عليه — العرض على لجنة الحوكمة

تطبيق سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها بعد الدورة

• إجراء مسح لأدوات الذكاء الاصطناعي في إدارتين وإدخال النتائج في مسودة سجل الأنظمة
• تصنيف ثلاثة أنظمة من ذلك السجل والاتفاق مع ملاك الأعمال على نقاط الرقابة البشرية لكل منها

أسئلة حول سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها

ما سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها ولماذا تهم الآن؟

سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها هي مجموعة القواعد والسجلات وواجبات المراجعة التي تضبط استخدام المؤسسة للنماذج. وتهم الآن لأن الموظفين والموردين يدخلون الذكاء الاصطناعي أسرع مما تستطيع مسارات الاعتماد التقليدية متابعته.

ما الأدوار الأكثر استفادة من تدريب سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها؟

يستفيد أكثر مسؤولو السياسات ومديرو الحوكمة والمخاطر ومختصو الامتثال والمدققون الداخليون وقادة حماية البيانات. فهم يكتبون القواعد ويمسكون السجلات ويختبرون مدى تقيد الأنظمة بها.

كيف يختلف تدريب سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها عن دورة تقنية في تعلم الآلة؟

يعمل على البنود والسجلات والفئات وأدلة التدقيق بدلا من الخوارزميات والبرمجة. وتتعلم فيه حوكمة أنظمة يبنيها غيرك بدلا من بناء النماذج أو ضبطها بنفسك.

ماذا تعود به من تدريب سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها؟

تعود بمسودة إطار للسياسة والرقابة تضم بنود الاستخدام المقبول ومصفوفة الأدوار وحقول السجل ومعايير التصنيف ونقاط الرقابة ومسار الحوادث، جاهزة لمراجعة اللجنة.

سياسات الذكاء الاصطناعي وتعلم الآلة والرقابة عليها: الطريق إلى الأمام

يوجه إطار سياسة الذكاء الاصطناعي والرقابة عليه أولا قرار الأنظمة التي تحتاج إلى اعتماد اللجنة قبل مواصلة استخدامها، بدءا بالفئة الأعلى. ويستخدمه مسؤولو السياسات ومديرو المخاطر والمدققون لتعيين الملاك وجدولة المراجعات. وبعد أول دورة لتحديث السجل تستحق معايير التصنيف المراجعة، لأن الأنظمة الفعلية تقع غالبا بين الفئات المرسومة على الورق.

• وضع الدورة دوام كامل
• مقدم الدورة جوبيتر برايم للتدريب