إجابة مباشرة
يذكر التفسير الفعال أولاً القرار الدقيق وأثره في الشخص. ثم يبين دور الذكاء الاصطناعي والبشر، والبيانات الجوهرية المستخدمة ومصدرها، والقواعد والحدود وعدم اليقين التي أثرت في النتيجة. كما يجب توضيح المعلومات الناقصة أو القابلة للتصحيح ومسار الاعتراض. وعبارة «حسبتها الخوارزمية» لا تفسر سبب الوصول إلى النتيجة.
بلغة بسيطة
إذا رُفض طلب، فلا تفيد عبارة «وجد النظام أنك غير مؤهل». تحتاج إلى معرفة المعلومة التي عُدت خاطئة أو ناقصة، والقاعدة المطبقة، وما يمكنك تصحيحه أو الاعتراض عليه.
لماذا يهم؟
من دون السبب الجوهري، لا يستطيع الشخص تصحيح بيانات غير دقيقة أو تقديم دليل مقابل أو الاعتراض على القرار بصورة ذات معنى. أما الشرح المصقول لكنه غير ذي صلة فلا يصنع سوى مظهر للشفافية.
لا تخلط
- يصف التفسير العام للنظام طريقة عمل النموذج إجمالاً؛ ويشرح التفسير الخاص بالقرار النتيجة المعينة.
- يحدد تفسير البيانات المعلومات المستخدمة؛ ويبين تفسير العوامل كيف أثرت في النتيجة.
- يبين التفسير أسس القرار؛ ولا يجعل القرار صحيحاً أو قانونياً تلقائياً.
- يوفر الإفصاح معلومات؛ أما تفسير الاعتراض الفعال فيجب أن يكون قابلاً للاستخدام.
- قد تُحمى معلومات سرية أو حساسة أمنياً، لكن لا يجوز إخفاء السبب الجوهري بالكامل.
ماذا تفعل؟
- اذكر معرّف القرار وتاريخه ونطاقه وأثره وهل ما زال نافذاً.
- افصل أدوار نظام الذكاء الاصطناعي والمراجع البشري وصاحب القرار النهائي.
- حدد البيانات الجوهرية المستخدمة ومصدرها وتاريخها وكيف رُبطت بالشخص.
- اشرح العوامل والقواعد والحدود والأدلة المقابلة الجوهرية التي أثرت في النتيجة.
- أظهر عدم اليقين والمعلومات الناقصة وحدود التفسير.
- اذكر البيانات القابلة للتصحيح والأدلة الجديدة الممكنة والمهلة ومسار الاعتراض الآمن.
- اختبر التفسير بمقارنته بسجل القرار الفعلي وبمدى فهم القارئ المقصود له.
كيف تدقّق؟
- هل يفهم الشخص القرار والأثر المطبقين عليه؟
- هل وُصفت الحدود بين أدوار الذكاء الاصطناعي والبشر بدقة؟
- هل تظهر البيانات الجوهرية ومصدرها وتاريخها ومطابقة الكيان؟
- هل شُرحت العوامل والقواعد التي أثرت فعلاً في النتيجة؟
- هل عُرض وصف عام للنموذج بوصفه تفسيراً خاصاً بالقرار؟
- هل يعرف الشخص ما يصححه وأين يقدم الاعتراض؟
- هل استُخدمت الخصوصية أو الأسرار التجارية لإخفاء السبب الجوهري بالكامل؟
الحد
يختلف نطاق التفسير المطلوب باختلاف الولاية القضائية ونوع القرار والمخاطر. وقد تحد اعتبارات الأمن وحقوق الغير والسرية القانونية من بعض التفاصيل. ولا يثبت وجود تفسير وحده الدقة أو العدالة أو الامتثال القانوني.
تذكّر في جملة
التفسير الذي لا يمكّن من الاعتراض ليس إلا مظهراً للمعلومة.
مصادر هذا السجل
- S35W3C, *PROV-O: The PROV Ontology*معيار
- S45الاتحاد الأوروبي، اللائحة (EU) 2024/1689 — «قانون الذكاء الاصطناعي»تشريع
- S48الاتحاد الأوروبي، اللائحة (EU) 2016/679 — «اللائحة العامة لحماية البيانات»تشريع
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*إطار مؤسسي طوعي ذو طابع معياري
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)اتفاقية دولية وجهة رسمية
- S62European Data Protection Board, *Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679*إرشادات رسمية لمجلس