إجابة مباشرة
اربط التفسير بسجل حُفظ وقت اتخاذ القرار. يبين ذلك السجل إصدارات النموذج والنظام والموجهات والبيانات المستخدمة والمعلومات المختارة والسياسة واستدعاءات الأدوات والتدخلات البشرية والنتيجة المطبقة. طابق كل عبارة جوهرية في التفسير بأحد هذه الأدلة. وعند الملاءمة، احذف عاملاً مدعى أو غيّره واختبر تغير النتيجة. وإذا لم يسند السجل النص، فصنّفه رواية لاحقة محتملة لا تفسيراً أميناً.
بلغة بسيطة
تخيل فاتورة مطعم كُتبت من الذاكرة بعد الوجبة. قد يبدو المجموع صحيحاً، لكنه لا يثبت الأطباق التي طُلبت فعلاً. الفاتورة الموثوقة تطابق السجلات التي أُنشئت عند الطلب.
لماذا يهم؟
يثق الناس بسهولة في تفسير يبدو معقولاً. وإذا لم يرتبط بالقرار الحقيقي، فقد يُطلب منهم تصحيح بيانات غير مؤثرة، أو يبقى الخطأ الحقيقي خفياً، أو تُنسب المسؤولية إلى الطرف الخطأ.
لا تخلط
- التفسير المعقول مفهوم لغوياً؛ والتفسير الأمين يتفق مع دليل القرار الحقيقي.
- التفسير اللاحق يُنتج بعد القرار وقد يكون دقيقاً أو مختلقاً.
- يسأل أصل السجل من أين جاء؛ وتسأل السببية أي عنصر غيّر النتيجة.
- وجود سجل أحداث لا يثبت اكتماله أو دقته أو عدم تعديله.
- تسعى إعادة الإنتاج إلى نتيجة مشابهة؛ أما اختبار الأمانة فيفحص الادعاء السببي في التفسير.
ماذا تفعل؟
- احفظ نسخاً من النموذج والبيانات والموجه والسياسة والأداة والتدخل البشري وقت القرار.
- أنشئ مساراً زمنياً للمدخلات واختيار المعلومات واستدعاءات الأدوات والتدخل البشري والنتيجة المطبقة.
- احمِ سلامة سجل الأحداث ولقطة القرار بالبصمات الرقمية وضوابط الوصول ومسار التغيير.
- طابق كل ادعاء جوهري في التفسير بسجل القرار الذي يسنده.
- عند الملاءمة، اختبر الأمانة السلوكية بإزالة العوامل والاختبارات المقابلة والتكرار والحساسية.
- لا تعرض روايات غير مسنَدة أو محتملة فحسب بوصفها تفسيرات أمينة؛ واذكر مستوى الضمان.
- عندما يتغير النظام، أعد التحقق من التفسير بدلاً من نقله إلى الإصدار الجديد.
كيف تدقّق؟
- هل يرتبط التفسير بمعرّف القرار الصحيح ولقطة من وقت القرار؟
- هل يمكن تتبع النموذج والموجه والبيانات واختيار المعلومات والأدوات والسياسة والتدخلات البشرية؟
- هل يظهر كل سبب جوهري في التفسير فعلاً في السجل؟
- هل اكتمال سجلات الأحداث وسلامتها محميان؟
- هل جرى تقييم الأمانة السلوكية بالاختبار أم بجودة الصياغة فقط؟
- هل عُرض تفسير لاحق أو صادر عن المزود بوصفه سبباً داخلياً مؤكداً؟
- هل استُخدم تفسير قديم بعد تغيير الإصدار من دون تحقق جديد؟
الحد
لا يمكن دائماً إثبات السببية الداخلية كاملة في النماذج المعقدة والمغلقة. ولا يبين مسار القرار إلا العملية القابلة للملاحظة، وقد لا يكشف كل آلية داخلية. عندئذ يجب التصريح بمستوى الضمان والمجهولات.
تذكّر في جملة
قد تكون الرواية الجيدة تفسيراً؛ أما الأمانة فتحتاج إلى دليل مرتبط بلحظة القرار.
مصادر هذا السجل
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*معيار
- S35W3C, *PROV-O: The PROV Ontology*معيار
- S36W3C, *Trace Context*معيار
- S37OpenTelemetry, *General Trace Semantic Conventions*وثائق معيار أو مشروع
- S44NIST، «دليل تطبيق إطار إدارة مخاطر الذكاء الاصطناعي» وAI RMF Coreإرشادات تطبيق طوعية
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*إطار مؤسسي طوعي ذو طابع معياري