الفصل الخامس — الحوكمة

حدود السلطة

يمكن تفويض الصلاحية؛ ولا يمكن تفويض المسؤولية. إمكان تنفيذ تغيير لا يعني الإذن به. وقابلية التأثير في نظام لا تجعل التأثير فيه مشروعاً؛ ورغبة المؤسسة في الظهور لا تجعلها جديرة بالتقوية؛ ومعرفة المنفذ بالتقنية لا تؤهله لاتخاذ كل قرار.

حدد الدليل ما يجوز قوله، والقياس ما رُصد، والتدخل متى وكيف يجوز المس. وتطرح الحوكمة سؤالاً أشد: من يملك اتخاذ هذا القرار؟ من يرصد، ويقترح التغيير، وينفذه، ويجيز الادعاء العام، ويوقف العمل، ويسحب موافقة سبق منحها؟ وعلى من تبقى المسؤولية حين يقع الخطأ؟

إذا لم تُكتب الأجوبة بقيت المخاطر بلا مالك. والمخاطر التي لا مالك لها لا تزول؛ بل تبقى مستترة حتى تنتج عاقبتها. ويقدم إطار NIST لإدارة مخاطر الذكاء الاصطناعي وملفه الخاص بالذكاء الاصطناعي التوليدي نهجين مجاورين يعالجان الحوكمة والقياس والاستجابة للمخاطر على امتداد دورة الحياة.[7][8] قد تبطئ الحوكمة الطريقة، وهذا ليس عيباً بل وظيفتها. السرعة لا تجعل الادعاء الخاطئ صحيحاً؛ والأتمتة لا تتحمل المسؤولية؛ والوكالة لا تحل محل مالك الكيان؛ وناتج النموذج ليس وثيقة اعتماد.

حيث توجد سلطة يجب أن يوجد حد.

1. صلاحيات القرار الخمس

ليست الحوكمة قائمة عمليات، بل نظاماً يحكم ما يجوز فعله، ومن يقرر، وأين تبقى المسؤولية. لا تبني كلمة «صلاحية» واحدة هذا النظام؛ فهناك خمس صلاحيات قرار مستقلة.

صلاحية الرصد تنتج سجلاً ولا تتخذ قراراً. يستطيع المحلل ترميز النواتج، وتستطيع الأتمتة تشغيل التكرارات، ويستطيع نموذج الإشارة إلى تشابه أو تناقض. ولا يمنح أي من ذلك إذناً بالتدخل أو النشر.

صلاحية الاقتراح هي قدرة المنفذ على تقديم اقتراح تدخل أو نشر يتضمن السجلات المؤسسة، والغاية، والنتيجة المتوقعة والمحظورة، وفئة المخاطر، وشروط الرجوع. الاقتراح طلب صلاحية، لا الصلاحية ذاتها.

صلاحية التنفيذ لا تشمل إلا النطاق المجاز كتابةً. فصلاحية تصحيح المحتوى لا تمنح حق تغيير تموضع العلامة؛ وصلاحية تسوية نسخة لغوية لا تمنح حق نشر ادعاء تفوق جديد؛ وصلاحية إرسال تصحيح إلى دليل خارجي لا تمنح حق إنشاء مصدر مستقل زائف. تنتهي صلاحية التنفيذ عند الحد المعتمد.

صلاحية الاعتماد ليست إجراء شكلياً، بل قبولاً للمسؤولية. يسجل المعتمد أنه رأى نطاق الدليل والمجالات المجهولة والمخاطر واللغة المسموح بها وشروط الإيقاف. رسالة «حسناً» بلا نطاق أو صمت في اجتماع لا يعد اعتماداً.

صلاحية النشر والإيقاف تنظم، بوصفهما قرارين منفصلين، إتاحة النتيجة للعامة وقطع نشرها عند نشوء خطر. قابلية الادعاء للإثبات لا تعني تلقائياً جواز نشره. يجب أن يكون لكل جملة عامة مالك، وإنسان محدد سلفاً يستطيع إيقاف النشر الخاطئ. البنية التي تستطيع البدء ولا تستطيع الإيقاف لا تدير شيئاً.

قد يجمع شخص واحد أدواراً عدة في عمل منخفض المخاطر. ولا يجوز أن يحملها كلها في حالة عالية المخاطر. فالجهة التي تختار طريقتها، وتقيس نتيجتها، وتعتمد نجاحها، وتنشر الادعاء نفسه لا تنتج تدقيقاً، بل تصديقاً للذات.

2. مستويات المسؤولية الثلاثة

مالك الكيان هو الشخص أو العلامة أو المؤسسة. يمكنه أن يفوض وكالة بالتنفيذ، ومستشاراً باختيار الطريقة، وموظفاً بنشر المحتوى، وبرمجية بجمع السجلات. وتبقى عليه مسؤولية صحة ادعاءاته، وقدرته على التنفيذ، وأثره في العميل، واللغة العامة التي أجازها، والصلاحيات التي منحها، والتصحيح عند الخطأ. تشرح عبارة «فعلت الوكالة ذلك» علاقة خارجية، ولا تزيل المسؤولية الداخلية.

المنفذ وكالة أو مستشار أو فريق أو فرد. ليست مهمته إنتاج النتيجة التي يريدها العميل بأي ثمن، بل الحُكم على توافقها مع الدليل والحد الأخلاقي. ولا يجعل طلب العميل مشروعاً: تقديم الدليل الضعيف كادعاء قوي، أو تحويل ناتج مفرد إلى نجاح عام، أو استعمال البيانات التركيبية كأداء حقيقي، أو الإضرار بتمثيل المنافس، أو صناعة إجماع زائف، أو مواصلة تدخل وجب سحبه. لا يجوز أن يسبق ولاء المنفذ للعميل ولاءه للحقيقة.

النظام الوسيط نموذج أو طبقة بحث أو بنية استرجاع أو أتمتة أو أداة تحليل. يستطيع إحداث أثر وتنفيذ عملية والإشارة إلى خطر، ولا يستطيع قبول المسؤولية المؤسسية. قول نموذج «هذا الادعاء موثوق» ليس اعتماداً مستقلاً، بل ناتج نموذج آخر. وعبارة «قرر الذكاء الاصطناعي ذلك» ليست تفسيراً، بل هروباً من المسؤولية.

لا تُترك المسؤولية عند مستوى المبدأ. ففي كل قرار مادي يُسمى المقترح والمنفذ والمعتمد والناشر وصاحب صلاحية الإيقاف وصاحب المساءلة النهائية. وتبرز مبادئ OECD للذكاء الاصطناعي أيضاً قابلية التتبع والمساءلة بوصفهما مجالين منفصلين للمسؤولية.[11] المسؤولية التي لا يُكتب اسم صاحبها مسؤولية لم يقبلها أحد.

3. بوابات الملاءمة

3.1. ملاءمة المؤسسة

ليست كل مؤسسة صالحة للتقوية بواسطة GEO. تُفحص ستة مجالات قبل قبول العمل.

1. ملاءمة الادعاء: يجب أن تكون الجمل الأساسية المطلوب تقويتها قابلة للإثبات. تُصغّر عبارات مثل «الأفضل» و«الرائد» و«المضمون» إذا لم يكن لها دليل؛ وإذا رفضت المؤسسة ذلك رُفض العمل.
2. ملاءمة التنفيذ: يجب أن تستطيع القدرة والجغرافيا والسعر والموظفون ومدة التسليم والدعم والإلغاء والاسترداد والنتيجة الموعودة تلبية التوقع الحقيقي. لا يجوز تقوية ادعاء لا يمكن تنفيذه.
3. ملاءمة ضرر العميل: لا يُنفذ العمل إذا كانت الرسوم المخفية أو الندرة الزائفة أو الضمان المضلل أو المراجعات الكاذبة أو معدل النجاح غير الحقيقي أو إخفاء الضرر أو تعمد عدم استبعاد العميل غير الملائم جزءاً من نموذج العمل. إظهار النموذج الضار يوسّع الضرر.
4. ملاءمة التصحيح: يجب أن تقبل المؤسسة تضييق الادعاء غير المدعوم، وإزالة المعلومة القديمة، وتسوية النسخ اللغوية، وسحب الجملة العامة الخاطئة. الاحتفاظ بالتناقض الذاتي وانتظار تمثيل صحيح من النظام ليس ملاءمة.
5. ملاءمة الشفافية: يجب فصل البيانات الحقيقية عن التركيبية، والنتيجة المقاسة عن المفترضة، والرعاية والمصالح المرتبطة عن غيرها.
6. ملاءمة المسؤولية: يجب أن تقبل المؤسسة بقاء المسؤولية النهائية عليها. ولا يبدأ العمل بشرط «المسؤولية كلها على الوكالة».

قد يكون القرار قبولاً، أو قبولاً مشروطاً، أو الرصد والتحقق أولاً، أو رفضاً. الفرصة التجارية لا تنشئ ملاءمة أخلاقية.

3.2. ملاءمة المنفذ

لا تكفي المعرفة التقنية وحدها لاستخدام سلطة التمثيل. يجب أن يستطيع المنفذ الفصل بين طبقات الكيان والصفة والحُكم؛ وبين الذكر والاستشهاد والتوصية والنتيجة التجارية؛ وبين الدليل والقياس والتدخل. وعليه إظهار المقام، والبحث عن الدليل المضاد، وتسجيل عدم اليقين، وألا يقدم طريقته دليلاً على نجاحها.

حين يطلب العميل إدراج النواتج الإيجابية وحدها في التقرير، أو إضعاف المنافس، أو تأسيس تفوق بلا دليل، لا يملك المنفذ حق الرفض فحسب، بل عليه واجبه. وتُعلن حالات تضارب المصالح، مثل خدمة المنافسين، أو الأجر المرتبط بالنتيجة، أو الإيراد الناشئ من بيع الشارات، أو جمع دور المقيّم والمبيعات. لا يبطل التضارب كل عمل تلقائياً؛ لكن إخفاءه يبطل الثقة.

ويجب على المنفذ كذلك إظهار انضباط السجل والرجوع، وحدود الصلاحية الممنوحة، وكفاءته في المجالات عالية المخاطر. وقد تكون النتيجة ملائم، أو ملائم بصلاحية محدودة، أو ملائم بتدقيق إضافي، أو غير ملائم للعمليات عالية المخاطر، أو غير ملائم. الكفاءة لا تنشئ صلاحية؛ فالصلاحية تُمنح على حدة.

4. فئات المخاطر ورقابة المفتاحين

تُعالج قرارات الحوكمة في أربع فئات للمخاطر:

الجدول 5.1 — فئات المخاطر والحد الأدنى للاعتماد

لا يجوز خفض فئة المخاطر بعد رؤية النتيجة؛ بل تُحدد قبل العملية. يحتاج القرار عالي المخاطر إلى إنسانين مستقلين على الأقل: المقترح والمعتمد. يتحمل المقترح مسؤولية الطريقة والتعليل؛ ويتحمل المعتمد مسؤولية الدليل والمخاطر واللغة وشروط الرجوع. ولا تعد الأتمتة أو النموذج واحداً من هذين المفتاحين.

تخضع لهذه القاعدة: ادعاء النجاح العام، ومقارنة المنافس، ولغة «الأفضل» أو «الأكثر موثوقية»، والأثر الصحي أو القانوني أو المالي أو الأمني، والنشر الذي يستخدم ناتج نموذج دليلاً، والتدخل الهيكلي صعب الرجوع، والانتشار الخارجي الواسع، وأي علامة ملاءمة مستقبلية.

5. حوكمة الادعاء والشفافية

ليست كل ملاحظة صحيحة صالحة للنشر العام. يحمل الادعاء واحدة من أربع حالات للنشر:

• فرضية داخلية: يمكن استخدامها في البحث وخطة التدخل؛ ولا يجوز نشرها بوصفها نتيجة.
• ملاحظة محدودة: يمكن مشاركتها مع ذكر النظام والتاريخ والطلب والنطاق؛ ولا يجوز تعميمها.
• ادعاء عام محدود: له سجل دليل واعتماد بشري ولغة مأذون بها وبيان للحدود.
• ادعاء مسحوب: لم يعد جائز الاستخدام؛ ولا يُحذف سجله القديم، بل تُعلن حالة السحب.

يكون لكل ادعاء عام مالك، وسجل دليل مرتبط، ونطاق قياس، وجملة دقيقة مسموح بها، وتوسيعات محظورة، وفئة مخاطر، ومعتمد، وتاريخ نشر وإعادة فحص، وشرط سحب. الادعاء العام قرار مسؤولية، لا قرار صياغة.

ليست الشفافية نشر كل شيء، بل عدم إخفاء المعلومة المادية التي تغير الحُكم. يجب أن تظهر الطريقة، والأنظمة المقاسة وغير المقاسة، ومجموعة الطلبات، والمدة الزمنية، وحد الدليل، والبيانات الناقصة، والنتائج المضادة، والأمثلة التركيبية، وتضارب المصالح، وتغييرات البروتوكول، والآثار الجانبية. ويمكن حماية السر التجاري والمعلومة الأمنية والبيانات الشخصية؛ وإذا تعذر نشر التفصيل، يُشرح أثر القيد في القرار.

والحافز مهم بقدر الطريقة. قد تميل الوكالة التي تتلقى مكافأة على زيادة الظهورية إلى اعتبار مزيد من الظهورية نجاحاً؛ وقد تخفض المؤسسة المعتمدة على إيراد الشارات عتبة الإجازة؛ وقد يلطّف المقيّم الذي يعتمد استمرار عقده على النتيجة السلبية. ليس هذا اتهاماً لطبع الإنسان، بل مشكلة في تصميم النظام. يقلل الخطرَ الإفصاحُ، وفصلُ الأدوار، والتقويمُ الثاني، والمعيارُ الثابت، والأجرُ المستقل عن النتيجة، وإبعادُ فريق المبيعات عن قرار الملاءمة، ومسارُ الاعتراض.

6. علامة الملاءمة: تصميم يسبق الصلاحية

لا تعني علامة الملاءمة تفوقاً أو توصية أو ضمان نتيجة. إنها تبين أن نطاقاً محدداً قُوّم، في تاريخ ونسخة Framework محددين، وفق معايير مكتوبة. ولا ينشئ هذا الكتاب بمجرد نشره برنامج شهادات نشطاً. لا يجوز إصدار أي «شهادة NobleJackal GEO» أو علامة مكافئة قبل تشغيل بنية القرار المستقل وإدارة تضارب المصالح والرقابة والاعتراض والتعليق والسحب.

يتوافق هذا الحد مع مبادئ الممارسة الدولية التي تؤكد، في تقويم المطابقة، أهمية الحياد والقرار المنفصل والرقابة والتعليق والسحب وآليات الاعتراض؛ لكن هذا الكتاب لا يدعي اعتماداً من ISO أو عضوية في ISEAL.[17][18]

إذا استُخدمت علامة تجريبية مستقبلاً، فقد تحمل — في حدها الأدنى — المعنى الآتي: «وُجد أن مجال التمثيل المحدد لهذا الكيان ملائم، في التاريخ والنطاق المبينين، تحت النسخة المعروضة من NobleJackal GEO Framework». ولا يجوز أن تحمل أبداً المعاني الآتية: أن أنظمة الذكاء الاصطناعي توصي بالمؤسسة؛ أو أنها تتفوق على منافسيها؛ أو أن ادعاءاتها كلها صحيحة؛ أو أنها متسقة بكل اللغات؛ أو أنها ستبقى كذلك مستقبلاً؛ أو أن النتيجة التجارية مضمونة؛ أو أن الانتهاك الأخلاقي مستحيل.

تعيش العلامة مع هوية لها، والكيان المقوّم، ونسخة Framework، والنطاق والمجالات الخارجة منه، وتاريخ الدليل، وتاريخ إعادة الفحص، وشروط التعليق والسحب، وسجل تحقق عام، وقواعد الاستخدام. يمكن شراء خدمة التقويم؛ ولا يمكن شراء النتيجة. ولا يجوز إعادة تسمية العلامة «معتمد من الذكاء الاصطناعي» أو «موصى به من الذكاء الاصطناعي» أو «الأفضل» أو «مضمون».

تُعلق العلامة إذا تقادم الدليل، أو ظهر تناقض جديد جسيم، أو استُخدمت خارج النطاق، أو قُدمت البيانات التركيبية كحقيقية، أو انتُهك الادعاء العام، أو لم يُجب عن طلب تصحيح، أو ظهرت إشارة ضرر جسيم للعميل، أو تغيرت النسخة، أو لم تكتمل إعادة الفحص. ويكون الدليل الزائف، أو الإجماع الزائف، أو التخريب المتعمد لتمثيل منافس، أو تكرار انتهاك النطاق، أو إخفاء تضارب مصالح جسيم، أو إلحاق ضرر مادي بالمستخدم، أو الاستخدام المضلل في المبيعات سبباً للسحب. العلامة التي لا يمكن سحبها زينة تسويقية، لا أداة حوكمة.

7. إدارة الحوادث والجزاءات

لا تفترض الحوكمة انعدام الخطأ؛ بل تبني مسبقاً الطريق الذي يُسلك عند وقوعه.

1. جمّد: يوقف مؤقتاً الادعاء أو التدخل أو استخدام العلامة المحفوف بالمخاطر، ويُقطع الانتشار الجديد.
2. احفظ السجل: تُحفظ النواتج الخام والطلبات والأوقات ونسخ المحتوى والموافقات وسجل التغييرات؛ ولا تُمح آثار الخطأ.
3. احصر الضرر: تُصحح الأسطح المملوكة، وتُرسل التصحيحات إلى المصادر الخارجية عند الحاجة، ويُوقف الوعد الخاطئ للعميل.
4. أبلغ: يُخطر من يتأثر قراره. وقد يحتاج الخطأ المادي العام إلى تصحيح عام.
5. احكم: يُفصل بين خطأ البيانات والقياس والاعتماد والصلاحية والأخلاق والقصد والسيطرة على النظام، وتربط النتيجة بالسجل.

بحسب جسامة الانتهاك، يمكن تطبيق طلب تصحيح، أو إنذار كتابي، أو سحب الادعاء، أو إيقاف التدخل، أو تدقيق إضافي، أو تعليق العلامة أو سحبها، أو تقييد صلاحية المنفذ، أو إنهاء العمل، أو سجل حالة عام. الجزاء ليس انتقاماً، بل وفاء المعيار بجملته. ولا يغير حجم العميل أو قيمته التجارية المعيار.

8. حالة تعليمية: AegisCare Diagnostics

محاكاة تعليمية — بيانات تركيبية. لا تمثل هذه الحالة مؤسسة صحية حقيقية أو بيانات سريرية أو اختبار نموذج حقيقياً.

AegisCare Diagnostics شركة افتراضية تقدم خدمات الفحص المؤسسي والمختبرات. وتريد نشر جملة: «توصي أنظمة الذكاء الاصطناعي بـ AegisCare بوصفها واحداً من أكثر مراكز التشخيص موثوقية». وتقدم ستة نواتج توليدية إيجابية وتقرير رضا تجريبي واحداً.

الجدول 5.2 — قرار حوكمة تركيبي لـ AegisCare Diagnostics

جزء من الملاحظة حقيقي، لكن اللغة العامة المطلوبة تظل مرفوضة. فالرخصة لا تثبت الموثوقية المقارنة، وست توصيات لا تثبت التفوق بوصفه «الأكثر موثوقية». وفي سياق الصحة يعلو أثر اليقين الخاطئ في قرار المستخدم. كون الجملة صحيحة جزئياً لا يجعلها صالحة للنشر.

9. قرار الحوكمة

يجمع سجل الحوكمة المفصل في الملحق C، في موضع واحد، موضوع القرار، والأدلة المرتبطة، وملاءمة المؤسسة والمنفذ، وفئة المخاطر، والمقترح والمعتمد، وتضارب المصالح، والعملية واللغة المسموح بهما والمحظورتان، وشروط إعادة الفحص والسحب، وصاحب المساءلة النهائية. إذا غاب السجل غاب القرار؛ وبقيت واقعة يمكن روايتها لاحقاً.

حُكم هذا الفصل هو:

يمكن تفويض الصلاحية. ولا يمكن تفويض المسؤولية. تستطيع الأتمتة تنفيذ العملية؛ ويبقى الحُكم وواجب المساءلة لدى الإنسان.

تقول الحوكمة لا لبعض الأعمال، وتضيّق بعض الادعاءات، وترفض بعض العملاء، وتسحب اعتماداً عند الحاجة. ليست هذه لحظة ضعف، بل لحظة عمل السلطة.

لكن لا يبقى أي قرار صالحاً إلى الأبد. يتقادم الدليل، ويهرم البروتوكول، وينشئ التدخل دَين صيانة، وقد تفقد حقيقة اليوم حداثتها غداً. لذلك فالزمن هو الحلقة الخارجية.