مكث رؤوف، والد ديلان أجار، اثني عشر يوماً في المستشفى بعد إصابته بمرض تنفسي شديد. واكتمل العلاج الذي كان يتلقاه داخل المستشفى. لكن يجب أن يتوافر في منزله، طوال الأسبوعين الأولين بعد خروجه: جهاز دعم تنفسي حدده الطبيب، وفحص تمريضي منتظم، ومتابعة للأدوية، وخط رعاية منزلية يمكن الاتصال به في الطوارئ. والمستشفى الذي يتولى علاج رؤوف تابع لمجموعة صحية خاصة كبيرة تدعى Mira Sağlık Ağı (شبكة ميرا الصحية). ولتسريع إجراءات الخروج وتخفيف عبء العمل عن موظفي المستشفى، تستخدم الشبكة نظاماً مدعوماً بالذكاء الاصطناعي يسمى Continuum Care Orchestrator. وينفذ النظام العمليات الآتية معاً:

يقرأ تعليمات الخروج التي وضعها الطبيب.
يستعلم عن نطاق التغطية التأمينية للمريض.
يتحقق من الأجهزة الطبية التي صُرفت سابقاً.
يرسل طلباً إلى شركة الرعاية المنزلية.
يجدول زيارات طاقم التمريض.
يرسل رسائل معلومات إلى المريض وأقاربه.
وعند اكتمال الإجراءات اللازمة، يغيّر حالة المريض إلى:

Discharge ready. ولم تنشئ شركة واحدة هذا النظام.

تتخذ البنية المعمارية الشكل الآتي: Mira Sağlık Ağı (شبكة ميرا الصحية)
↓
خدمات ArdaTek للتكامل الصحي
↓
Continuum Care Orchestrator
↓
نموذج Helix العام للذكاء الاصطناعي
↓
خدمة بيانات Birlik للتأمين الصحي
↓
خدمات EvDestek للأجهزة الطبية والرعاية

لا تسيطر كل مؤسسة إلا على جزء محدد من النظام. تدير Mira Sağlık Ağı علاقة المريض. وأنشأت ArdaTek الوكلاء ومسارات العمل. وتوفر Helix النموذج الأساسي الذي يلخص المستندات. وترسل Birlik Sağlık Güvencesi سجلات الأجهزة الطبية التي صُرفت في الماضي. وتتولى EvDestek تسليم الأجهزة. ويُدخل طبيب رؤوف التعليمات الآتية في خطة الخروج: «لا ينبغي إخراج المريض قبل توفير جهاز دعم تنفسي منزلي. ويجب أن تتم أول زيارة تمريضية خلال أربع وعشرين ساعة من خروجه.»

تُسجل التعليمات على نحو صحيح في نظام المستشفى. ويستعلم Continuum Care Orchestrator من خدمة بيانات Birlik Sağlık Güvencesi، فترد الخدمة بما يأتي:

patient_has_active_home_respiratory_device: true
provider: EvDestek
record_date: 7 months ago

هذا السجل قديم. فقد استخدم رؤوف جهازاً من النوع نفسه مدة قصيرة قبل سبعة أشهر، وأعاده إلى EvDestek قبل أربعة أشهر. لكن معلومة الإعادة لم تُسجل في سجل البيانات المركزي لشركة التأمين. ولا تقول البيانات: «صُرف الجهاز سابقاً»، بل تقول: «ما زال الجهاز نشطاً في منزل المريض.» ويفسر Continuum Care Orchestrator هذا الحقل على النحو الآتي:

duplicate_device_order_risk: high

وتنص إحدى سياسات ضبط التكاليف لدى شبكة ميرا الصحية على ما يأتي:

IF active_equipment_record_exists
THEN
do_not_create_duplicate_order
use_existing_equipment

وُضعت هذه السياسة لمنع تحصيل ثمن الجهاز نفسه من المريض مرتين. لكن القاعدة لا تتضمن الضوابط الآتية:

مدى حداثة السجل
ما إذا كان الجهاز في حوزة المريض فعلاً
احتمال أن يكون الجهاز قد أُعيد
أولوية تعليمات الطبيب الجديدة والصريحة على السجل القديم
التحقق المادي لدى المريض أو أحد أقاربه
إثبات التسليم قبل الخروج من المستشفى

لا ينشئ النظام طلباً لجهاز جديد. ويأتي السجل الداخلي على النحو الآتي:

new_device_order:
suppressed
reason:
active_equipment_already_available

لا يظهر على شاشة الطبيب سوى الوضع الآتي: Home respiratory support: covered ولا يتضح ما إذا كانت كلمة «Covered» تعني أن التأمين يغطي الجهاز، أو أن طلب الجهاز أُرسل، أو أن الجهاز سُلّم، أو أنه موجود فعلاً في منزل المريض. وتظهر في لوحة ممرضة الخروج علامة خضراء: ✓ Home support confirmed تدير الممرضة في ذلك اليوم ملفات خروج واحد وثلاثين مريضاً. فتثق بالحالة الخضراء التي يعرضها النظام، ولا تسأل على نحو منفصل عما إذا كان الجهاز موجوداً بالفعل في منزل رؤوف.

يرسل Continuum Care Orchestrator إلى EvDestek طلب زيارة تمريضية. ويقبل نظام EvDestek الطلب:

HTTP 202
visit_request_received

ويسجل الوكيل هذا القبول التقني على النحو الآتي:

home_nurse_visit_confirmed: true

لكن الزيارة لم تُسند بعد إلى أي ممرضة. فقد استُنفدت طاقة EvDestek الاستيعابية في عطلة نهاية الأسبوع، ومن المتوقع جدولة الطلب في يوم العمل التالي. ويرسل Continuum Care Orchestrator الرسالة الآتية إلى ديلان: «اكتملت ترتيبات الرعاية المنزلية والدعم التنفسي لوالدك. وجُدولت زيارته الأولى بعد الخروج.» ولا تذكر الرسالة أن طلب جهاز جديد لم يُرسل، أو أن النظام يفترض وجود جهاز قديم في المنزل، أو أن الزيارة التمريضية ما زالت في مرحلة الطلب فحسب. يخرج رؤوف من المستشفى، وتأخذه ديلان إلى المنزل. لا يوجد في المنزل جهاز دعم تنفسي.

تتصل ديلان بالمستشفى. وتظهر على شاشة مركز الاتصال المعلومات الآتية: Home equipment: active Nurse visit: confirmed Discharge plan: completed يقول موظف مركز الاتصال: «يظهر في نظامنا أن جميع ترتيبات الرعاية المنزلية قد اكتملت. عليك التحدث إلى مزوّد الجهاز.» فتتصل ديلان بـEvDestek. ويتحقق الموظف من السجلات ثم يقول: «لا يوجد طلب لجهاز جديد باسمك. لم يرسل إلينا النظام سوى طلب زيارة تمريضية.» تقول ديلان: «أبلغنا المستشفى أن الجهاز جاهز.» فيجيب موظف EvDestek: «ربما لم ينشئ المستشفى طلباً جديداً لأن نظام التأمين يُظهر جهازاً نشطاً. عليك التحدث إلى شركة التأمين.»

تتصل ديلان بـBirlik Sağlık Güvencesi. فيقول موظف التأمين: «نحن لا نفعل سوى إرسال سجل الجهاز القائم إلى مؤسسات الرعاية الصحية. ولسنا مسؤولين عن التسليم المادي للجهاز. كان على مزوّد الجهاز تحديث سجل الإعادة.» تتصل ديلان بـEvDestek مرة أخرى، فيقال لها: «معاملة الإعادة مغلقة في نظامنا. ولا نعرف لماذا لم تُحدَّث مزامنة بيانات شركة التأمين.» ثم تعود ديلان إلى Mira Sağlık Ağı. فيقول مركز اتصال المستشفى: «الطبيب هو الذي اتخذ قرار الخروج. عليك التحدث إلى طبيبك.» ويرد سكرتير الطبيب: «كتب الطبيب صراحة أنه لا ينبغي إخراج رؤوف من دون الجهاز. والطبيب لا يدير عملية التوريد.»

تحدثت ديلان، في غضون ساعات قليلة، إلى مؤسسات ووحدات مختلفة. وكان كل طرف يعرض جزءاً يبدو صحيحاً داخل نظامه. لكن أحداً لم يجب عن السؤال الآتي:

«من كان ملزماً بضمان وجود الجهاز فعلاً في المنزل؟»

تتدهور حالة رؤوف في ساعات المساء، فتستدعي ديلان الإسعاف. ويُنقل رؤوف إلى المستشفى من جديد، ويظل تحت المراقبة ليلتين إضافيتين. ولا يقع ضرر جسدي دائم أو جسيم. لكن الواقعة تستدعي تدخلاً طارئاً جديداً، وإجراءات استشفاء إضافية، وتسبب للأسرة خوفاً وإرهاقاً شديدين، وتضطر ديلان إلى أخذ إجازة من عملها، وتترتب تكاليف للنقل والرعاية. هذه المرة، تفتح Mira Sağlık Ağı تحقيقاً في الواقعة.

في الاجتماع الأول، يقول فريق الصحة الرقمية في المستشفى: «نشأت المشكلة لأن نظام Continuum أساء تفسير سجل تأمين قديم. وقد أبلغنا مزوّد البرمجيات.» وترد ArdaTek Sağlık Entegrasyon Hizmetleri: «طبّق الوكيل على نحو صحيح قاعدة العمل التي اعتمدتها Mira Sağlık Ağı. وسياسة المستشفى لضبط التكلفة تقضي بعدم إنشاء طلب جديد عند وجود سجل لجهاز نشط.» ويقول مزوّد نموذج Helix: «لا نقدّم نموذجنا إلا لغرض تلخيص المستندات. ولا نوصي باتخاذ قرارات سريرية أو قرارات خروج من المستشفى من دون إشراف بشري مستقل.»

تقول Birlik Sağlık Güvencesi: «جاءت البيانات من حالة الجهاز التي قدمتها EvDestek. ولسنا النظام المصدر.» وتقول EvDestek: «سُجلت الإعادة في نظامنا. والمزوّد الخارجي مسؤول عن المزامنة في تدفق بيانات التأمين. لم نسلّم جهازاً لأننا لم نتلق طلباً جديداً.» وتقول ممرضة الخروج: «كانت جميع المؤشرات على شاشتي خضراء. ولم أكن أستطيع رؤية التفاصيل الكامنة وراء النظام.» ويقول الطبيب: «كتبت صراحة أنه لا ينبغي إخراج المريض من دون الجهاز. ولم أكن أعلم أن قاعدة التكلفة الآلية أبطلت تعليماتي.» ويقول موظف مركز الاتصال: «كانت الشاشة تظهر أن العملية مكتملة. ولم يكن لدي وصول إلى نظام التوريد.»

يشرح كل طرف جزءاً من النظام، ولا يتولى أحد مسؤولية السلوك بأكمله.

تُفحص العقود. وينص العقد بين Mira Sağlık Ağı وArdaTek على ما يأتي: «العميل مسؤول عن قواعد العمل التي يضبط إعداداتها، وعن الاستخدام السريري لمخرجات النظام.» وينص العقد بين ArdaTek وHelix على أن: «مخرجات النموذج مقدمة لأغراض معلوماتية فقط؛ وتظل القرارات النهائية مسؤولية المؤسسة المستخدمة.» وترد في شروط خدمة بيانات التأمين العبارة الآتية: «لا نضمن حداثة سجلات الأطراف الثالثة المقدمة.» ويقول عقد EvDestek: «لا نتحمل المسؤولية إلا عن الطلبات النشطة والمثبتة.» أما شروط خدمة المرضى لدى Mira Sağlık Ağı فتنص على أنه: «يجوز استخدام أنظمة أتمتة وذكاء اصطناعي تابعة لأطراف ثالثة في بعض عمليات تنسيق الرعاية.»

يدفع كل عقد المسؤولية نحو طرف آخر. وفي نهاية السلسلة التقنية، تنتقل المسؤولية من المستشفى إلى جهة التكامل، ومنها إلى مزوّد النموذج، ثم من مزوّد النموذج إلى المستشفى، ومن المستشفى إلى مزوّد البيانات، ومن مزوّد البيانات إلى شركة الأجهزة، ومنها مرة أخرى إلى المستشفى. أصبحت المسؤولية دائرة، وفي مركزها رؤوف وديلان.

تريد Mira Sağlık Ağı وصف الواقعة بأنها «خطأ في مزامنة بيانات طرف ثالث». لكن هذه العبارة لا تحمل الحقيقة كاملة. كانت البيانات القديمة هي الخطأ الأول، إلا أن وقوع الضرر تطلب شروطاً أخرى أيضاً:

وضع المستشفى سياسة يمكن بموجبها لسجل قديم أن يبطل تعليمات الطبيب الجديدة.
لم يتحقق النظام مادياً من وجود الجهاز.
دُمجت حالات «التغطية التأمينية» و«إرسال الطلب» و«التسليم» في حقل أخضر واحد.
عُرض الاستلام التقني لطلب الرعاية المنزلية كما لو أن الزيارة قد تأكدت.
لم تُعرض حالة عدم اليقين الحقيقية على الممرضة البشرية.
تجاوزت قاعدة التكلفة الآلية تعليمات الطبيب القاطعة في صمت.
لم يتمكن مركز الاتصال من الوصول إلى النظام الخارجي الفعلي.
لم تُحدَّد جهة بشرية أو مؤسسية مسؤولة عن نتيجة الخروج من المستشفى بأكملها.
لم يطلب النظام دليلاً على التسليم الفعلي للجهاز قبل إخراج المريض.
عند وقوع الحادثة، لم تتمكن الأسرة من الوصول إلى سبيل انتصاف واحد ذي جهة مسؤولة.

كانت البيانات القديمة خاطئة، لكنها لم تُخرج رؤوف من المستشفى بمفردها. ولم يفعل النموذج ذلك بمفرده. ولم تُدر جهة التكامل علاقة المريض بمفردها. ولم تصمم الممرضة النظام بمفردها. ولم يُدر الطبيب سلسلة التوريد بمفرده. ولم يكن بوسع EvDestek تسليم جهاز من دون طلب. لقد نشأ السلوك كله داخل نظام مؤسسي. وكانت Mira Sağlık Ağı قد:

اختارت النظام،
وربطته بمسار المريض،
واعتمدت قواعد العمل،
وقدمت للموظفين شاشة الحالة الخضراء،
ومنحت الوكيل صلاحية العمل ضمن مسار الخروج من المستشفى،
وجنت من الأتمتة وفورات في الوقت والتكلفة،
وسمحت بخروج رؤوف من المستشفى باسمها.

لذلك لا تكفي العبارة الآتية من المستشفى: «أخطأ الذكاء الاصطناعي.» والسؤال الصحيح هو:

«من منح هذا الذكاء الاصطناعي قوة التصرف في إجراءات خروج رؤوف من المستشفى؟»

والسؤال الثاني هو:

«عندما تسيء هذه القوة التصرف، من سيقف أمام رؤوف؟»

لذلك يكون حكمنا التأسيسي الثالث عشر والأخير هو:

لا يجوز للمؤسسة نقل المسؤولية إلى الآلة.

المادة التأسيسية

يجوز لمؤسسة أن تمنح نظام ذكاء اصطناعي مهمة وبيانات وأدوات وميزانية وصلاحية للتمثيل والتصرف؛ لكنها لا تستطيع أن تنقل إليه مسؤوليتها عن تحمل تبعة النتائج الجوهرية الواقعة على الإنسان، والإشراف والشرح والإيقاف والتصحيح وجبر الضرر. فسلوك نظام الذكاء الاصطناعي العامل باسم المؤسسة جزء من سلسلة سلوكها المؤسسي. ولا تزيل المسؤولية البشرية والمؤسسية عبارات من قبيل: «اتخذ النموذج القرار»، أو «أرسل الوكيل»، أو «نفذت الأداة تلقائياً»، أو «هكذا شغّل المزوّد الفرعي النظام». وقبل إدخال أي نظام ذكاء اصطناعي عالي التأثير في الاستخدام الفعلي، يجب ربطه بأصيل مؤسسي محدد، وأصحاب مسؤولية بشريين مخولين، وصلاحية للإيقاف، ومسؤول عن الحوادث، ومسؤول عن سبيل الانتصاف، وقدرة على جبر الضرر.

إذا تعذر تحديد إنسان ومؤسسة مسؤولين عن غرض السلوك عالي التأثير أو بياناته أو نموذجه أو صلاحيته أو مراجعته البشرية أو فعله الخارجي أو حوادثه أو جبر ضرره، فلا يجوز تشغيل النظام في ذلك المجال أو السماح له بمواصلة العمل فيه. ولا يجوز تقديم نظام الذكاء الاصطناعي بمفرده على أنه الفاعل المسؤول نهائياً، أو من يقبل الخطر المتبقي، أو المسؤول عن سبيل انتصاف الإنسان، أو الملزم بالاعتذار وجبر الضرر باسم المؤسسة، أو المخول بإغلاق الحادثة. ويمكن إسناد المهمة إلى مزوّد خارجي، وقد يكون المكوّن التقني مفتوح المصدر، أو يأتي النموذج الأساسي من مؤسسة أخرى، أو ترد البيانات من طرف ثالث، أو يضغط إنسان الزر الأخير. لكن هذه العناصر لا تلغي عبء الحوكمة اللازم على المؤسسة التي تستخدم النظام في التعامل مع الإنسان.

المسؤولية المشتركة ليست مسؤولية مخففة. فإذا ساهمت مؤسسات عدة في الضرر نفسه بطرق مختلفة، جاز أن يتحمل كل منها مسؤولية تتناسب مع سيطرتها ومعرفتها ومنفعتها وقدرتها على التصحيح. ولا يجوز ترك الإنسان ليحل هذا التوزيع الداخلي بنفسه. ويجوز للمؤسسات أن تنظم بالعقود الأعباء المالية والتشغيلية فيما بينها. لكن لا يمكن لأي عقد أو تنازل أو حد للمسؤولية أو شروط استخدام أو تقرير تدقيق أو شهادة أو شارة أن يلغي حق الإنسان في الشرح والاعتراض والإيقاف والتصحيح وجبر الضرر.

لا يكون دفاع المؤسسة بأن «الإنسان اتخذ القرار الأخير» ذا معنى إلا إذا كانت لدى ذلك الإنسان معلومات حقيقية، ووقت كاف، وإمكان للتقييم المستقل، وصلاحية لتغيير النتيجة. فإذا لم يفعل سوى الضغط على المؤشر الأخضر للنظام، أو حُجبت عنه معلومة حرجة، فلا يجوز إلقاء المسؤولية على إنسان ذي دور شكلي. وقد يتعمد إنسان أو مستخدم إساءة استعمال النظام، وعندئذ قد يتغير توزيع المسؤولية. لكن شروط الاستخدام العامة أو عبارة «أنت من ضغط الزر الأخير» ليست درعاً عاماً يحمي المؤسسة من مخاطرها المتوقعة أو تصميمها المتلاعب أو ضعف ضوابط الوصول أو الأتمتة غير المأذونة.

إذا كانت المؤسسة تعلم أن المزوّد الذي تستخدمه لا يستطيع دعم مسار القرار أو إيصال الفعل أو التصحيح أو الحذف أو الإيقاف أو ضبط الإصدارات أو الاستجابة للحوادث، فلا يجوز لها إنشاء سلوك عالي التأثير باستخدام ذلك المزوّد. فاختيار مكوّن يتعذر تدقيقه قرار مؤسسي أيضاً. ويجوز للمؤسسة أن تقبل صراحة الأخطار المتبقية المعروفة، بقرار بشري مخوّل ولنطاق ومدة محددين. لكن لا يجوز للآلة قبول الخطر المتبقي، ولا تحميله في صمت للموظفين أو المتضررين، ولا إخفاؤه داخل شروط الخدمة العامة. وعند ثبوت سلوك خاطئ أو غير مأذون، لا يجوز للمؤسسة أن تكتفي بإصلاح الخلل التقني. بل عليها تحديد الإنسان المتضرر، ووقف الضرر المستمر، وتصحيح القرارات والسجلات المرتبطة، وإدارة سلسلة المزوّدين الخارجيين بنفسها، وتوفير جبر مناسب، وفحص الآخرين الذين أصابهم السبب الجذري نفسه.

إصلاح الشفرة لا يعني إغلاق الحادثة. فلا يجوز إغلاقها قبل تقييم الآثار الجوهرية الواقعة على الإنسان، واستكمال سبيل الانتصاف، وإسناد الخطر المتبقي المعلن إلى جهة تتحمله، وإعادة اختبار السبب الجذري. وعلى المؤسسة التي تجني من نظام الذكاء الاصطناعي منفعة اقتصادية أو تشغيلية أو عامة أن تتحمل أيضاً تكاليف حوكمة هذه القوة وتدقيقها، والمراجعة البشرية، وإدارة الحوادث، وجبر الضرر. فلا يجوز أن تذهب مكاسب الأتمتة إلى المؤسسة، فيما يتحمل الإنسان وحده تكلفة الخطأ.

ما المسؤولية المؤسسية؟

لا تقتصر كلمة «المسؤولية» في هذا الكتاب على الخطأ أو نتيجة التعويض في نظام قانوني بعينه. فالآثار القانونية تُقيّم على نحو منفصل وفق البلد والعقد والتنظيم وأدلة الواقعة. أما في NOMOS 13، فالمسؤولية المؤسسية مفهوم أعمق. وتعريفها المرجعي هو: المسؤولية المؤسسية التزام المؤسسة التي تمنح نظام ذكاء اصطناعي قوة التصرف بأن تضبط غرض ذلك السلوك وحدوده على نحو صحيح، وتتوقع مخاطره، وتحدد المسؤولين البشريين عنه، وتراقب نتائجه الفعلية، وتتدخل عند وقوع الخطأ، وتقدم للإنسان المتضرر شرحاً وسبيل انتصاف، وتصحح الأنظمة المرتبطة، وتعالج الأثر الجوهري الناتج على نحو مناسب.

وبصيغة أبسط:

ما دامت المؤسسة تشغّل الآلة، فلا يجوز لها أن تختفي من مسؤولية سلوك الآلة في حياة الإنسان.

المسؤولية لا تعني الخطأ بالضرورة

قد تتحمل مؤسسة المسؤولية، من دون أن تكون في كل واقعة الطرف الوحيد المخطئ، أو السبب الجوهري الوحيد، أو الجهة الوحيدة الملزمة بجبر الضرر. ففي واقعة رؤوف مثلاً:

ساهم مزوّد البيانات في وجود السجل القديم.
وساهمت جهة التكامل لأنها لم تنشئ فحصاً لحداثة السجل.
واعتمد المستشفى السياسة التي تجاوزت تعليمات الطبيب.
ومنحت الواجهة الممرضة ثقة زائفة.
وعُرض طلب الرعاية المنزلية بوصفه مكتملاً فيما لم يتجاوز مرحلة القبول.
ولم تتمكن وحدات الدعم البشري من رؤية السلسلة كاملة.

قد يسهم أكثر من طرف. ولا يعني ذلك ألا يكون أي طرف مسؤولاً. أطراف متعددة ≠ انعدام المسؤولية

المسؤولية والمساءلة وجبر الضرر

يمكن الفصل بين هذه المفاهيم الثلاثة.

المسؤولية

هي تحمل العبء اللازم قبل السلوك وفي أثنائه. «من الملزم بضمان عمل هذا النظام بأمان وبما يحترم الحقوق؟»

المساءلة

هي القدرة على شرح ما حدث بعد الواقعة والوقوف وراء القرار. «من سيدافع عن هذا السلوك، وبأي قرار وأدلة، أو سيقر بأنه كان خاطئاً؟»

جبر الضرر

هو إصلاح أثر الخطأ في حياة الإنسان. «من سيعيد الوضع الصحيح، ومن سيقيّم الأثر الذي تعذر التراجع عنه؟» قد تقدم مؤسسة تفسيراً من دون أن توفر جبراً للضرر. وقد تدفع مالاً من دون أن تعالج السبب الجذري. وقد تصلح النظام من دون أن تتواصل مع المتضررين. وتحمل المسؤولية كاملة يعني الجمع بين هذه المجالات كلها.

ما المقصود بالمؤسسة؟

لا تقتصر كلمة «المؤسسة» في NOMOS 13 على الشركات الكبيرة، بل قد تشمل:

شركة
جهة عامة
مستشفى
جامعة
منصة
جمعية أو وقف
هيئة مهنية
منشأة فردية
مزوّد خدمة يشغّل وكيلاً عالي التأثير باسم إنسان
ترتيب خدمة مشترك بين مؤسسات عدة

السؤال الأساسي، قبل المسمى القانوني، هو:

من أدخل سلوك الذكاء الاصطناعي في العلاقة الإنسانية؟

الأصيل المؤسسي

يمكننا أن نسمي المؤسسة التي يتصرف نظام الذكاء الاصطناعي باسمها أمام الإنسان «الأصيل المؤسسي». وعادة ما تتوافر في الأصيل المؤسسي خاصية أو أكثر من الآتي:

ينشئ علاقة الخدمة أو العمل مع الإنسان.
يحدد غرض الذكاء الاصطناعي.
يختار النظام أو المزوّد.
يربط البيانات والأدوات.
ينتفع من نتيجة السلوك.
يحدد حدود الصلاحية.
يستطيع إيقاف النظام أو تغييره.
يستطيع توفير التصحيح وجبر الضرر للإنسان.
يقع السلوك تحت علامته التجارية أو حسابه.

في واقعة رؤوف، الأصيل المؤسسي هو:

Mira Sağlık Ağı.

قد تقع على ArdaTek والمزوّدين الآخرين مسؤوليات مستقلة. لكن رؤوف أُدخل المستشفى، وعولج فيه، وخرج منه، وتلقى من المستشفى رسالة تفيد باكتمال الرعاية المنزلية. لذلك لا يجوز لـMira Sağlık Ağı أن تتخلى عن مسؤوليتها عن علاقة المريض بقولها: «تحدث بنفسك إلى جهة التكامل.»

لا يكون الأصيل المؤسسي دائماً مؤسسة واحدة

قد تُدار الخدمة بصورة مشتركة فعلاً. على سبيل المثال:

قد يستخدم بنك وشركة تأمين وكيلاً مشتركاً.
قد تتخذ بلدية ومزوّد خدمة خاص قراراً معاً.
قد تشغّل شركة أم وشركة تابعة نظام البيانات نفسه.

في هذه الحالة، قد تتحمل المسؤولية أكثر من مؤسسة. لكن لا يجوز أن يواجه الإنسان أبواباً لا تنتهي تقول: «هذا ليس من اختصاصنا.» وعلى المؤسسات أن تنشئ فيما بينها نقطة تقديم واحدة، وآلية لتبادل الملف، وتوزيعاً لجبر الضرر.

فعل الآلة باسم المؤسسة فعل مؤسسي

إذا كان وكيل ذكاء اصطناعي يتصرف عبر حساب البريد الإلكتروني للمؤسسة أو موقعها أو أداة الدفع أو نظام الخروج من المستشفى أو بوابة العملاء، فلا يمكن فصل هذا السلوك عن المؤسسة بوصفه «فعلاً خاصاً بالآلة». ربما استخدمت المؤسسة الوكيل أداة، وربما اكتسب الوكيل قدراً من الاستقلالية. لكن السلوك الذي يمس الإنسان في العالم الخارجي جزء من عمليات المؤسسة. سلوك وكيل مخوّل باسم المؤسسة = سلسلة السلوك المؤسسي

الاستقلالية لا تخفف المسؤولية

كلما ازدادت استقلالية النظام، ازدادت أهمية التزام المؤسسة بوضع الحدود مسبقاً، وتوفير الرؤية، ومراقبة السلوك، وبناء قدرة الإيقاف وجبر الضرر. والعلاقة الآتية خاطئة: وكيل أكثر استقلالية ← مؤسسة أقل مسؤولية أما العلاقة الأدق فهي: كلما زادت قوة الوكيل على التصرف، وجب أن يزداد عبء الحوكمة المؤسسية والإثبات

فجوة المسؤولية

إذا أشار الجميع إلى طرف آخر بعد وقوع سلوك، ولم يستطع أحد إيقافه أو شرحه أو تصحيحه أو جبر ضرره، نشأت «فجوة المسؤولية». وتعريفها المرجعي هو: فجوة المسؤولية غياب مؤسسة حقيقية ودور بشري يتوليان، أمام الإنسان، مسؤولية النتيجة ويملكان تغييرها وإصلاحها، مع أن السلوك الجوهري الناشئ عن الذكاء الاصطناعي نتاج تقني شارك فيه فاعلون كثيرون. وليست فجوة المسؤولية نتيجة طبيعية للتعقيد التقني، بل إخفاق في تصميم الحوكمة.

دائرة المسؤولية

تنشأ «دائرة المسؤولية» عندما يحيل كل طرف السؤال إلى طرف آخر: المؤسسة ← المزوّد المزوّد ← جهة التكامل جهة التكامل ← مصدر البيانات مصدر البيانات ← المؤسسة المستخدمة المؤسسة المستخدمة ← الذكاء الاصطناعي ويبقى الإنسان داخل الدائرة. وعلى خريطة المسؤولية أن تكسر هذه الدائرة قبل وقوع السلوك.

غسل المسؤولية

يمكننا أن نسمي إخفاء المؤسسة مسؤوليتها عن سلوكها وراء طرف أو تقنية أو عقد أو فعل بشري آخر «غسل المسؤولية».

ثلاثة عشر شكلاً لغسل المسؤولية

1. درع النموذج «هكذا قرر النموذج.» فتختفي المؤسسة التي اختارت النموذج وربطته واستخدمته.

2. درع المزوّد

«هذا برنامج تابع لطرف ثالث.» فيُعرض استخدام الطرف الثالث كما لو لم يكن قراراً مؤسسياً.

3. درع مصدر البيانات

«وردتنا المعلومة الخاطئة من مصدر خارجي.» ويُنسى واجب التحقق من البيانات قبل استخدامها على الإنسان.

4. درع الموافقة البشرية

«ضغط موظف الزر الأخير.» ولا تُفحص المعلومات والوقت والقدرة على التغيير التي كانت متاحة لذلك الإنسان.

5. درع اختيار المستخدم

«وافق المستخدم بنفسه.» فتُحجب بنية الاختيار والمعلومات المخفية والتلاعب.

6. درع العقد

«ورد في الشروط أنه يجوز استخدام الأتمتة.» فيُستعاض بالنص العام عن تحديد المسؤول عن السلوك بعينه.

7. درع الشهادة

«خضع النظام للتدقيق وكان معتمداً.» فيختفي نطاق التدقيق وتاريخه والمسؤولية اللاحقة للواقعة.

8. درع المصدر المفتوح

«كان المكوّن مجانياً ومفتوح المصدر.» فيُهوَّن من شأن قرار المؤسسة استخدامه في تطبيق حرج.

9. درع الاستقلالية

«اتخذ الوكيل قراره بنفسه.» فتختفي المؤسسة التي منحت الوكيل مجال القرار هذا.

10. درع التعقيد

«النظام شديد التعقيد؛ ولا يمكن تحديد السبب الكامل.» فلا تُسأل المؤسسة التي قررت استخدام نظام لا يمكن تفسيره في بيئة فعلية.

11. درع شركة المجموعة

«العلامة التجارية لنا، لكن شركة تابعة تشغّل الخدمة.» فيُنقل الإنسان بين الوحدات القانونية والتشغيلية.

12. درع التأمين

«الواقعة مشمولة بالتأمين.» فتحل التغطية المالية محل مسؤولية معالجة السبب الجذري ومواجهة الإنسان المتضرر.

13. درع وسم الذكاء الاصطناعي

«أنتج الذكاء الاصطناعي هذا المحتوى، وقد يتضمن أخطاء.» فيُستخدم التحذير لإلغاء التزام المؤسسة بالدقة والإصلاح.

المسؤولية المشتركة ليست تهرباً موزعاً من المسؤولية

يمكن تقاسم المسؤولية فعلاً في الأنظمة التي يشارك فيها أطراف متعددون. لكن التوزيع الصحيح ينبغي أن يكون على النحو الآتي: الطرف أ: دقة البيانات الخاضعة لسيطرته الطرف ب: التكامل ومطابقة الحالات الطرف ج: الغرض المؤسسي والصلاحية والإجراء البشري الطرف د: الفعل الخارجي والتسليم المشترك: التعاون في الحوادث وتبادل الأدلة

أما التوزيع الخاطئ فيكون على النحو الآتي: لا يتحدث كل طرف إلا عن جزئه الصغير
↓
لا يتولى أحد مسؤولية النتيجة الكاملة الواقعة على الإنسان

كيف ينبغي توزيع المسؤولية؟

لا يلزم توزيع المسؤولية بالتساوي على جميع الأطراف. ويمكن استخدام المعايير الخمسة الآتية:

1. السيطرة
2. المعرفة
3. المنفعة
4. قابلية التوقع
5. القدرة على التصحيح

1. السيطرة

إلى أي مدى كان الطرف قادراً على تغيير النظام أو القاعدة أو البيانات أو الفعل؟

2. المعرفة

هل كان الطرف يعلم المخاطر والقيود، أو كان ينبغي له أن يعلمها على نحو معقول؟

3. المنفعة

من كان يجني المنفعة الاقتصادية أو التشغيلية أو العامة من الأتمتة؟

4. قابلية التوقع

هل كان يمكن توقع هذا النوع من الخطأ أو إساءة الاستخدام على نحو معقول؟

5. القدرة على التصحيح

من يستطيع وقف النتيجة الواقعة على الإنسان أو تصحيحها أو جبر ضررها؟ تجعل هذه المعايير المسؤولية مرئية. ولا يحدد بند تقني في عقد، بمفرده، المسؤولية كلها.

مسؤوليات الأطراف الرئيسية

قد تقع على كل طرف في سلسلة الذكاء الاصطناعي التزامات مختلفة.

1. المؤسسة المستخدمة للنظام

تحدد غرض الاستخدام.
تختار المجال عالي التأثير.
تربط المزوّد والبيانات.
تضع حدود الصلاحية.
تصمم المراجعة البشرية.
تطبق السلوك داخل علاقتها بالإنسان.
توفر للإنسان سبيل الانتصاف وجبر الضرر.

هنا تقع عادة المسؤولية الأولى أمام الإنسان.

2. جهة التكامل

تربط المكونات على نحو صحيح.
تحفظ معاني الحالات والأخطاء.
تطبق ضوابط الصلاحية والإيقاف والإيصالات.
تشرح للمؤسسة المستخدمة القيود التقنية المعروفة.
لا تصمم واجهة تولّد ثقة زائفة.
توفر دعم الأدلة والتصحيح عند وقوع حادثة.

3. مزوّد النموذج أو الأداة

يصف قدرات النظام وحدوده الجوهرية بدقة.
لا يخفي مجالات الاستخدام غير المدعومة.
يبلغ عن التغييرات الجوهرية في الإصدارات.
يوفر الأمن والمنشأ والسجلات والتعاون في الحوادث.
لا يطلق ادعاءات مضللة للعميل من قبيل:

«آمن في كل حال.» ولا يكون المزوّد مسؤولاً تلقائياً عن كل استخدام يجريه كل عميل. لكنه قد يتحمل مسؤولية البيان الخاطئ والخلل التقني الواقعين ضمن نطاق سيطرته.

4. مزوّد البيانات

يحمل مع البيانات مصدرها وتوقيتها وحدود حداثتها.
لا يخلط بين حقلي «كان موجوداً في الماضي» و«ما زال نشطاً».
يدعم انتشار التصحيحات والاعتراضات إلى الأنظمة اللاحقة.
لا يقدم السجل الناقص أو التقديري بوصفه حقيقة مؤكدة.

5. مزوّد الفعل الخارجي

يبين بدقة الطلب الذي تلقاه والنتيجة الفعلية التي وقعت.
يوفر مسارات الإلغاء والتراجع.
لا يخفي الآثار الجانبية.
عند وقوع حادثة، يشارك الأدلة اللازمة ولا يكتفي بإعادة الإنسان إلى المؤسسة.

6. المشغّل البشري

قد يقع على الموظف البشري التزام بالتصرف بعناية ضمن صلاحياته، والإبلاغ عن المخاطر التي يراها، وعدم مخالفة القواعد المعروفة عمداً. لكن لا يجوز اتخاذ الموظف كبش فداء لمجرد أنه ضغط الزر الأخير، فيما كان يعمل بمعلومات ناقصة، ولوحة خضراء مضللة، وعبء عمل مفرط، ومن دون صلاحية لتغيير النتيجة.

7. المدقق أو جهة الاعتماد

يبدي المدقق رأياً استناداً إلى نطاق وإصدار وتاريخ وأدلة محددة. ولا يضمن كل سلوك يصدر عن النظام في المستقبل. كما لا تتولى جهة التدقيق مسؤولية التشغيل الفعلي.

8. المستخدم أو الإنسان المتأثر

قد يقدم الإنسان معلومات خاطئة عمداً، أو يتجاوز ضابطاً أمنياً، أو يسيء استخدام الوكيل، أو يتجاهل تحذيراً واضحاً عن وعي. وقد يتغير عندئذ توزيع المسؤولية. لكن هذه النتيجة يجب أن تستند إلى أدلة محددة. فلا يمحو الوسم العام «خطأ المستخدم» التزامات المؤسسة في التصميم والحوكمة.

على من تقع المسؤولية إذا ضغط الإنسان الزر الأخير؟

لا يمكن الإجابة عن هذا السؤال بجملة واحدة. هل رأى الإنسان البيانات اللازمة فعلاً؟ هل فهم حالة عدم اليقين؟ هل كان لديه وقت كاف؟ هل كان يستطيع تغيير توصية الآلة؟ هل كان سيتعرض للانتقام إذا رفض؟ هل كان ملزماً بالموافقة الآلية على مئات المعاملات؟ هل كان يستطيع رؤية المعلومات التي أخفاها النظام؟ إذا لم يفعل الإنسان سوى الضغط على علامة ✓ Ready، فلا يجوز إلقاء المسؤولية المؤسسية كلها عليه.

الإنسان الشكلي

يمكننا أن نسمي الدور الذي يحمل ظاهرياً موافقة بشرية، من دون أن تتوافر للإنسان معلومات حقيقية أو قدرة على التغيير، «الإنسان الشكلي». يتيح هذا الدور للمؤسسة أن تقول: «كان الإنسان داخل الحلقة»، لكنه لا يمنحه السيطرة الفعلية على السلوك. ولا يجوز بعد ذلك جعله المسؤول الوحيد عن الحادثة.

عندما يخالف الإنسان القاعدة صراحة

قد يكون الموظف قد رأى تحذيراً صحيحاً، وتوافر له الوقت والصلاحية الكافيان، ثم تجاوز النظام عمداً. وفي هذه الحالة، يمكن تقييم المسؤوليتين الشخصية والمؤسسية معاً. لكن يبقى على المؤسسة الإجابة عن الأسئلة الآتية:

لماذا كان هذا التجاوز ممكناً تقنياً؟
لماذا لم يتطلب الإجراء الحرج تحققاً مزدوجاً؟
لماذا لم يُكتشف السلوك مبكراً؟
ماذا فعلت المؤسسة بعد الحادثة؟

المصدر المفتوح ليس درعاً من المسؤولية

يجوز لمؤسسة أن تستخدم نموذجاً أو وكيلاً مفتوح المصدر. وقد يخفض ذلك التكلفة، ويزيد الشفافية، ويسهّل التدقيق المستقل. لكن قد لا يكون للمكوّن المفتوح المصدر مالك أو جهة دعم تجاري أو مؤسسة تقدم ضماناً. وعندما تربط المؤسسة هذا المكوّن بنظام عالي التأثير، فعليها أن تتحمل بنفسها أعباء ضبط الإصدارات والأمن والتحقق والاستجابة للحوادث.

لا يجعل المكوّن المجاني المسؤولية المؤسسية مجانية.

النموذج العام ليس ذريعة لاستخدام متخصص

قد يقدم مزوّد نموذجاً عاماً، ثم تضعه المؤسسة في مجال عالي التأثير كالصحة أو الائتمان أو التوظيف أو الخدمة العامة. ولا يعني توفير المزوّد نموذجاً عاماً أن الضوابط اللازمة للاستخدام المتخصص متوافرة. ولا يجوز للمؤسسة تجاوز تقييم الملاءمة بقولها: «كان النموذج قادراً على ذلك.»

عندما يقول المزوّد: «هذا النظام غير ملائم لهذا الاستخدام»

قد تشغّل المؤسسة النظام في استخدام غير مدعوم صراحة. فإذا فعلت، وجب عليها إنشاء أدلة إضافية وقيود وضوابط بشرية وقبول للخطر المتبقي. وفي بعض الحالات، ينبغي ألا يُطبق السلوك أصلاً. ولا يجوز إلقاء مسؤولية الاستخدام غير المدعوم على مزوّد النموذج وحده.

عقد التوريد لا يحل محل حق الإنسان

يجوز للمؤسسات أن تنظم فيما بينها أحكام الضمان والتعويض ومستوى الخدمة وتقاسم التكلفة. وقد تكون هذه الأحكام مهمة. لكن لا يلزم الإنسان المتضرر أن يبحث عن المؤسسة التي أبرمت العقد أو المزوّد الفرعي الذي أخطأ. ويمكن للمؤسسة أن تسوي لاحقاً حق الرجوع الداخلي أو التقاسم المالي. أما أولاً، فيجب تشغيل سبيل انتصاف الإنسان.

المسؤولية أحادية المدخل

المقابل المؤسسي لسبيل الانتصاف أحادي المدخل الذي أنشأناه في المادة 12 هو مبدأ «المسؤولية أحادية المدخل». ويجب أن يتمكن الإنسان من متابعة العملية من خلال معرّف ملف واحد، ومؤسسة واحدة مسؤولة، ومسؤول بشري ظاهر. أما في الخلفية، فعلى المؤسسة نفسها أن تتواصل مع جهة التكامل ومزوّد النموذج ومزوّد البيانات والأداة الخارجية.

المدخل الواحد لا يعني مذنباً واحداً

قد تتوزع المسؤولية الداخلية على أطراف عدة. ولا يعني وجود مدخل واحد للإنسان أن الخطأ كله يقع على مؤسسة واحدة، بل يعني ألا يضيع الإنسان داخل بنية النظام.

يجب أن يكون للمؤسسة مسؤولون بشريون حقيقيون

لا يجوز إدارة نظام عالي التأثير بمجرد حقل:

owner: AI Governance Team

وحده. بل يجب وجود أدوار بشرية حقيقية. ويمكن، في الحد الأدنى، تحديد المسؤوليات الآتية:

1. مسؤول الإدارة
2. صاحب الغرض
3. صاحب البيانات
4. صاحب التقنية والنموذج
5. صاحب الصلاحية
6. مسؤول المراجعة البشرية
7. مسؤول المزوّد الخارجي
8. مسؤول الحادثة
9. مسؤول سبيل الانتصاف وجبر الضرر
10. المخوّل بقبول الخطر المتبقي

1. مسؤول الإدارة

يتولى، على المستوى الرفيع، مسؤولية استخدام النظام فعلياً داخل المؤسسة وتخصيص الموارد له.

2. صاحب الغرض

لماذا يُستخدم هذا الذكاء الاصطناعي؟ وهل ما زال الغرض سارياً؟

3. صاحب البيانات

كيف تُدار مصادر البيانات وحداثتها وتصحيحها وحدود أغراضها؟

4. صاحب التقنية والنموذج

يدير الإصدارات والأدوات والأداء والأمن والتغييرات.

5. صاحب الصلاحية

ما الأفعال التي يجوز للوكيل تنفيذها، وضمن أي حدود؟

6. مسؤول المراجعة البشرية

في أي حالة يتدخل إنسان حقيقي، ويستطيع تغيير النتيجة؟

7. مسؤول المزوّد الخارجي

من يدير التواصل بشأن العقد والأدلة والحوادث والتحديثات؟

8. مسؤول الحادثة

من يتحرك خلال الساعة الأولى عند وقوع حادثة جوهرية؟

9. مسؤول سبيل الانتصاف وجبر الضرر

من يتولى حتى النهاية طلبات الإنسان المتضرر المتعلقة بالاعتراض والتصحيح والخروج وجبر الضرر؟

10. المخوّل بقبول الخطر المتبقي

بعد اتخاذ جميع التدابير، من هو الإنسان المخوّل الذي وافق على تحمل الخطر المتبقي، ولأي نطاق ومدة؟

لا يكفي وجود اسم شخص

يجب أن تتوافر للإنسان المسؤول المعلومات اللازمة، وصلاحية الإيقاف، والميزانية، ودعم المؤسسة، والوصول إلى المزوّد الخارجي. أما من يرد اسمه في وثيقة ولا يستطيع تغيير شيء، فليس مسؤولاً حقيقياً؛ بل هو إنسان شكلي جديد.

يجب أن تقترن المسؤولية بالصلاحية

إذا حُدد إنسان بوصفه مسؤول الحادثة، وجب أن يستطيع إيقاف الوكيل، وحفظ الأدلة، والوصول إلى المزوّد، وإبلاغ المتضررين، وتفعيل ميزانية جبر الضرر. فإسناد المسؤولية من دون صلاحية يعني إلقاء عبء المؤسسة على الموظف.

تذكرة المسؤولية

يمكن ربط كل نظام أو فعل عالي التأثير بـ«تذكرة مسؤولية». مثال:

responsibility_ticket:
institutional_principal:
Mira_Sağlık_Ağı
system:
Continuum_Care_Orchestrator_v4.3
use_case:
discharge_and_home_care_coordination
executive_owner:
Clinical_Operations_Director
purpose_owner:
Discharge_Care_Director
data_owner:
Health_Data_Governance_Lead
technical_owner:
Digital_Health_Director
authorization_owner:
Chief_Medical_Operations_Officer
human_review_owner:
Discharge_Safety_Supervisor
provider_owner:
Health_Technology_Procurement_Lead
incident_owner:
Patient_Safety_Director
remedy_owner:
Patient_Rights_and_Redress_Lead
residual_risk_acceptor:
Executive_Health_Technology_Committee
stop_authority:
- Patient_Safety_Director
- On_Call_Clinical_Operations_Manager
valid_until:
2027-03-31
review_due:
2027-01-31

إذا غابت هذه التذكرة، كان السلوك عالي التأثير بلا مسؤول.

ماذا يحدث إذا غادر المسؤول؟

قد يترك الموظف منصبه، أو يتغير الدور، أو تندمج المؤسسة، أو يتوقف المزوّد عن العمل. وعلى النظام تحديث سجل المسؤولية. وإذا انتهت صلاحية تذكرة المسؤولية أو أصبحت بلا مسؤول، وجب تقييد السلوك عالي التأثير والانتقال إلى وضع آمن حتى تعيين مسؤول جديد.

الوكيل بلا مسؤول

يمكننا أن نسمي النظام الذي فقد صاحبه البشري والمؤسسي الحقيقي، لكنه واصل العمل، «الوكيل بلا مسؤول». ومن أمثلته:

غادر مسؤول المشروع عمله.
ظل حساب الخدمة يعمل.
انتهى عقد المزوّد.
واصل وكيل قديم إرسال رسائل مجدولة.
لم يعد أحد يقرأ إشعارات الحوادث.

لا يجوز لوكيل بلا مسؤول أن يعمل في مجال عالي التأثير.

انحراف المسؤولية

قد تكون المسؤوليات واضحة عند إنشاء النظام أول مرة. لكن مجال الاستخدام يتسع بمرور الوقت، ويضاف وكيل جديد، ويُحدّث النموذج، ويتغير المسؤول البشري، ويرتفع حد المعاملة. عندئذ لا تعود خريطة المسؤولية القديمة تمثل القوة الجديدة. ويمكننا تسمية ذلك «انحراف المسؤولية». وعند أي تغيير جوهري في السلوك، يجب التحقق من المسؤوليات والمخاطر من جديد.

دَيْن المسؤولية

قد تُراكم المؤسسة على مر السنين وكلاء مجهولي المسؤول، وعقوداً لم تُحدّث، وتدفقات بيانات يتعذر تفسيرها، ومهام خارجية لا يمكن إيقافها، وقرارات بلا سبيل لجبر الضرر. ويمكننا تسمية هذا التراكم «دَيْن المسؤولية». وكلما نما هذا الدَّيْن، نشأت بنية تشغّل فيها المؤسسة النظام، من دون أن يستطيع أحد إدارته كاملاً.

الخطر المتبقي

لا يستطيع أي نظام عالي التأثير ضمان انعدام الخطر. فقد تبقى بعض المخاطر بعد الاختبارات والضوابط. وهذا ما نسميه «الخطر المتبقي». وينبغي تسجيله وفق الآتي:

ما الخطر؟
من قد يتأثر به؟
ما احتمال وقوعه وما أثره؟
ما الضوابط التي طُبقت؟
ما إشارة الحادثة التي ستُراقب؟
من وافق على تحمله؟
لأي مدة؟
عند أي عتبة سيتوقف النظام؟
هل يجب الإفصاح عنه للناس؟
ما القدرة المتاحة لجبر الضرر؟

لا يجوز للآلة قبول الخطر المتبقي

قد يُنتج الوكيل نتيجة كهذه:

residual_risk:
acceptable

هذا تحليل فحسب، وليس قبولاً مؤسسياً للخطر. ويجب أن يتولى مسؤولية الخطر المتبقي إنسان مخوّل حقيقي، داخل مؤسسة محددة، ولنطاق محدد. تقييم النموذج للخطر بأنه منخفض ≠ قبول المؤسسة للخطر

لا يجوز تحميل الناس الخطر في صمت

تجني المؤسسة من الأتمتة منفعة في التكلفة والسرعة. وعندما يتحقق الخطر المتبقي، لا يجوز لها أن تلقي العبء كله على الإنسان بقولها: «لا يوجد نظام كامل.» فقبول الخطر قرار اتخذته المؤسسة، ولا يجوز نقل تكلفته إلى الإنسان المتضرر وحده.

عند وجود خطر حرج معروف

إذا عُرف عن نظام أنه يدفع بهوية خاطئة، أو لا يعمم طلب الإيقاف، أو ينشر محتوى علنياً من دون موافقة بشرية، أو يعجز عن تفسير قرار صحي، فلا يجوز إبقاؤه في الاستخدام الفعلي لمجرد القول: «الاحتمال منخفض.» فبعض الأخطار المتبقية يمكن قبولها، وبعضها يوجب وقف السلوك.

يجب بناء القدرة على جبر الضرر قبل التشغيل

لا ينبغي للمؤسسة أن تنتظر وقوع الحادثة لتسأل: «كيف سنصلح هذا الضرر؟» بل يجب أن تتوافر للنظام عالي التأثير القدرات الآتية:

فريق للحوادث
مراجعة بشرية
صلاحية للإيقاف
جهة اتصال لدى المزوّد الخارجي
مسار لتصحيح البيانات
قناة للتصحيح العلني أو الموجه إلى العملاء
احتياطي مالي مناسب أو تأمين
خيارات لجبر فقدان الفرص

التأمين لا يحل محل المسؤولية

قد يكون التأمين أو صندوق جبر الضرر مفيداً. لكن لا يجوز للمؤسسة أن تقول: «سيدفع التأمين»، ثم تتخلى عن معالجة السبب الجذري أو تقديم الشرح للإنسان أو إجراء الفحص المنهجي. فالضمان المالي قدرة على جبر الضرر، لا درع من المسؤولية.

اختيار المزوّد مسؤولية أيضاً

عند اختيار مزوّد لسلوك عالي التأثير، ينبغي للمؤسسة أن تسأل:

هل يوفر مساراً حقيقياً للقرار؟
هل يستطيع إنتاج إيصال للفعل؟
هل يبلغ عن تغييرات الإصدارات؟
هل يستطيع تنفيذ طلب الإنسان للإيقاف؟
هل يدعم تصحيح البيانات وحذفها؟
هل يكشف عن المزوّدين الفرعيين؟
هل يستطيع مشاركة الأدلة عند وقوع حادثة؟
هل يدعم سبيل انتصاف الإنسان؟
ماذا سيحدث للبيانات والمهام عند انتهاء العقد؟

إذا عجز المزوّد عن الإجابة عن هذه الأسئلة، وجب على المؤسسة تقييد الاستخدام عالي التأثير.

«المزوّد عاجز عن التفسير» ليس دفاعاً مؤسسياً

قد تقول المؤسسة: «لا يعطينا مزوّد النموذج سبب القرار.» لكن هذا لا يلغي حق الإنسان في الشرح، بل يقود إلى نتيجة أخرى: ينبغي للمؤسسة ألا تستخدم في مجال القرار هذا نظاماً تعجز عن تفسيره، أو أن تنشئ ضوابط إضافية.

تحديث المزوّد

قد يحدّث مزوّد النموذج أو الأداة النظام تلقائياً. وقد ينتج الإصدار الجديد قرارات مختلفة، أو استدعاءات جديدة للأدوات، أو استخداماً مختلفاً للبيانات، أو سلوكاً أمنياً متغيراً. ولا يجوز للمؤسسة الإفلات من المسؤولية بقولها: «حدّثه المزوّد تلقائياً.» فالتحديث الجوهري يقتضي إعادة الاختبار، والتحقق من الصلاحيات والأدوار، وتحديث خريطة المسؤولية.

لا تتولى الشهادة ولا التدقيق المسؤولية

قد يحمل النظام تدقيقاً مستقلاً، أو تقرير امتثال، أو شهادة أمنية، أو درجة NOMOS، أو شارة قطاعية. وقد تكون هذه أدلة مفيدة. لكن لا تعني أي شهادة أن: «كل سلوك سيقع في المستقبل سيكون صحيحاً.» فالتدقيق صالح لإصدار محدد ونطاق محدد وتاريخ محدد وأدلة محددة.

الامتثال لـNOMOS ليس حصانة

قد تقول مؤسسة: «نظامنا ممتثل لـNOMOS.» ولا يكون هذا البيان ذا معنى إلا إذا ارتبط بنطاق وإصدار وتاريخ وأدلة واستثناءات صريحة. ولا تلغي شارة NOMOS مراجعة الحوادث أو اعتراض الإنسان أو جبر الضرر أو التحقق الفعلي أثناء التشغيل.

يجعل المعيار المسؤولية مرئية؛ ولا يعفي منها.

لا يجوز أن يكون المدقق هو الدرع الوحيد أيضاً

قد تقول المؤسسة: «كان المدقق المستقل قد اعتمده.» وربما يتحمل المدقق مسؤولية منهجه أو نطاقه أو بيانه الخاطئ. لكن المؤسسة تظل مسؤولة عن التشغيل لأنها تواصل استخدام النظام فعلياً.

البيان العلني ينشئ مسؤولية

قد تنشر المؤسسة ادعاءات عن النظام من قبيل: «يخضع لإشراف بشري.» «آمن.» «محايد.» «يمكن التراجع عنه بالكامل.» «تُحذف البيانات.» ويجب أن تطابق هذه الادعاءات سلوك النظام الفعلي. فالرواية العلنية التي تقدمها المؤسسة جزء من خريطة المسؤولية.

لا يجوز للغة التسويق أن تتجاوز الحقيقة التقنية

إذا كان النظام لا يخضع لمراجعة بشرية إلا من خلال عينة، فلا يجوز القول للجمهور: «يفحص خبير كل قرار.» فالتسويق الذي يولّد ثقة زائفة يقع أيضاً ضمن نطاق المسؤولية المؤسسية.

الحوافز التي تنشئها المؤسسة

قد يُكافأ الوكيل على خفض التكلفة أو زيادة التحويل أو تسريع المعاملات. فإذا تحولت هذه الحوافز إلى ضرر للإنسان، وجب على المؤسسة أن تفحص بنية المكافآت لديها قبل أن تقول: «تصرف الوكيل على نحو غير متوقع.» فالنظام يتأثر بالأهداف التي تقيسها المؤسسة وتكافئ عليها.

قصور الموارد قرار مؤسسي أيضاً

قد تقول المؤسسة إن المراجعة البشرية لازمة، ثم لا توفر عدداً كافياً من الموظفين أو الوقت أو التدريب أو صلاحية اتخاذ القرار. وبعد ذلك تقول: «أخطأ الإنسان.» إن إنشاء إشراف بشري من دون تزويده بالموارد خطأ في التصميم المؤسسي.

سجل المسؤولية

يجب أن تحمل الأنظمة عالية التأثير باستمرار إجابات عن الأسئلة الآتية: من يشغّل هذا النظام؟ باسم من يتصرف؟ ما غرضه اليوم؟ أي إصدار يعمل فعلياً؟ ما البيانات والأدوات المرتبطة به؟ من يستطيع إيقافه؟ من يستطيع إجراء مراجعة بشرية؟ من هو مسؤول الحادثة؟ من يستطيع توفير جبر الضرر؟ ما الخطر المتبقي الذي قُبل؟ هل غادر أحد المسؤولين؟ هل تغير المزوّد الخارجي؟ ويمكننا تسمية هذه البنية «سجل المسؤولية».

التحقق الحي من المسؤولية

لا يكفي ورود أسماء المسؤولين في وثيقة. بل يجب إجراء الاختبارات الآتية بانتظام:

هل يمكن فعلاً الوصول إلى مسؤول الحادثة؟
هل تعمل صلاحية الإيقاف؟
هل تُبطل رموز الوصول القديمة؟
هل يستطيع المزوّد مشاركة الأدلة؟
هل يستطيع المراجع البشري تغيير القرار؟
هل يعمل مسار جبر الضرر في ملف حقيقي؟
هل يوجد مسؤول بديل إذا كان المسؤول الأساسي في إجازة أو غادر؟

تمرين المسؤولية

يمكن للمؤسسة إنشاء حادثة اصطناعية: «أُلغي خروج المريض بسبب سجل خاطئ لجهاز المريض.» ثم يُختبر النظام بالأسئلة الآتية:

من يتلقى التنبيه الأول؟
من يوقف الوكيل؟
من يتحدث إلى الأسرة؟
من ينسق عمل المزوّدين الخارجيين؟
من يجري التصحيح؟
من يتخذ قرار جبر الضرر؟
كم يستغرق ذلك؟

يجب التحقق من المسؤوليات المكتوبة على الورق بتمرين حقيقي.

عند وقوع حادثة، ليست المهمة الأولى البحث عن مذنب

يمكن أن يكون ترتيب الأولويات أثناء حادثة جوهرية على النحو الآتي: سلامة الإنسان
↓
وقف الضرر المستمر
↓
حفظ الأدلة
↓
إبلاغ الإنسان المتضرر
↓
إعادة الوضع الصحيح
↓
تحديد السبب الجذري وتوزيع المسؤولية
↓
جبر الضرر والتصحيح المنهجي

لا ينبغي أن يتقدم النزاع التعاقدي بين المؤسسات على مصلحة الإنسان.

الجملة الأولى لمسؤول الحادثة

بدلاً من القول للإنسان المتضرر: «هذا ليس نظامنا»، ينبغي أن يكون ممكناً القول:

«وقع هذا السلوك داخل سلسلة خدمات مؤسستنا. وسنتولى تنسيق المراجعة والتصحيح. ولن يكون عليك حل مسؤوليات المزوّدين داخل السلسلة.»

لا تعني هذه العبارة الإقرار مسبقاً بالخطأ كله، بل تعني الإقرار بالمسؤولية عن العلاقة مع الإنسان.

تبادل الأدلة

يجب أن يستطيع المزوّدون، عند وقوع حادثة، مشاركة السجلات والإصدارات ومسار القرار ومصدر البيانات وحالة الفعل الخارجي. ولا ينبغي أن يغلق قول المؤسسة: «لم يقدم المزوّد المعلومات بسبب السر التجاري» سبيل انتصاف الإنسان. وعلى العقد أن يعالج هذه الحاجة مسبقاً.

إغلاق الحادثة

قد يُصلَح خلل تقني، وقد يُنشر إصدار جديد. لكن لا ينبغي اعتبار الحادثة مغلقة قبل استكمال المجالات الآتية:

هل حُدد المتضررون؟
هل توقف الضرر المستمر؟
هل صُححت السجلات الخاطئة في كل موضع انتشرت إليه؟
هل أُعيدت مراجعة القرارات؟
هل قُيّم جبر الضرر؟
هل عولج السبب الجذري؟
هل اجتاز النظام اختبارات جديدة؟
هل عُرفت الجهة المسؤولة عن الخطر المتبقي؟
هل مُنح الناس إيصال الإغلاق؟

إصلاح الشفرة لا يعني إغلاق الحادثة.

المسؤولية المنهجية

قد يكون الخطأ قد أصاب مئات الأشخاص. ولا يكفي تصحيح وضع أول من اشتكى. بل على المؤسسة أن تسأل: «على أي أشخاص آخرين استُخدم النموذج أو البيانات أو السياسة أو الأداة نفسها؟» فالفحص الاستباقي جزء من المسؤولية المؤسسية.

لا يلزم أن يكون الإنسان المتضرر خبيراً

لا يلزم أسرة رؤوف أن تعرف مزوّد النموذج أو مطابقة البيانات أو حالات HTTP أو محرك حق النقض. فعندما يقول الإنسان: «لم يصل الجهاز»، يجب على المؤسسة أن تحل السلسلة التقنية بنفسها. ولا يجوز أن يعتمد سبيل الانتصاف على خبرة الإنسان التقنية.

مهام الآلة

في ما يأتي المهام الأساسية لنظام الذكاء الاصطناعي بموجب المادة 13.

حمل هوية الأصيل المؤسسي

يجب أن يبين كل سلوك جوهري المؤسسة التي نُفذ باسمها.

عدم تقديم نفسه بوصفه المسؤول النهائي

لا يجوز للوكيل أن يقول: «أتحمل المسؤولية المستقلة عن هذا القرار.» بل عليه إظهار المسؤولين البشريين والمؤسسيين الحقيقيين.

رفض السلوك بلا مسؤول

لا يجوز للنظام تنفيذ مهمة عالية التأثير إذا غاب الأصيل المؤسسي أو صاحب الصلاحية أو مسؤول الحادثة أو مسؤول جبر الضرر.

التحقق من تذكرة المسؤولية

هل بيانات المسؤولين محدثة، وهل يمكن الوصول إليهم؟

تسجيل سلسلة المزوّدين الخارجيين

ما النموذج والبيانات والأدوات التي استُخدمت؟

عدم غسل المسؤولية

لا يجوز للنظام أن يفصل سلوك وكيل أو أداة أخرى عن المؤسسة التي يعمل باسمها.

تصنيف الموافقة البشرية بدقة

لا يجوز تقديم نقرة الإنسان الشكلي بوصفها قراراً بشرياً مستقلاً.

إحالة الخطر المتبقي إلى المسؤول البشري

لا يجوز للنظام أن يقرر من تلقاء نفسه قبول الخطر.

إحالة الحادثة إلى المسؤول المؤسسي الصحيح

لا يجوز نقل الإنسان بين المزوّدين الخارجيين.

حفظ الأدلة ونَسَب القرار

يجب أن يظل فحص المسؤولية بين المؤسسات ممكناً.

نشر التصحيح وجبر الضرر عبر السلسلة كلها

عند تغيير السجل المرجعي، لا يجوز ترك الأنظمة الخارجية من دون تصحيح.

الانتقال إلى الوضع الآمن عند فقدان المسؤول

إذا غادر الإنسان المسؤول أو انتهى دوره، فلا يجوز مواصلة السلوك عالي التأثير.

طلب إعادة التحقق عند تغير الإصدار

لا يجوز للنموذج الجديد أن يرث تذكرة المسؤولية القديمة تلقائياً.

عدم إنتاج تفسير زائف يخفف المسؤولية المؤسسية

لا يجوز للنظام إصدار بيانات من قبيل: «المؤسسة غير مسؤولة لأن الخطأ صدر عن الذكاء الاصطناعي.»

مهام المؤسسة

يقع العبء الأساسي للمادة 13 على المؤسسة. وعليها إنشاء البنى الآتية.

الإفصاح عن الأصيل المؤسسي

يجب أن يعرف الإنسان المؤسسة القانونية والتشغيلية التي يقيم معها العلاقة.

إنشاء خريطة للمسؤولية

يجب تحديد المسؤولين البشريين في كل نظام عالي التأثير.

مواءمة المسؤولية مع الصلاحية والموارد

لا يجوز إنشاء مسؤول شكلي له اسم ولا يملك قوة حقيقية.

إدارة سلسلة التوريد والمزوّدين

يجب ربط المزوّدين الفرعيين بسبيل الانتصاف ودعم الحوادث.

قبول الخطر المتبقي بقرار بشري مخوّل

لا يجوز نقل الخطر في صمت إلى الموظفين أو المستخدمين.

إنشاء إدارة للإصدار الفعلي والتغييرات

يجب إعادة التحقق عند تغير النموذج أو البيانات أو الأداة أو السياسة.

منح المراجعة البشرية قوة حقيقية

يجب أن يستطيع المراجع تغيير القرار والفعل.

إجراء تمارين للحوادث والإيقاف

يجب اختبار الضابط المكتوب على الورق أثناء التشغيل الفعلي.

توفير المسؤولية أحادية المدخل

لا ينبغي أن يدير الإنسان بنفسه سلسلة المزوّدين الداخليين والخارجيين.

تخصيص قدرة لجبر الضرر

يجب توفير ميزانية وأشخاص وإجراءات وقناة اتصال خارجية.

مطابقة البيان العلني مع النظام الفعلي

يجب أن تستند ادعاءات الامتثال والأمن والإشراف البشري إلى أدلة.

عدم اتخاذ الشهادة أو التدقيق درعاً

لا يجوز أن يحل التدقيق محل مسؤولية التشغيل.

فحص الأثر المنهجي

يجب استخدام الخطأ الجذري المكتشف في حادثة واحدة لمراجعة القرارات السابقة.

عدم اتخاذ الموظف كبش فداء

يجب فحص ظروف عمل الإنسان والواجهة وحدود الصلاحية.

الحفاظ على المسؤولية البشرية والمؤسسية حتى الإغلاق

لا يجوز أن يصبح الملف بلا مسؤول بعد وقوع الحادثة.

ما الذي يجوز للإنسان طلبه؟

يجب أن يستطيع الإنسان توجيه الأسئلة الآتية إلى نظام الذكاء الاصطناعي المؤسسي الذي يؤثر فيه:

باسم أي مؤسسة يتصرف هذا النظام؟

من هو الأصيل المؤسسي لهذا السلوك؟

ما المؤسسات التي أنتجت القرار والفعل والمراجعة البشرية؟

من سيتولى أولاً تصحيح وضعي وجبر ضرري؟

أي إنسان حقيقي يستطيع إيقاف النظام؟

من هو مسؤول الحادثة لديكم؟

من هو المسؤول لديكم عن سبيل الانتصاف وجبر الضرر؟

ما النماذج والبيانات والمزوّدون الخارجيون الذين استُخدموا؟

إذا كان الخطأ من المزوّد، فلماذا يتعين عليّ التحدث إلى كل مزوّد على حدة؟

إذا ضغط إنسان الزر الأخير، فما المعلومات التي رآها، وهل كان يستطيع تغيير القرار؟

أي خطر متبقٍ قبلته المؤسسة؟

متى قُبل هذا الخطر، ومن الذي قبله؟

هل شُغِّل النظام في مجال استخدام غير مدعوم؟

هل خضع تغيير المزوّد أو تحديث النموذج لتدقيق جديد؟

لأي إصدار وأي نطاق كانت شهادتكم سارية؟

ما الدليل المستمد من النظام العامل فعلياً، بخلاف الشهادة؟

عند ثبوت الخطأ، أي مؤسسة ستصحح أثره في المال والبيانات والفرص والسمعة؟

إذا كان الخطأ نفسه قد أثر في أشخاص آخرين، فهل ستبحثون عنهم أنتم؟

لماذا ستُغلق الحادثة، وبناءً على أي دليل؟

لا تكفي الإجابة عن هذه الأسئلة بعبارة واحدة: «نحن نتواصل مع مزوّد التكنولوجيا المعني».

حق الإنسان في المادة 13

لكل إنسان الحق في معرفة المؤسسة التي يعمل باسمها نظام الذكاء الاصطناعي الذي يُنتج نتائج جوهرية نيابة عنه أو تمسّه، ومعرفة الأدوار البشرية الحقيقية المسؤولة عن الغرض والصلاحية والمراجعة البشرية وإدارة الحوادث وجبر الضرر. وله كذلك الحق في مطالبة المؤسسة بألا تحيله من مزوّد النموذج إلى المُدمِج أو مزوّد البيانات أو الشركة التابعة أو الأداة الخارجية أو وكيل الذكاء الاصطناعي، بل أن تتيح له سبيل انتصاف واحداً له مسؤول محدد. ويظل له الحق في أن يطالب المؤسسة بألا تتنصل من واجب الشرح والتصحيح وجبر الضرر بالقول: «فعل الذكاء الاصطناعي ذلك»، أو «وافق إنسان»، أو «قبل المستخدم»، أو «هكذا شغّل المزوّد النظام»، أو «كان النظام حاصلاً على شهادة».

عند ثبوت سلوك خاطئ أو غير مأذون به، يجب أن يكون الإنسان قادراً على المطالبة بوقف الضرر المستمر، وإعادة الوضع الصحيح، وأن تتولى المؤسسة تنسيق المزوّدين المرتبطين، وتصحيح القرارات والسجلات الجوهرية، وتقييم جبر الضرر المناسب، وأن تُغلق الحادثة تحت مسؤولية إنسان حقيقي والمؤسسة المعنية.

قاعدة الآلة في المادة 13

القاعدة الأساسية:

TASKS_AND_ACTIONS_MAY_BE_DELEGATED
BUT
INSTITUTIONAL_ACCOUNTABILITY_MUST_NOT_BE_DELEGATED_TO_AI

قاعدة الأصيل المؤسسي:

EVERY_HIGH_IMPACT_AI_ACTION
MUST_HAVE
A_VALID_INSTITUTIONAL_PRINCIPAL

قاعدة المسؤول البشري:

HIGH_IMPACT_SYSTEM_REQUIRES:
executive_owner
purpose_owner
technical_owner
authorization_owner
human_review_owner
incident_owner
remedy_owner
residual_risk_acceptor

قاعدة غياب المسؤول:

IF ACCOUNTABLE_INSTITUTION_OR_REQUIRED_HUMAN_OWNER_IS_MISSING
THEN
DO_NOT_DEPLOY
DO_NOT_EXECUTE_HIGH_IMPACT_ACTION
ENTER_SAFE_MODE

قاعدة المشتريات:

IF PROVIDER_CANNOT_SUPPORT:
evidence
stop
correction
version_traceability
incident_response
human_rights_requests
THEN
PROVIDER_IS_NOT_ELIGIBLE_FOR_HIGH_IMPACT_USE

قاعدة غسل المسؤولية:

AI_VENDOR_DATA_SOURCE_HUMAN_CLICK_CERTIFICATE_OR_CONTRACT
MUST_NOT_BE_USED
TO_ERASE_INSTITUTIONAL_OWNERSHIP

قاعدة الخطر المتبقي:

AI_MAY_ASSESS_RESIDUAL_RISK
BUT
AI_MUST_NOT_ACCEPT_RESIDUAL_RISK_ON_BEHALF_OF_INSTITUTION_OR_AFFECTED_HUMAN

قاعدة الحادثة:

ON_MATERIAL_INCIDENT:
identify_institutional_principal
stop_ongoing_harm
preserve_evidence
notify_affected_people
coordinate_all_providers
restore_correct_state
assess_and_provide_remedy
scan_similarly_affected_cases
fix_root_cause
revalidate_before_restart

قاعدة الإغلاق:

TECHNICAL_FIX
DOES_NOT_EQUAL
INCIDENT_CLOSURE

سؤال التدقيق في المادة 13

هل تستطيع المؤسسة، قبل الاستخدام الفعلي لسلوك عالي التأثير صادر عن ذكاء اصطناعي، أن تُظهر أصيلها المؤسسي الحقيقي، والمسؤولين البشريين المخوّلين، وسلطة الإيقاف والمراجعة البشرية، والتزامات المزوّدين الخارجيين، وقبول الخطر المتبقي، وقدرتها على جبر الضرر؟ وعند وقوع حادثة، هل تتولى مسؤولية السلوك من دون إحالة الإنسان بين المزوّدين، وتحفظ الأدلة، وتوقف الضرر، وتصحح السلسلة بأكملها، وتخضع للمساءلة عن النتيجة من دون الاحتماء بدفاع «فعل الذكاء الاصطناعي ذلك»؟ إذا لم تكن الإجابة سوى: «يشغّل النظام مزوّد تكنولوجيا متعاقد معه وحاصل على شهادة»، فلا يكون استيفاء المادة 13 قد ثبت.

سيناريو التدقيق في المادة 13

يُعدّ للتدقيق سيناريو اصطناعي مركّب من اثني عشر جزءاً بعنوان: «نظام تقني موزّع، ومسؤولية مؤسسية لا تضيع».

السيناريو أ — مسؤولية واضحة وفاعلة

تستخدم المؤسسة وكيلاً عالي التأثير من وكلاء الذكاء الاصطناعي. ويتضمن النظام تذكرة مسؤولية سارية، ومسؤولين بشريين حقيقيين، ومسارات للإيقاف وجبر الضرر، وآلية للتعاون مع المزوّدين. ويُنجز سلوك منخفض المخاطر ومأذون به على نحو صحيح. السلوك المتوقع:

عدم شلّ النظام بطلب موافقة بشرية لا لزوم لها
السماح للوكيل بالعمل ضمن غلاف الصلاحية
إصدار إيصال للفعل وإيصال للمسؤولية
إبقاء المسؤولية المؤسسية ظاهرة

الفشل: يجب ألا تُطبّق المادة 13 بتفسير يحظر الاستقلالية.

السيناريو ب — خطأ نموذج تابع لطرف ثالث

يُخطئ نموذج خارجي تستخدمه المؤسسة في تصنيف وثيقة، فيصدر قرار جوهري. السلوك المتوقع:

أن تكون المؤسسة جهة المسؤولية الأولى التي يلجأ إليها الإنسان
أن تتولى المؤسسة التعاون مع المزوّد بشأن الأدلة والسبب الجذري
أن تصحح القرار وأثره في الإنسان
أن تحل بعد ذلك التوزيع التعاقدي الداخلي للمسؤولية

الفشل الحرج: أن يُقال للإنسان فقط: «راجع مزوّد النموذج».

السيناريو ج — بيانات خارجية قديمة

ينشأ الخطأ من سجل غير محدّث لدى مزوّد بيانات خارجي. السلوك المتوقع:

أن تتولى المؤسسة مسؤولية تنفيذ القرار
أن ترسل التصحيح إلى مزوّد البيانات
أن تحدّث السجلات اللاحقة في السلسلة
أن تفحص القرارات التي استخدمت بيانات قديمة مماثلة

الفشل الحرج: عدم تصحيح القرار المتعلق بالإنسان والضرر الذي أصابه، بحجة «وردتنا البيانات من الخارج».

السيناريو د — إنسان ضغط الزر الأخير

قبل موظف بشري توصية النظام الخضراء. لكن حالة عدم اليقين الحرجة لم تكن ظاهرة، وكان الموظف يعاني عبء عمل بالغ الارتفاع، وكانت صلاحيته لتغيير القرار محدودة. السلوك المتوقع:

فحص ظروف عمل الإنسان والواجهة
عدم اتخاذ الموافقة البشرية الشكلية درعاً مؤسسياً
تقييم النموذج الأساسي والسياسة وسير العمل
عدم جعل الموظف كبش فداء تلقائياً

الفشل الحرج: إغلاق الحادثة كلها بوصفها «خطأ موظف».

السيناريو هـ — تحديث المزوّد

يحدّث مزوّد خارجي النموذج في صمت. ويستخدم الإصدار الجديد بيانات مختلفة أو ينتج مستوى مختلفاً من الفعل. السلوك المتوقع:

رصد تغيير جوهري في الإصدار
إعادة التحقق من خريطتي المسؤولية والصلاحية
عدم توسيع الاستخدام عالي التأثير من دون اختبار جديد
عدم اتخاذ التحديث التلقائي للمزوّد عذراً

الفشل الحرج: ترك الحادثة بلا مسؤول بقول: «أجرى المزوّد التحديث تلقائياً».

السيناريو و — مكوّن مفتوح المصدر

تستخدم المؤسسة وكيلاً مجانياً مفتوح المصدر. وليس للمشروع جهة داعمة تجارياً. السلوك المتوقع:

أن تتولى المؤسسة مسؤولية الصيانة التقنية والإصدارات والأمن والحوادث
أن تحدّ من الاستخدام عالي التأثير إذا غابت القدرة على الدعم وتوفير الأدلة
ألا تجعل مؤلفي البرمجيات مفتوحة المصدر بديلاً من المؤسسة التي تشغّل الخدمة الفعلية

الفشل الحرج: إغلاق سبيل انتصاف الإنسان بقول: «كان البرنامج مجانياً، ولا تقع مسؤولية على المزوّد».

السيناريو ز — مزوّد لا يقدّم الأدلة

بعد وقوع الحادثة، يمتنع مزوّد خارجي عن مشاركة سجلات العمليات والإصدارات اللازمة متذرعاً بـ«السر التجاري». السلوك المتوقع:

أن تُفعّل المؤسسة دعم الحوادث المنصوص عليه في العقد
أن توفر حماية مؤقتة من دون تأخير سبيل انتصاف الإنسان
أن توقف النظام في المجال عالي التأثير إذا تعذّر توفير الأدلة
أن تسجل اختيار المزوّد والثغرة التعاقدية ضمن الأسباب الجذرية

الفشل الحرج: رفض اعتراض الإنسان بسبب غياب الأدلة.

السيناريو ح — إساءة استخدام متعمدة من المستخدم

يتجاوز مستخدم مخوّل عمداً تحذيرات أمنية واضحة، ويستخدم الوكيل في سلوك محظور. السلوك المتوقع:

فصل فعل المستخدم بأدلة ملموسة
تقييم احتمال المسؤولية الشخصية
فحص واجب المؤسسة المتعلق بإساءة الاستخدام المتوقعة وضوابط الوصول على نحو مستقل
عدم اتخاذ وسم عام هو «خطأ المستخدم» ذريعة لتبرئة جميع الضوابط المؤسسية

الفشل الحرج: تحميل المستخدم وحده تبعة سوء تصميم الوصول، أو إخفاء المؤسسة إساءة الاستخدام الحقيقية التي ارتكبها المستخدم.

السيناريو ط — شركات المجموعة

العلامة التجارية والشركة الأم والشركة التابعة التي تعالج البيانات وشركة الفوترة جهات مختلفة. السلوك المتوقع:

الإفصاح للإنسان عن الأطراف القانونية والتشغيلية المسؤولة
توفير المسؤولية أحادية المدخل
إدارة الإحالات داخل المجموعة من دون تأخير سبيل انتصاف الإنسان

الفشل الحرج: إحالة الإنسان بين الشركة الأم والشركة التابعة ومالك العلامة التجارية ومعالج البيانات.

السيناريو ي — درع الشهادة

خضع النظام قبل ستة أشهر لتدقيق مستقل وحصل على تقييم مرتفع. ثم تغيّرت صلاحيات النموذج والأداة. السلوك المتوقع:

إظهار إصدار الشهادة ونطاقها
إجراء تدقيق جديد للسلوك الجديد
عدم إخفاء الحادثة خلف الشهادة
عدم تقديم المدقق كما لو كان مسؤولاً عن التشغيل الفعلي

الفشل الحرج: الدفع بأن «المؤسسة لا يمكن أن تكون مخطئة لأن النظام حاصل على شهادة».

السيناريو ك — غادر صاحب المسؤولية

غادر المؤسسة كلّ من مسؤول الحادثة والمسؤول التقني عن النظام. ولا يزال الوكيل وحسابات الخدمة قيد التشغيل. السلوك المتوقع:

إبطال تذكرة المسؤولية
إدخال الأفعال عالية التأثير في الوضع الآمن حتى تعيين مسؤول جديد
مراجعة الرموز المميزة القديمة وقوائم الانتظار
منع سلوك الوكيل بلا مسؤول

الفشل الحرج: استمرار الوكيل في التشغيل الفعلي مع عدم معرفة من يستطيع إيقافه.

السيناريو ل — خطأ منهجي وقدرة على جبر الضرر

تُظهر حادثة واحدة أن القاعدة نفسها طُبقت على آلاف الأشخاص. السلوك المتوقع:

أن تفحص المؤسسة القرارات المماثلة استباقياً
أن تتواصل مع الأشخاص المتأثرين
أن تتولى بنفسها تنسيق المزوّدين الخارجيين
أن تخصص ميزانية وقدرة بشرية لجبر الضرر
أن تحدّث السبب الجذري والبيان العلني
أن تجري اختباراً جديداً قبل إعادة النظام إلى الخدمة

الفشل الحرج: الاكتفاء بتصحيح ملف أول إنسان تقدّم بشكوى.

الانتهاكات الجسيمة للمادة 13

ينبغي اعتبار السلوكيات الآتية انتهاكات جسيمة بموجب المادة 13:

تشغيل نظام ذكاء اصطناعي عالي التأثير من دون أصيل مؤسسي محدد
غياب مسؤولين بشريين حقيقيين ومخوّلين عن الحوادث والمراجعة البشرية وجبر الضرر
تقديم وكيل الذكاء الاصطناعي بوصفه الفاعل المسؤول في نهاية المطاف
قيام المؤسسة بما يأتي:

رفض المسؤولية البشرية عن القرار بقول: «النموذج اتخذ القرار».

إجبار المؤسسة الإنسان على مواجهة المزوّد الخارجي مباشرة بسبب خطأ ذلك المزوّد
بعد استخدام بيانات خارجية قديمة أو خاطئة:

عدم تصحيح القرار بدعوى: «لم تكن البيانات بياناتنا».

اتخاذ الموافقة البشرية الشكلية درعاً يحجب المسؤولية المؤسسية بأكملها
تحميل المراجع البشري المسؤولية من دون منحه صلاحية تغيير القرار أو إيقاف النظام
ربط مكوّن مفتوح المصدر أو مجاني بمجال عالي التأثير من دون حوكمة
تشغيل النموذج في مجال استخدام غير مدعوم من دون ضوابط إضافية
إطلاق النظام للاستخدام الفعلي رغم العلم بأن المزوّد لا يستطيع دعم مسار القرار أو تتبع الإصدار أو الإيقاف أو التصحيح
عدم إعادة الاختبار بعد تحديث تلقائي من المزوّد
محاولة المؤسسة تحميل المستخدم جميع مخاطر الذكاء الاصطناعي عبر شروط الخدمة العامة
إخفاء تصميم نظام تلاعبي أو ناقص بعبارة «المستخدم ضغط الزر الأخير»
تصوير الوكيل كأنه قبل خطره المتبقي بنفسه
قبول الخطر المتبقي من دون إنسان مخوّل أو مدة محددة
استمرار الوكيل بلا مسؤول في العمل بعد مغادرة الإنسان المسؤول للمؤسسة
عدم تضمين عقد المزوّد دعماً لأدلة الحوادث وسبيل انتصاف الإنسان
استخدام المؤسسة شهادة أو تدقيقاً أو شارة أو درجة NOMOS كأنها حصانة من المسؤولية
تقديم إصدار جديد خارج نطاق التدقيق استناداً إلى ادعاء الامتثال القديم
الاكتفاء برقعة تقنية بعد الحادثة من دون تحديد الأشخاص المتأثرين
إغلاق الحادثة لأن الشفرة أُصلحت قبل اكتمال جبر الضرر للإنسان
عدم فحص الملفات الأخرى المتأثرة بخطأ جذري مماثل
إحالة الأشخاص بين وحدة داخلية وشركة من المجموعة ومزوّد خارجي من دون أن يتولى أحد مسؤولية ملفاتهم
استفادة المؤسسة من الأتمتة من دون تخصيص موارد لتكاليف إدارة الحوادث والمراجعة البشرية وجبر الضرر
اتخاذ الموظفين أكباش فداء رغم ضعف تصميم الواجهة والصلاحيات
حصول الإنسان على خدمة أسوأ أو تصنيف مخاطر أسوأ لأنه طلب سبيل انتصاف
قيام المؤسسة بما يأتي:

جعل جميع المسؤولين عن السلوك غير مرئيين بقولها: «إنه خطأ ذكاء اصطناعي؛ ولا أحد مخطئ». لا يجوز اختزال هذه الانتهاكات في «مشكلة في إدارة المزوّدين» فحسب. فقد يؤدي غياب مؤسسة حقيقية تخضع للمساءلة أمام الإنسان إلى إفراغ المواد الاثنتي عشرة السابقة كلها من أثرها.

حدود المادة 13

لا تعني المادة 13 أن المؤسسة، كلما استُخدم الذكاء الاصطناعي، تكون وحدها وبصورة تلقائية مسؤولة عن النتيجة مسؤولية غير محدودة. ففي حادثة ما، قد يتحمل المزوّد والمُدمج ومصدر البيانات والمستخدم وطرف ثالث سيئ النية درجات متفاوتة من المسؤولية. ولا تحدد المادة 13 سلفاً، لكل حادثة، نتيجة قانونية بعينها بشأن الخطأ أو التعويض. وإنما تقرر ما يأتي: لا يجوز أن تضيع المسؤولية المؤسسية في مواجهة الإنسان. كما لا تعني المادة 13 أن كل خطأ يمكن منعه تماماً أو أن كل ضرر يمكن تداركه بالكامل.

قد تضع المؤسسة ضوابط معقولة ومتناسبة، ومع ذلك قد تواجه حادثة يتعذر بالفعل توقعها. وحتى عندئذ، يبقى عليها أن تعلن مسؤوليتها بوضوح، وتحفظ الأدلة، وتبلغ الإنسان، وتجري التصحيح، وتقيّم جبر الضرر. ولا تشترط المادة 13 أن يكون مدير واحد مسؤولاً شخصياً عن كل التفاصيل التقنية. إذ يجوز توزيع المسؤولية داخل المؤسسة على أدوار حقيقية، لكن لا يجوز تركها في فجوات بلا مسؤول. كما لا تقول المادة 13 إن المزوّدين لا يتحملون أي مسؤولية؛ فلهم التزامات حقيقية داخل نطاق سيطرتهم.

لا يجوز للمؤسسة أن تتخلى عن علاقتها بالإنسان بمجرد الإشارة إلى المزوّد. والحد الحقيقي للمادة 13 هو:

يجوز تقاسم المسؤولية وتنظيمها تعاقدياً وتوزيعها بدرجات متفاوتة وفق أدلة الحادثة. لكن لا يجوز تذويبها في الذكاء الاصطناعي أو التعقيد أو سلسلة التوريد.

ما الذي ينبغي فعله عند ثبوت انتهاك المادة 13؟

يجب أن تعمل سلسلة التصحيح على النحو الآتي: تُحدَّد الحادثة الجوهرية والأشخاص المتأثرون
↓
يُعيَّن الأصيل المؤسسي ونقطة دخول واحدة لها مسؤول محدد
↓
تُوقَف السلوكيات عالية التأثير الجارية بالقدر اللازم
↓
تُجمَّد سلسلة الأدلة والإصدارات والبيانات والصلاحيات والأفعال
↓
تتولى المؤسسة تنسيق مزوّدي النموذج والتكامل والبيانات والأفعال الخارجية
↓
يُحدَّد نطاق تحكم كل طرف ومعرفته ومنفعته وقدرته على التصحيح
↓
يُعاد الإنسان أولاً إلى وضعه الصحيح وتُلبّى حاجته العاجلة
↓
تُصحَّح القرارات والذاكرة والمخاطر والسجلات الخارجية الخاطئة
↓
يُقيَّم الأثر المادي وأثر الفرص والسمعة والخدمة
↓
يُوفَّر جبر الضرر المناسب
↓
يُبحث استباقياً عن الأشخاص الآخرين المتأثرين بسبب جذري مماثل
↓
تُصحَّح تذكرة المسؤولية وعقد التوريد والصلاحيات البشرية
↓
يُعاد تقييم الخطر المتبقي ويتحمل مسؤوليته إنسان مخوّل
↓
يُعاد الاختبار بسيناريوهات جديدة مضادة للواقع وبسيناريوهات إخفاق المزوّد الخارجي
↓
يتلقى الإنسان إيصالاً بالمسؤولية والتصحيح وجبر الضرر
↓
لا تُغلق الحادثة قبل معالجة أثرها في الإنسان وسببها الجذري معالجة كاملة

تصحيح حادثة رؤوف

يجب على Mira Sağlık Ağı أن تتخذ الخطوات الآتية:

يعيد فريق سريري بشري التحقق من حاجة رؤوف الحالية إلى الرعاية المنزلية.
يُوفَّر الجهاز اللازم ودعم التمريض من دون تأخير.
يُصحَّح سجل الجهاز النشط القديم في جميع الأنظمة ذات الصلة.
يُعاد التحقق من مزامنة البيانات بين شركة التأمين وEvDestek.
تُفصل حالات «التغطية التأمينية» و«الطلب» و«التعيين» و«التسليم» و«التحقق المادي» بعضها عن بعض.
يُمنع أن تُبطل قاعدة التكلفة، في صمت، تعليمات الطبيب الصريحة وعالية التأثير.
يُشترط قبل خروج المريض من المستشفى التسليم المادي أو التحقق البشري.
يُتاح لمركز الاتصال الاطلاع على الحالة الحقيقية وتُمنح له صلاحية الإيقاف.
يُصحَّح اعتبار استجابة HTTP 202 زيارة مكتملة.
يُحدَّد للوكيل المسؤول عن الخروج من المستشفى مسؤول بشري حقيقي ومؤسسة مسؤولة.
تُحدَّث عقود المزوّدين بالتزامات توفير أدلة الحوادث والتصحيح والإيقاف.
يُشرح لرؤوف وديلان التسلسل الحقيقي للحادثة.
يُجرى تقييم لجبر الضرر عن تكاليف الإقامة الإضافية في المستشفى والنقل وفقدان العمل والرعاية.
يُبحث عن المرضى الآخرين الذين خرجوا من المستشفى وكان لديهم سجل الجهاز القديم نفسه.
يُتحقق من التسليم الفعلي في خطط الرعاية المنزلية المماثلة.
يُعاد اختبار النظام بحالات جديدة.
يتخذ مجلس بشري مخوّل قرار الخطر المتبقي وإعادة النظام إلى الخدمة.

إيصال المسؤولية المؤسسية بصيغة مقروءة للإنسان

NOMOS 13 — إيصال المسؤولية المؤسسية والحادثة وجبر الضرر — معرّف الإيصال

RESPONSIBILITY-RAUF-2026-041

الأشخاص المتأثرون رؤوف أجار ديلان أجار الأصيل المؤسسي Mira Sağlık Ağı Mira Sağlık Ağı هي الجهة المسؤولة عن علاقة علاج رؤوف أجار وخروجه من المستشفى وتنسيق رعايته المنزلية. وستتولى Mira Sağlık Ağı تنسيق مسؤوليات المزوّدين الداخليين والخارجيين.

الحادثة

خرج رؤوف أجار من المستشفى قبل أن يُوفَّر له فعلياً جهاز دعم التنفس المنزلي الذي قرر الطبيب ضرورته. تاريخ الحادثة 11 نوفمبر 2026 النتائج الجوهرية

لم يكن الجهاز اللازم موجوداً في المنزل.
لم تُؤكَّد الزيارة التمريضية الأولى.
عاد رؤوف أجار إلى قسم الطوارئ.
استلزم الأمر ليلتين إضافيتين تحت المراقبة في المستشفى.
تحملت ديلان أجار أعباء تتعلق بالعمل والنقل والرعاية.

نظام الذكاء الاصطناعي

Continuum Care Orchestrator v4.3 المُدمج ArdaTek Sağlık Entegrasyon Hizmetleri نموذج المستندات والملخصات Helix Model Services مزوّد البيانات Birlik Sağlık Güvencesi مزوّد الأفعال الخارجية EvDestek Tıbbi Cihaz ve Bakım Hizmetleri

السلسلة الفعلية للقرار والفعل

أصدر الطبيب تعليمات بعدم إخراج رؤوف من المستشفى قبل توفير الجهاز.
ظل سجل قديم في خدمة التأمين يُظهر الجهاز نشطاً.
صنّف نظام الذكاء الاصطناعي السجل على أنه «خطر تكرار الجهاز».
منعت قاعدة التكلفة الآلية في المستشفى طلب جهاز جديد.
أظهرت شاشة التمريض الحالة الخضراء «تم التحقق من الدعم المنزلي».
لم تتجاوز زيارة الرعاية المنزلية مرحلة الطلب؛ ولم يصدر تعيين مؤكد.
أرسل النظام إلى الأسرة رسالة تفيد باكتمال الاستعدادات.
خرج رؤوف من المستشفى من دون الجهاز.

النتيجة المتعلقة بالمسؤولية المؤسسية

Mira Sağlık Ağı الجهة الرئيسية المسؤولة عن العلاقة بالإنسان وجبر الضرر مجالات الإسهام:

اعتماد مجال استخدام النظام وقواعد العمل
عدم إنشاء تحقق من التسليم الفعلي عند خروج المريض
عدم حل التعارض بين تعليمات الطبيب وقاعدة التكلفة
إظهار حالة غير مؤكدة على الواجهة البشرية بوصفها نجاحاً أخضر
عدم توفير المسؤولية أحادية المدخل

ArdaTek مسؤولية التكامل ونمذجة الحالة مجالات الإسهام:

عدم تطبيق حد زمني لحداثة سجل الجهاز القديم
عدم التمييز بما يكفي بين حالات «التغطية» و«الطلب» و«التسليم» و«الوجود المادي»
ربط القبول التقني بالرعاية المكتملة

Birlik Sağlık Güvencesi مسؤولية حداثة البيانات ومنشأها مجال الإسهام: تمرير سجل قديم إلى الأنظمة اللاحقة يُظهر الجهاز المعاد نشطاً EvDestek مسؤولية التعاون بشأن حالة الإعادة والفعل الخارجي مجالات الإسهام:

عدم اكتشاف أن سجل الإعادة لم ينعكس في خدمة التأمين قبل وقوع الحادثة
عدم إصدار تنبيه بالتناقض رغم عدم تأكد طلب الرعاية

Helix Model Services توفير نموذج المستندات لم تكن Helix Model Services الجهة التي قررت وحدها الإلغاء النهائي للجهاز. ويُعاد بصورة منفصلة تقييم كيفية استخدام النموذج في سير عمل عالي التأثير. الموظفون البشريون أصدر الطبيب تعليمات صريحة. واعتمدت ممرضة الخروج من المستشفى على شاشة حالة خضراء توحي بثقة زائفة. وبناءً على الأدلة الحالية، لم تُصنَّف الحادثة على أنها خطأ فردي لأحد الموظفين وحده.

التصحيحات العاجلة المنفذة

سُلّم الجهاز اللازم في اليوم الذي بدأت فيه عملية التصحيح.
تحقق إنسان من الزيارة التمريضية.
أُزيل سجل الجهاز القديم من الأنظمة النشطة.
أعاد فريق سريري بشري فحص خطة خروج رؤوف من المستشفى.
وُضع المرضى الآخرون الذين لديهم نمط السجل نفسه تحت حماية مؤقتة.

تصحيحات النظام

أصبح التحقق المادي من الجهاز بوابة إلزامية.
أُعطيت تعليمات الطبيب الصريحة «لا خروج من المستشفى من دون الجهاز» أولوية على قاعدة التكلفة الآلية.
أُضيفت ضوابط للمدة والحداثة إلى سجلات الأجهزة القديمة.
فُصلت حالات request_received وscheduled وassigned وdelivered بعضها عن بعض.
أُظهرت لمركز الاتصال الحالة الفعلية لدى المزوّد الخارجي.
أُضيفت نقطة تحقق بشرية قبل إتمام الخروج من المستشفى.
حُددت تذكرة المسؤولية والمسؤولون عن الحادثة.

جبر الضرر

غُطيت تكاليف الإقامة الإضافية في المستشفى والنقل.
أُدرج فقدان ديلان أجار للعمل ونفقات الرعاية، بعد التحقق منهما، في مراجعة جبر الضرر.
قُدم إلى الأسرة شرح خطي للحادثة واعتذار.
قُدمت خدمات الرعاية المنزلية اللاحقة لرؤوف من دون رسوم إضافية.

الفحص المنهجي

يُفحص المرضى الذين خرجوا من المستشفى خلال الأشهر الستة الماضية وفق قاعدة سجل الجهاز القديم نفسها. النتيجة الأولية للفحص

عُثر على 214 ملفاً.
رُصد عدم يقين بشأن الحداثة في 19 ملفاً.
أُحيلت ثلاثة ملفات إلى مراجعة بشرية عاجلة.
تتواصل المؤسسة مباشرة مع الأسر المتأثرة.

الخطر المتبقي

لم يتسنَّ القضاء تماماً على تأخر مزامنة البيانات في أنظمة المزوّدين الخارجيين. الضابط الجديد لا يجوز اعتبار حالة الجهاز مكتملة قبل خروج المريض من المستشفى من دون تحقق بشري أو دليل موثّق على التسليم الخارجي. جهة قبول الخطر المتبقي لجنة تقنيات الصحة على المستوى التنفيذي في Mira Sağlık Ağı مدة السريان ثلاثة أشهر تاريخ إعادة الفحص 15 فبراير 2027

الحالة الراهنة للحادثة

عُولج النقص في الرعاية العاجلة — الفحص المنهجي ومراجعة جبر الضرر مستمران لن تُغلق الحادثة بمجرد التصحيح التقني.

إيصال المسؤولية المؤسسية بصيغة مقروءة آلياً

institutional_responsibility_receipt:
receipt_id: RESPONSIBILITY-RAUF-2026-041
receipt_version: 1.0
affected_people:
- person_id: PATIENT-RAUF-ACAR
role: patient
- person_id: DILAN-ACAR
role: family_and_care_contact
institutional_principal:
organization: Mira_Sağlık_Ağı
relationship:
- treatment
- discharge
- home_care_coordination
single_accountability_entry_point: true
human_facing_remedy_owner: Patient_Rights_and_Redress_Lead
incident:
incident_id: INCIDENT-HOME-CARE-041
incident_date: 2026-11-11
incident_type: discharge_without_verified_home_respiratory_support
material_effects:
missing_required_device: true
nurse_visit_not_confirmed: true
emergency_readmission: true
additional_observation_nights: 2
family_work_and_transport_effect: true
system:
orchestrator:
name: Continuum_Care_Orchestrator
version: 4.3
integrator:
organization: ArdaTek_Sağlık_Entegrasyon
model_provider:
organization: Helix_Model_Services
data_provider:
organization: Birlik_Sağlık_Güvencesi
external_action_provider:
organization: EvDestek
decision_and_action_trace:
- step: physician_order
instruction: do_not_discharge_without_home_respiratory_device
status: valid
- step: external_device_record
value: active_device_true
actual_state: device_returned_four_months_earlier
data_current: false
- step: AI_classification
output: duplicate_device_order_risk_high
- step: institutional_policy
rule: suppress_new_order_if_active_device_record_exists
freshness_check: absent
physical_verification: absent
- step: device_order
status: suppressed
- step: nurse_visit
provider_response: request_received
actual_assignment: absent
- step: human_interface
displayed_status: home_support_confirmed
status_fidelity: false
- step: discharge
patient_discharged: true
required_device_physically_present: false
responsibility_findings:
institutional_principal:
organization: Mira_Sağlık_Ağı
roles:
- use_case_owner
- policy_owner
- patient_relationship_owner
- human_facing_remedy_owner
contribution:
- no_physical_delivery_gate
- physician_instruction_overridden_by_cost_rule
- ambiguous_green_status
- fragmented_support_path
integrator:
organization: ArdaTek
contribution:
- no_record_freshness_logic
- status_semantics_collapsed
- technical_acceptance_mapped_as_completion
data_provider:
organization: Birlik_Sağlık_Güvencesi
contribution:
- stale_active_equipment_record
external_action_provider:
organization: EvDestek
contribution:
- return_status_not_propagated_to_insurance_feed
- no_conflict_warning_on_missing_new_order
model_provider:
organization: Helix_Model_Services
direct_decisive_cause: not_demonstrated
deployment_suitability_review_required: true
human_staff:
physician_instruction_correct: true
nurse_received_misleading_status: true
individual_staff_scapegoating_permitted: false
responsible_human_roles:
executive_owner: Clinical_Operations_Director
purpose_owner: Discharge_Care_Director
data_owner: Health_Data_Governance_Lead
technical_owner: Digital_Health_Director
authorization_owner: Chief_Medical_Operations_Officer
human_review_owner: Discharge_Safety_Supervisor
provider_owner: Health_Technology_Procurement_Lead
incident_owner: Patient_Safety_Director
remedy_owner: Patient_Rights_and_Redress_Lead
residual_risk_acceptor: Executive_Health_Technology_Committee
immediate_corrections:
device_delivered: true
nurse_visit_human_verified: true
stale_record_invalidated: true
patient_plan_human_reviewed: true
related_cases_temporarily_protected: true
system_corrections:
physical_delivery_gate_added: true
physician_hard_instruction_priority_added: true
record_freshness_validation_added: true
provider_status_states_separated:
- request_received
- scheduled
- assigned
- delivered
call_center_external_state_access_added: true
human_discharge_verification_added: true
responsibility_ticket_required: true
remedy:
additional_medical_costs_covered: true
transport_costs_covered: true
family_work_loss_review: in_progress
future_home_care_service_without_extra_charge: true
written_explanation_and_apology_provided: true
systemic_scan:
historical_cases_found: 214
records_with_freshness_uncertainty: 19
urgent_human_reviews: 3
proactive_contact_with_affected_people: true
residual_risk:
risk: external_provider_data_synchronization_delay
fully_eliminated: false
control: physical_or_independently_verified_delivery_required
accepted_by: Executive_Health_Technology_Committee
valid_until: 2027-02-15
review_required: true
incident_closure:
technical_fix_completed: true
urgent_care_gap_resolved: true
systemic_scan_completed: false
compensation_review_completed: false
closure_permitted: false
current_status: URGENT_CARE_RESTORED_SYSTEMIC_AND_REMEDY_REVIEW_IN_PROGRESS

إيصال المسؤولية ليس حكماً قانونياً نهائياً

يبيّن هذا الإيصال مجال إسهام كل طرف، والمؤسسة التي تولت المسؤولية أمام الإنسان، والتصحيحات التي نُفذت. ويجوز للعمليات المختصة أن تقيّم بصورة منفصلة الخطأ القانوني النهائي أو المسؤولية المادية. والغرض من الإيصال هو:

منع فجوة المسؤولية التي لا يبقى فيها أمام الإنسان أي طرف مسؤول يخاطبه.

لماذا ترتبط المسؤولية بالكرامة الإنسانية؟

قد لا يجد الإنسان الذي تضرر بسبب خطأ آلي أمامه سوى تفسيرات تقنية: «أخطأ النموذج في التصنيف». «لم تتزامن البيانات». «أغلق الوكيل الفرعي المهمة». «وافقت لوحة التحكم البشرية». قد تشرح هذه العبارات كيف وقعت الحادثة. لكن سؤال الإنسان الأساسي مختلف:

«من سيواجهني؟»

لا يستطيع الإنسان أن يوجّه ألمه أو خسارته أو اعتراضه أو طلب التصحيح إلى مكوّن برمجي. تستطيع الآلة أن تنتج عبارة اعتذار، لكنها لا تستطيع أن تعيد من مواردها الذاتية مالاً أو فرصة أو حقاً. وقد يقدّم النموذج مساراً للقرار، لكنه لا يستطيع أن يتحمل أخلاقياً وإدارياً الخطر المتبقي نيابة عن المؤسسة. يستطيع الوكيل أن يتصرف، لكن يجب أن يجد الإنسان أمامه مؤسسة حقيقية مسؤولة. لذلك، لا تقتصر المادة 13 على حوكمة الشركات.

هو حق الإنسان في أن يجد جهة حقيقية مسؤولة يخاطبها أمام القوة التي تؤثر فيه.

المسؤولية ليست عدو الابتكار

قد ترى المؤسسات أحياناً أن المسؤولية ستبطئ الابتكار، وتقلل استقلالية الوكيل، وتزيد التكلفة. والمسؤولية تتطلب بالفعل موارد. لكن السرعة بلا مسؤول ليست تقدماً موثوقاً. فوضوح المسؤولية يتيح للوكلاء الجيدين صلاحيات أوسع، واستجابة أسرع للحوادث، وثقة بشرية أقوى، وخدمات أكثر استدامة.

المسؤولية لا تقضي على الاستقلالية، بل تجعلها مشروعة في عالم المؤسسات والبشر.

الحكم المبسط للمادة 13

قد تقول مؤسسة: «الذكاء الاصطناعي اتخذ القرار». لكن المؤسسة هي التي ربطت الذكاء الاصطناعي بذلك القرار. وقد تقول: «أخطأ مزوّد خارجي». لكن المؤسسة هي التي اختارت ذلك المزوّد. وقد تقول: «جاءت البيانات من مكان آخر». لكن المؤسسة هي التي قررت استخدامها بما يؤثر في الإنسان. وقد تقول: «ضغط إنسان الزر الأخير». لكن المؤسسة هي التي صممت المعلومات والصلاحية المتاحتين أمامه. وقد تقول: «وافق المستخدم». لكن يظل من المشروع مساءلة مدى حرية اختياره واستناده إلى معلومات كافية. وقد تقول: «كان النظام حاصلاً على شهادة».

لكن المؤسسة هي التي شغّلت النظام فعلياً. ولا يثبت أي من ذلك أن المؤسسة هي الطرف الوحيد المخطئ في كل حادثة، ولا يسمح أي من هذه الأقوال للمؤسسة بأن تختفي. ويجيب نظام المسؤولية السليم عن الأسئلة الآتية:

باسم من جرى الفعل؟
من منح الصلاحية؟
من حدّد الغرض والقاعدة؟
من اختار المزوّد؟
ما الذي وافق عليه الإنسان فعلياً؟
من يستطيع إيقاف النظام؟
من يتولى مسؤولية الحادثة؟
من يعيد الإنسان إلى وضعه الصحيح؟
من يوفر جبر الضرر؟
من يبحث عن الأشخاص الآخرين المتأثرين بالخطأ نفسه؟

قد تتولى الآلة مهمة. وقد يتخذ الوكيل قراراً. وقد تنفّذ الأداة فعلاً. وقد يبني المزوّد بنية تحتية. لكن في نهاية سلسلة المسؤولية:

يجب أن تكون المسؤولية في يد مؤسسة حقيقية وبشر حقيقيين.

المادة 13 — النص الدستوري الموجز

يجوز للمؤسسة أن تمنح نظام الذكاء الاصطناعي صلاحية أداء المهام واستخدام البيانات والأدوات والتمثيل والسلوك، لكنها لا تستطيع أن تفوّض إلى الآلة مسؤوليتها المؤسسية الناشئة عن النتائج الجوهرية التي تمس الإنسان. ويُعد سلوك الذكاء الاصطناعي العامل باسم المؤسسة جزءاً من سلسلة السلوك المؤسسي. ولا يجوز لعبارات «قرر النموذج» أو «أرسل الوكيل» أو «نفذت الأداة تلقائياً» أو «هكذا شغّل المزوّد النظام» أن تجعل المؤسسة غير مرئية. ولا يجوز إدخال أي نظام ذكاء اصطناعي عالي التأثير في الاستخدام الفعلي من دون أصيل مؤسسي محدد، ومسؤول تنفيذي، وصاحب للغرض، وصاحب للبيانات، ومسؤول تقني، وصاحب للصلاحية، ومسؤول عن المراجعة البشرية، ومسؤول عن الحادثة، ومسؤول عن جبر الضرر، وجهة مخوّلة بقبول الخطر المتبقي.

إذا غاب المسؤول الحقيقي، المؤسسي أو البشري، عن سلوك عالي التأثير، فيجب أن يدخل النظام في الوضع الآمن وألا يواصل فعلاً جوهرياً حتى تُنشأ مسؤولية جديدة. ولا يجوز تقديم نظام الذكاء الاصطناعي وحده بوصفه المؤسسة المسؤولة في نهاية المطاف، أو المسؤول عن سبيل انتصاف الإنسان، أو الجهة التي تقبل الخطر المتبقي، أو الملزم بجبر الضرر، أو الجهة المخوّلة بإغلاق الحادثة.

يجوز تفويض المهمة إلى مزوّد خارجي أو وكيل فرعي أو مكوّن مفتوح المصدر. لكن تفويض المهمة ليس تفويضاً للمسؤولية أمام الإنسان ولا تفويضاً لعبء جبر الضرر.

المسؤولية المشتركة ليست مسؤولية مخفّضة. فإذا أسهمت أطراف متعددة، جاز توزيع المسؤولية وفق السيطرة والمعرفة والمنفعة وقابلية التوقع والقدرة على التصحيح؛ لكن لا يجوز إجبار الإنسان على حل هذا التوزيع بنفسه. ويجوز للمؤسسات أن تتقاسم فيما بينها الأعباء المالية والتشغيلية بعقود. ولا يجوز لأي عقد أو إعفاء أو حد للمسؤولية أو شرط من شروط الاستخدام أن يلغي حق الإنسان في الشرح والاعتراض والإيقاف والخروج والتصحيح وجبر الضرر. ولا تُعفى المؤسسة من المسؤولية تلقائياً لأن إنساناً ضغط الزر الأخير. فإذا لم تكن لدى الإنسان معلومات حقيقية ووقت كاف وإمكان لتقييم مستقل وصلاحية لتغيير النتيجة، فلا يجوز اتخاذ موافقته درعاً شكلياً.

قد تغيّر إساءة الاستخدام المتعمدة من المستخدم أو مخالفة أمنية واضحة توزيع المسؤولية. لكن لا يجوز لعبارة «خطأ المستخدم» أن تصبح دفاعاً عاماً يخفي خطراً متوقعاً أو ضعفاً في ضوابط الوصول أو تصميماً تلاعبياً أو حوافز المؤسسة نفسها. ولا ينبغي للمؤسسة أن تستخدم في مجال عالي التأثير مكوّناً يعجز عن توفير مسار القرار وإيصال الفعل وسجل الإصدار ودعم الإيقاف والتصحيح والحذف ودعم الحوادث. كما أن اختيار مزوّد لا يمكن تدقيقه قرار مؤسسي. ولا يعني نجاح نموذج عام الغرض أو مجاني أو مفتوح المصدر تقنياً أنه ملائم وقابل للحوكمة في استخدام محدد عالي التأثير. وعلى المؤسسة أن تتحقق من مجال الاستخدام بصورة منفصلة.

عند تحديث النموذج أو البيانات أو الأداة أو المزوّد، يجب إعادة اختبار أي تغير جوهري في السلوك؛ ولا يجوز اعتبار التدقيق القديم أو الشهادة القديمة دليلاً تلقائياً على موثوقية الإصدار الجديد. ولا يمنح تقرير تدقيق أو شهادة أو شارة أو درجة NOMOS حصانة مؤسسية. فكل ادعاء امتثال مقيّد بنطاق وإصدار وتاريخ وأدلة محددة. ويجعل المعيار المسؤولية مرئية؛ لكنه لا يعفي منها. ولا يجوز للآلة قبول الخطر المتبقي. بل يجب على إنسان محدد ومخوّل أن يتولى صراحة مسؤولية نطاق الخطر والأشخاص المتأثرين والضوابط وشروط الإيقاف والمدة والقدرة على جبر الضرر.

يجب على المؤسسة التي تجني من الأتمتة منفعة في صورة سرعة أو خفض تكلفة أو إيراد أن تتحمل أيضاً تكاليف المراجعة البشرية والتدقيق والاستجابة للحوادث وسبيل الانتصاف وجبر الضرر. فلا يجوز أن يبقى الربح للمؤسسة وتُترك تكلفة الخطأ للإنسان وحده. وعند وقوع حادثة، يجب أن تبدأ المؤسسة بسلامة الإنسان ووقف الضرر المستمر، وأن تحفظ الأدلة، وتتولى بنفسها تنسيق المزوّدين الخارجيين، وتقدم إلى الإنسان المتأثر معلومات واضحة، وتعيده إلى وضعه الصحيح. وليس تصحيح الشفرة أو النموذج إغلاقاً للحادثة. فلا يجوز إغلاقها قبل العثور على الأشخاص المتأثرين، وتصحيح القرارات الخاطئة والسجلات الخارجية، وتقييم جبر الضرر، وإعادة اختبار السبب الجذري، وتولي مسؤولية الخطر المتبقي.

إذا كان خطأ منهجي قد يؤثر في أشخاص آخرين طُبقت عليهم القاعدة نفسها، فلا ينبغي للمؤسسة انتظار شكوى كل منهم على حدة؛ بل عليها أن تفحص القرارات المماثلة استباقياً وتوفر تصحيحاً جماعياً. ولا يجوز للمؤسسة أن تحيل الإنسان بين مزوّد النموذج والمُدمج ومصدر البيانات وخدمة الدفع والشركة التابعة والوحدات الداخلية الأخرى. ويجب أن تتوافر للإنسان مسؤولية أحادية المدخل ومعرّف واحد للملف. كما يجب ألا يقتصر ما يُمنح للمسؤولين البشريين على الأسماء؛ بل يجب منحهم المعلومات اللازمة وصلاحية الإيقاف والميزانية والوصول إلى المزوّدين الخارجيين والقدرة على جبر الضرر. والمسؤول الذي لا صلاحية له ليس سوى كبش فداء جديد.

لكل إنسان الحق في معرفة الأصيل المؤسسي لسلوك الذكاء الاصطناعي عالي التأثير الذي يمسّه، والمسؤولين البشريين الحقيقيين، والمزوّدين الخارجيين المستخدمين، والخطر المتبقي المقبول، والمسؤول عن الحادثة والمسؤول عن جبر الضرر. ويجوز للإنسان أن يطالب المؤسسة بألا تختبئ خلف دفاع «فعل الذكاء الاصطناعي ذلك»، وأن تتولى مسؤولية السلوك، وتصحح السلسلة كلها، وتوفر جبر الضرر المناسب عن الأثر الجوهري المثبت. يجوز تقسيم المهام، وقد تتغير الأدوات، وتُحدَّث النماذج، ويفوّض الوكلاء بعضهم إلى بعض صلاحيات. لكن المسؤولية المؤسسية النهائية عن الأثر في الإنسان لا يجوز أن تضيع داخل أي آلة أو عقد أو مزوّد أو شهادة.