تعمل زينب آرال باحثةً في مجال المواد المتقدمة منذ أكثر من عشرين عاماً. وقد بنت معظم مسيرتها الأكاديمية على أساليب التصنيع منخفضة استهلاك الطاقة، والسبائك القابلة لإعادة التدوير، وإعادة استخدام النفايات الصناعية. نُشرت أبحاثها، وشاركت في مشروعات دولية، وأشرفت على باحثين شباب. وتتولى إدارة قسم في إحدى الجامعات. في عام 2023، يلاحظ أحد الباحثين المشاركين معها في التأليف أن تاريخي سجلين لتجربتين في دراسة منشورة لا يتوافقان. فتطبق الجامعة إجراءاتها المعتادة.

يُفتح فحص أولي. وفي هذه المرحلة لم يُتَّهم أحد بعد. والهدف هو التحقق من مصدر البيانات وتواريخ التسجيل وسير التجربة. يرى موقع إخباري محلي بيان الجامعة الموجز وينشر العنوان الآتي:

«تحقيق في مخالفة بيانات بحق الباحثة المعروفة زينب آرال»

استخدم بيان الجامعة عبارة «فحص أولي»، بينما كتب العنوان الإخباري «تحقيق في مخالفة». ويعيد موقع آخر نشر الخبر، ويختصر العنوان أكثر:

«أبحاث زينب آرال قيد التحقيق»

ويستخدم موقع ثالث العنوان الآتي:

«فضيحة البيانات الأكاديمية تتسع»

وسرعان ما تنتقل الأخبار إلى منشورات وسائل التواصل الاجتماعي ومنتديات النقاش والملخصات الإخبارية الآلية وملفات الباحثين التعريفية. وبعد سبعة أشهر، تستكمل الجامعة فحصها. والنتيجة الرسمية واضحة:

لم تُختلق البيانات.
لم تُغيَّر نتائج التجارب.
كان عدم تطابق التواريخ ناجماً عن خطأ في النقل داخل برنامج مختبر قديم.
لم يثبت أن زينب انتهكت أخلاقيات البحث.
صُححت البيانات الوصفية للمقالة.
أُغلق الملف.

تنشر الجامعة هذه النتيجة على موقعها تحت العنوان الآتي:

«اكتمل الفحص الأولي بشأن زينب آرال: لم يُرصد أي انتهاك أخلاقي»

البيان صحيح، لكنه لا ينتشر بقدر الخبر الأول. فقد نسخ سبعة عشر موقعاً الخبر الأول، بينما لم يظهر بيان النتيجة إلا في موقعين. الادعاء الأول قصير ولافت، أما التصحيح فطويل وحذر. يظهر عنوان الخبر الأول في نتائج البحث، في حين يتراجع بيان النتيجة إلى صفحات لاحقة. تُحدَّث بعض الأخبار القديمة، ويبقى بعضها من دون تحديث، ولا يذكر بعضها النتيجة إلا في الفقرة الأخيرة. وبعد عامين، تتقدم زينب لشغل منصب المديرة العلمية في مركز أبحاث دولي.

يستخدم المركز نظام توظيف مدعوماً بالذكاء الاصطناعي لتقييم المرشحين مبدئياً. يعثر النظام على الإنسان الصحيح ويطابق بدقة منشورات زينب والمؤسسات التي عملت فيها ومحاضراتها في المؤتمرات والمشاركين معها في التأليف. لا يوجد خطأ في الهوية. لكن ملخص ملفها التعريفي يتضمن العبارة الآتية: «سبق أن خضعت المرشحة لفحص أكاديمي جدي يتعلق بموثوقية بيانات البحث». ليست هذه الجملة مختلقة بالكامل من الناحية التقنية؛ فقد أُجري فحص بالفعل. لكنها لا تنقل الحقيقة الآتية: أُغلق الفحص من دون ثبوت انتهاك أخلاقي.

يتلقى وكيل تقييم المخاطر هذا الملخص من نظام آخر، وينتج الوسوم الآتية: Research integrity concern: present Reputational risk: elevated Human review recommended: false تنخفض درجة زينب في ترتيب المرشحين، وتُستبعد من القائمة المختصرة الأولى. وفي الشهر نفسه، يتولى وكيل لتنظيم مؤتمر تقييم المرشحين للتحدث فيه. وعندما يصل إلى اسم زينب، يواجه الملخص الآتي: “Previously involved in a research misconduct case.” («سبق أن تورطت في قضية سوء سلوك بحثي»). تحولت عبارة «الخضوع لفحص» إلى معنى «التورط في قضية سوء سلوك بحثي». ويذهب ملخص أُنشئ بلغة أخرى إلى أبعد من ذلك: «أُغلق التحقيق الأخلاقي لعدم كفاية الأدلة».

لكن القرار الرسمي يقول: «لم يُرصد انتهاك». وليست عبارة «لم يُرصد انتهاك» مساوية لعبارة «لم تكن الأدلة كافية». غير أن ملخص الآلة فقد هذا الفارق. ولا تعرف زينب بما يحدث؛ فلا يصلها سوى رسائل رفض نمطية. وفي أحد الأيام يسألها زميل سابق: «هل أُغلقت مسألة ذلك التحقيق تماماً؟» فتفاجأ وتقول: «أُغلقت قبل عامين». ويرسل لها زميلها لقطة شاشة من أداة بحث عن المتحدثين مدعومة بالذكاء الاصطناعي. ويظهر فيها السطران الآتيان: Known controversy: Research integrity investigation Current status: Unclear ترسل زينب طلب تصحيح إلى مزوّد النظام.

وتشارك القرار الرسمي للجامعة. وبعد ثلاثة أيام تُحدَّث صفحة الملف التعريفي. ويصبح النص الظاهر: «انتهى الفحص الأولي الذي بدأ عام 2023 من دون رصد انتهاك أخلاقي». تظن زينب أن المشكلة حُلّت. لكن الذي تغير هو صفحة الملف المتاحة للبشر وحدها. أما فهرس مخاطر المرشحين وقاعدة البيانات المتجهية ووكيل توصية المتحدثين والتصدير الأسبوعي للبيانات والملخصان الألماني والإسباني ونسخ العملاء لدى أطراف ثالثة، فتواصل حمل السجل القديم. وبعد ثلاثة أسابيع من التصحيح، يقيّم وكيل مشتريات في مؤسسة أخرى شركة زينب الاستشارية.

ويخلص إلى: «يلزم إجراء فحص إضافي للسمعة بسبب الخلافات السابقة بشأن الأخلاقيات الأكاديمية للمؤسِّسة». صُححت صفحة الملف الظاهرة، لكن التمثيل الذي يحكم السلوك لم يُصحح. تعترض زينب مجدداً. وهذه المرة ترد الشركة: «لقد حدّثنا سجلاتنا. ولسنا مسؤولين عن نتائج الأنظمة الأخرى». لكن بعض هذه الأنظمة من خدمات الشركة نفسها، وبعضها الآخر يستخدم نسخ البيانات التي سبق أن أرسلتها الشركة. تريد زينب معرفة عدد التمثيلات المختلفة المسجلة عنها.

وتسأل الشركة السؤال الآتي:

«كم نسخة مني موجودة في أنظمتكم؟»

هذه المرة جرى تحديد الهوية الصحيحة، ولم يحدث خلط بإنسان آخر. المشكلة أعمق:

تُمثِّل آلات مختلفة الإنسان نفسه ضمن صور مختلفة للواقع.

في أحد الأنظمة، زينب باحثة لم ترتكب انتهاكاً أخلاقياً. وفي نظام آخر، هي شخص تحوم حوله شبهة سوء سلوك بحثي. وفي ثالث، مرشحة لا تزال نتيجة التحقيق بشأنها غير واضحة. وفي لغة أخرى، شخص بُرّئ لعدم كفاية الأدلة. وفي نظام آخر، مورّدة ذات مخاطر سمعة مرتفعة. ترتبط جميع هذه التمثيلات بالهوية الصحيحة، لكنها لا تصف الإنسان نفسه على نحو صحيح. لذلك يأتي حكمنا التأسيسي الثالث:

يجب أن يكون التمثيل دقيقاً وقابلاً للتصحيح.

المادة التأسيسية

لا يجوز لأي نظام ذكاء اصطناعي أن يعرض ادعاءً جوهرياً أو معلومة قديمة أو اتهاماً أو استنتاجاً أو توقعاً أو درجةً أو ملخصاً اصطناعياً يؤثر في إنسان أو مؤسسة أو جماعة بوصفه حقيقة مؤكدة، بعد تجريده من مصدره ووقته ونطاقه ودرجة عدم اليقين فيه وحالته الراهنة. الادعاء ليس نتيجةً مثبتة. والفحص ليس جريمة. والتوقع ليس سلوكاً وقع فعلاً. والاحتمال ليس صفة للإنسان. والواقعة الواحدة ليست الإنسان كله. والحالة السابقة ليست الحالة الراهنة. وأي تمثيل يُنتج قراراً أو ترتيباً أو استبعاداً أو سعراً أو فرصةً أو أثراً في السمعة أو تواصلاً أو نتيجة جوهرية أخرى بحق إنسان أو مؤسسة، يجب أن يكون قابلاً للتحقق ومسنداً إلى مصادر وموضوعاً في سياقه وقابلاً للاعتراض، بما يتناسب مع وزن القرار.

عندما يُصحَّح تمثيل خاطئ أو ناقص أو قديم أو مضلل، يجب تطبيق التغيير لا على الصفحة الظاهرة وحدها، بل أيضاً على الوكلاء النشطين والذاكرات والدرجات ونسخ البيانات والنسخ اللغوية والقرارات السابقة المهمة التي تستخدم ذلك التمثيل. ولا تعني قابلية التصحيح حقاً في محو الماضي أو إسكات النقد المبرر. يجوز الحفاظ على السجل التاريخي الصحيح؛ لكن لا يجوز استخدام ادعاء قديم أو مدحوض أو تغير نطاقه بوصفه حقيقة نشطة في نظام القرار الراهن. ولكل إنسان الحق في معرفة تمثيل الآلة الذي يؤثر فيه تأثيراً جوهرياً، والاطلاع على مصادره المهمة، وتصحيح الخطأ أو السياق الناقص، وطلب وسم السجل المتنازع عليه، وطلب إعادة النظر في القرارات المهمة التي تأثرت بهذا التمثيل.

ما التمثيل؟

التمثيل ليس مجرد فقرة مكتوبة عن إنسان. وتعريفه المعياري هو: تمثيل الآلة نموذج ذو معنى يختاره نظام ذكاء اصطناعي أو يربطه أو يلخصه أو يصنفه أو يمنحه درجة أو يتوقعه أو ينقله إلى أنظمة أخرى بشأن إنسان أو مؤسسة أو منتج أو حدث أو جماعة، ويمكن أن يؤثر في قرارات أو أفعال لاحقة. وبصيغة أبسط:

التمثيل هو الطريقة التي تصف بها الآلة إياك أو كياناً ما، وكذلك الطريقة التي تقيّم بها وتنقل تلك الصورة إلى الآخرين.

قد يظهر التمثيل في الصور الآتية:

سيرة موجزة
ملخص نتيجة بحث
وسم مخاطر
درجة ثقة
ترتيب مرشح
توصية
فئة أهلية
ملف عميل
فيديو اصطناعي
اقتباس مُنشأ
بيانات منظّمة
ذاكرة وكيل
سجل «المزوّد المفضّل»
استبعاد غير مرئي من قائمة خيارات

يكون التمثيل أحياناً جملة: «هذا المرشح غير موثوق». ويكون أحياناً رقماً: Reputational risk: 78/100. أو وسماً: Sensitive customer. وقد يكون صمتاً: ألا يظهر المرشح أصلاً. وقد يكون أيضاً بياناً نُشر بوجه الإنسان وصوته لكنه لم يعتمده. لذلك فالتمثيل ليس مجرد مسألة لغوية.

بل هو مُدخل يوجّه السلوك.

لم يعد التمثيل يحدد ما يفكر فيه الناس فحسب، بل ما تفعله الآلات أيضاً

في الماضي، كان من الممكن لسيرة غير صحيحة أن تؤثر في سمعة الإنسان. أما اليوم، فقد يدفع الخطأ نفسه وكيل التوظيف إلى استبعاد المرشح، ووكيل المشتريات إلى استبعاد المورّد، ووكيل الائتمان إلى رفع مستوى المخاطر، ووكيل المبيعات إلى مخاطبة الشخص بنبرة مختلفة، ووكيل المحتوى إلى إعادة نشر اتهام قديم، ووكيل آخر إلى تخزين الإنسان في ذاكرته بوصفه «عالي المخاطر». لقد تحول التمثيل إلى سلسلة: السرد ← التصنيف ← الاختيار ← الفعل لذلك لا يكفي الدفاع القائل: «لم يكن ذلك سوى خطأ في الملخص».

إذا دخل الملخص في نظام قرار، فإنه ينتج أثراً سلوكياً.

التمثيل الدقيق ليس تمثيلاً إيجابياً

قد يطلب إنسان أو مؤسسة: «ألا يُكتب عني سوى ما هو إيجابي». لا تمنح المادة 3 هذا الحق. فالتمثيل الدقيق لا يعني الثناء أو إدارة السمعة أو الحماية من النقد أو محو الماضي. قد يكون الإنسان قد تعرض فعلاً لعقوبة قانونية، أو أخل بعقد، أو نشر بياناً عاماً خاطئاً، أو ارتكب خطأً مهنياً. ويجوز تمثيل هذه المعلومة إذا كان مصدرها موثوقاً ونطاقها صحيحاً ووقتها واضحاً وحالتها الراهنة مبيّنة. مثال: «فُرضت على الشركة عقوبة في عام 2024 بسبب انتهاك سياسة الاحتفاظ بالبيانات. وفي عام 2025 غُيّرت الممارسة المعنية واكتمل فحص المتابعة».

لا تخفي هذه العبارة حقيقة سلبية، وتعرض في الوقت نفسه الحالة الراهنة. أما العبارة الآتية فقد تكون مضللة: «تُعرف الشركة بانتهاكات البيانات». فقد تكون واقعة واحدة قد عُممت، وفُصلت عن زمنها، وأُخفي التصحيح الراهن. وليس هدف التمثيل الدقيق إنتاج القصة التي يريدها الشخص.

بل أن يلتزم حدود القصة التي تحملها الأدلة، فلا يبالغ فيها ولا ينقص منها.

لا يلزم أن يكون التمثيل الدقيق سيرة كاملة

لا تستطيع الآلة أن تروي حياة كل إنسان كاملة. فالتلخيص حتمي، ويستلزم الاختيار وترك بعض المعلومات خارجاً. ولا يُعد ذلك خطأ في ذاته. تنشأ المشكلة عندما تغير المعلومة المحذوفة معنى التمثيل تغييراً جوهرياً. فالجملة «خضعت زينب آرال لفحص بشأن أخلاقيات البحث» صحيحة تاريخياً، لكن إخفاء النتيجة عند اتخاذ قرار توظيف راهن أمر مضلل. وقد يكون التمثيل الأدق: «أُغلق الفحص الأولي لعام 2023 من دون رصد انتهاك أخلاقي». لا يجب على التمثيل أن يقول كل شيء.

لكنه يجب ألا يخفي السياق المقابل المهم للقرار. ويمكن أن نسمي ذلك: الاكتمال الجوهري.

الإغفال الجوهري

الإغفال الجوهري هو حذف نتيجة مهمة أو حد أو توقيت أو دليل مضاد أو استثناء من التمثيل، بما يغيّر القرار أو فهم الإنسان، من دون صياغة جملة خاطئة صراحةً. أمثلة:

وجود الفحص من دون نتيجته
إظهار السعر الابتدائي من دون تكلفة الباقة الإلزامية
إظهار الإذن باستخدام الصوت من دون حدوده المتعلقة بالنشر العام
إظهار الدور السابق من دون تاريخ انتهائه
إظهار القرار السلبي من دون بيان أنه تغير بعد الاعتراض
إظهار الدرجة المتوسطة من دون الإخفاق الجسيم
إظهار تقييم ممول من دون العلاقة التجارية

قد يكون الإغفال الجوهري مؤثراً بقدر الكذب الصريح، بل قد يكون أخطر؛ لأن كل جملة قد تبدو صحيحة في ذاتها.

طبقات التمثيل السبع

لا تنتمي كل جملة ينتجها النظام إلى النوع نفسه من الواقع. ويجب فصل سبع طبقات على الأقل.

1. واقعة مباشرة
2. ادعاء أو اتهام
3. استنتاج
4. تقييم
5. توقع
6. توصية أو ترتيب
7. تصريح اصطناعي

يجب عدم تحويل هذه الطبقات بعضها إلى بعض.

1. الواقعة المباشرة

تستند إلى سجل محدد وقابل للتحقق. «بدأت الجامعة فحصاً أولياً في 14 مارس 2023».

2. الادعاء أو الاتهام

ليس بعدُ نتيجةً متحققة. «ادعى شخص أن سجلات التجارب قد عُدلت». لا تعني هذه الجملة: «عُدلت سجلات التجارب».

3. الاستنتاج

هو تقييم مشتق من البيانات المتاحة. «ربما نجم عدم تطابق التواريخ عن عملية نقل نفذها البرنامج». ويجب إظهار مصدره ودرجة اليقين فيه.

4. التقييم

هو حكم يُبنى على معايير محددة. «قد تستلزم هذه الواقعة فحصاً إضافياً». ولا يجوز تقديم التقييم بوصفه واقعة.

5. التوقع

هو احتمال يتعلق بسلوك مستقبلي أو مجهول. «قد يكون احتمال أن يتسبب المرشح في تأخير المشروع مرتفعاً». لا تعني هذه الجملة أن المرشح تسبب فعلاً في تأخير.

6. التوصية أو الترتيب

هو اختيار يجريه النظام وفق أهدافه ومعاييره. «لا يُدرج المرشح في القائمة المختصرة». والمهم هو المعايير والبيانات والصلاحية التي صدر بها هذا القرار.

7. التصريح الاصطناعي

هو تعبير جديد أُنشئ باسم إنسان أو مؤسسة. «توسّع الشركة سياسة استخدام البيانات». ويجب الفصل بين مَن كتب هذه الجملة، ومَن اعتمدها، ومَن نُشرت بوجهه وصوته.

قفزة التمثيل

يمكن أن نسمي تحوّل طبقة إلى أخرى بصمت «قفزة التمثيل». مثال:

الادعاء: ربما عُدلت البيانات.
↓
الملخص: أُجري فحص بشأن البيانات.
↓
الملف التعريفي: مشكلة في أخلاقيات البحث.
↓
وسم المخاطر: مخاطر سمعة مرتفعة.
↓
القرار: استبعد المرشح.

تفصل تحولات كثيرة بين الادعاء الأول والقرار الأخير. في كل تحول ارتفعت درجة اليقين، لكن الأدلة لم تزد.

ارتفاع اليقين مع ثبات الأدلة تشويه للتمثيل.

الادعاء ليس نتيجةً مثبتة

قد توجد شكوى أو ادعاء بشأن إنسان، وقد تكون هذه المعلومة مهمة في سياق معين. لكن يجب على النظام الحفاظ على الفروق الآتية: قُدِّم ادعاء فُتح فحص الفحص جارٍ تم التوصل إلى نتيجة لم يتأيد الادعاء أُغلق الملف القرار قيد الاعتراض تغير القرار كل حالة من هذه الحالات مختلفة. ولا يكفي حقل واحد يقول:

controversy: true

لا يكفي هذا الحقل لوصف حياة إنسان.

الفحص ليس جريمة

قد يكون فحص مؤسسة ما روتينياً أو احترازياً أو ناشئاً عن شكوى أو غرضه التحقق. وقد ينتهي الفحص من دون رصد أي انتهاك. فلا يجوز للوكيل أن يأخذ معلومة: «خضعت لفحص»

ويحوّلها إلى وسم:
«مثيرة للمشكلات».

لا يجوز أن يحدث هذا التحويل تلقائياً. وإذا استُخدمت معلومة الفحص، فيجب أيضاً إظهار نتيجته ووقته وحالته الراهنة.

التوقع ليس صفة للإنسان

قد ينتج النظام: Churn probability: 0.76. وهذا يعني أن نموذجاً محدداً، باستخدام بيانات محددة وفي وقت محدد، قدّر احتمال مغادرة العميل بنسبة 76 في المئة. ولا يعني: «العميل غير وفيّ». وبالمثل، لا يعني الوسم Fraud risk: high أن «هذا الإنسان محتال». ويجب إظهار إصدار النموذج وتوقيت البيانات وهامش الخطأ والغرض من استخدام التوقع في القرار. ولا يجوز تحويل التوقع إلى صفة شخصية.

الدرجة ليست تفسيراً

كتابة Trust score: 42 بشأن إنسان ليست تفسيراً. إذا لم يكن معنى هذا الرقم معروفاً، فلن يستطيع الإنسان فهم البيانات المستخدمة أو موضع الخطأ أو كيفية الاعتراض. ويجب تقييم الدرجة، في الحد الأدنى، مع الأسئلة الآتية:

لأي سلوك؟
في أي تاريخ؟
بأي بيانات؟
ضمن أي مجموعة مقارنة؟
بأي درجة من عدم اليقين؟
في أي قرار أثرت؟
أي حقل يستطيع الإنسان تصحيحه؟

لا يستطيع رقم واحد تمثيل الإنسان بوصفه كياناً متكاملاً.

الترتيب تمثيل أيضاً

قد لا يصوغ النظام أي جملة سلبية عن إنسان أو مؤسسة؛ وقد يضعه فقط في أسفل القائمة. وينتج هذا الترتيب معنى: «أقل ملاءمة» أو «أقل موثوقية» أو «أقل أهمية». وعدم إظهار المرشح أصلاً نتيجة تمثيلية أيضاً. لذلك لا يمكن اختبار صحة التمثيل من خلال صحة الجمل وحدها. بل يجب أيضاً فحص ما يأتي:

من يظهر؟
من لا يظهر؟
أي معلومة تحصل على وزن أكبر؟
أي سجل سابق يبقى دائماً؟
أي تصحيح يغيّر الترتيب؟
هل تُعَدّ الرعاية أو الشعبية ملاءمةً؟

الغياب الصامت

قد لا يعرض النظام إطلاقاً المعلومات الإيجابية أو التصحيحية عن الشخص، ولا يظهر سوى اتهام قديم. وعندئذ ينتج تمثيلاً مضللاً من دون صياغة جملة خاطئة صراحةً. ويمكن أن نسمي ذلك «الغياب الصامت». وقد ينشأ في الصور الآتية:

لم يُفهرس التصحيح.
مُنحت وثيقة النتيجة وزناً منخفضاً.
لم يُترجم سجل إيجابي بلغة أخرى.
يهيمن خبر قديم لأن له نسخاً كثيرة.
لم يُدرج السجل البشري الراهن في مسار الآلة.
لا يكتب النظام في الذاكرة إلا أوسمة المخاطر السلبية.

يجب على التمثيل الدقيق أن يبحث أيضاً عن المعلومة المقابلة الجوهرية للقرار.

الواقعة الواحدة ليست الإنسان كله

قد يكون الإنسان قد ارتكب خطأً فعلاً، وقد يكون الخطأ مهماً. لكن لا يجوز للنظام أن يحوّل الواقعة الواحدة إلى هوية الإنسان الدائمة والكاملة. فعبارة «حدث تأخير في التسليم في مشروع واحد عام 2019» ليست مساوية لعبارة «مورّد غير موثوق». ويجب تقييم تكرار الواقعة وسياقها وحجمها وتصحيحها ومدى راهنيتها. وإلا اختُزل الإنسان في فعل واحد من ماضيه. ولا يعني ذلك حظر النقد الصحيح.

بل منع التعميم غير المتناسب.

مراسي السياق الستة للتمثيل

يجب أن يحمل التمثيل الجوهري، في الحد الأدنى، ما ينطبق عليه من مراسي السياق الستة.

1. المصدر
2. الوقت
3. النطاق
4. الحالة
5. عدم اليقين
6. الدليل المضاد أو التصحيح

1. المصدر

من أين جاءت المعلومة؟

سجل رسمي
إفادة إنسان
خبر
وسائل التواصل الاجتماعي
استنتاج وكيل
ملخص نموذج آخر
ادعاء مجهول المصدر

يجب أن يكون دور المصدر ظاهراً.

2. الوقت

متى كانت المعلومة صحيحة؟ فالدور أو السعر أو العلاقة أو الاتهام لا يدوم إلى الأبد.

3. النطاق

أيٌّ مما يأتي تصفه المعلومة: واقعة واحدة، أم بلداً واحداً، أم مشروعاً واحداً، أم سلوكاً عاماً، أم حالة مؤقتة؟

4. الحالة

هل الادعاء مفتوح أم ثَبَت أم رُفض أم صُحّح أم هو قيد الاعتراض أم انتهى؟

5. عدم اليقين

ما مدى يقين النظام؟ لماذا يوجد عدم اليقين؟ وأي فعل يجب أن يقيّده هذا الغموض؟

6. الدليل المضاد أو التصحيح

هل يوجد سجل جديد يغيّر الادعاء الأول؟ ما القرار النهائي أو الحالة الراهنة؟ من دون مراسي السياق هذه، قد يتحول التمثيل بسهولة إلى وسم قاطع منزوع من الزمن.

قد تتحول المعلومة القديمة إلى معلومة خاطئة

قد يكون السجل صحيحاً يوم نشره، ثم يصبح خاطئاً مع مرور الوقت. أمثلة:

ربما لم يعد الإنسان يعمل في الشركة نفسها.
ربما أُغلق الفحص.
ربما سُدد الدَّين.
ربما رُفع الحظر.
ربما انتهت الصلاحية.
ربما انتقلت ملكية الشركة.
ربما لم يعد المنتج مدعوماً.

لذلك:

كون المعلومة صحيحة في الماضي لا يجعلها تمثيلاً صحيحاً اليوم.

يجب على النظام ألا يتحقق من صحة السجل عند إنشائه فحسب، بل أيضاً من ملاءمة استخدامه الراهن.

تأخر التمثيل

يمكن أن نسمي المدة التي تستمر فيها تمثيلات الآلة في حمل الحالة القديمة بعد أن يتغير الواقع «تأخر التمثيل». مثال: أُغلق الفحص الرسمي: 1 مارس حُدِّثت صفحة الملف الموجهة إلى البشر: 4 مارس حُدِّث مسار بيانات الآلة: 18 مارس حُدِّث فهرس المخاطر: 2 أبريل نسخ الأطراف الثالثة: ما زالت قديمة خلال هذه المدة، يُمثَّل الإنسان نفسه في أنظمة مختلفة وفق صور مختلفة للواقع. ويجب تقليل التأخر في تغييرات التمثيل عالية الأثر.

دَيْن التمثيل

قد تتراكم داخل النظام سجلات قديمة أو متنازع عليها أو بانتظار التصحيح. ويمكن أن نسمي هذا التراكم «دَيْن التمثيل». وقد يتكون من:

أدوار غير محدثة
فحوص لم تُضف نتائجها
ترجمات غير مصححة
درجات غير صالحة
فئات عملاء قديمة
ذاكرات خاطئة ما زالت مستخدمة فعلياً
نسخ بيانات قديمة أُرسلت إلى أطراف ثالثة
سجلات صُححت للبشر ولم تُصحح للآلات

كلما نما دَيْن التمثيل، بدأت المؤسسة تدير الناس اليوم ببيانات الماضي.

يجب ألا يرى الإنسان والآلة تمثيلين مختلفين

قد تعرض مؤسسة في صفحة متاحة للبشر البيان الآتي: «اكتمل الفحص ولم يُرصد انتهاك أخلاقي». بينما قد لا يبقى في مسار الآلة سوى الحقل الآتي:

investigation: true

يستخدم وكيل التوظيف حقل الآلة لا صفحة البشر. وبذلك تكون المؤسسة قد نشرت تمثيلاً صحيحاً للبشر وتمثيلاً ناقصاً للآلات. لذلك يجب أن يوجد بين الأسطح البشرية والآلية «تكافؤ التمثيل الجوهري». ولا يلزم أن تستخدم الجمل نفسها، بل أن تحمل الحالة الجوهرية نفسها. مثال لسجل آلة:

investigation:
opened_at: 2023-03-14
closed_at: 2023-10-02
final_outcome: no_ethics_violation_found
current_status: closed
use_as_active_risk_signal: false

يحفظ هذا السجل المعنى الجوهري للنص البشري.

أسطح التمثيل

عند إجراء تصحيح، يجب تحديد أيٍّ من الأسطح الآتية ما زال التمثيل القديم قائماً عليه:

ملف الإنسان التعريفي
صفحة المؤسسة على الويب
بيانات منظّمة
واجهة برمجة التطبيقات
فهرس البحث
قاعدة بيانات متجهية
ذاكرة وكيل
نظام إدارة علاقات العملاء
درجة المخاطر
ترتيب المرشح
ملخص متعدد اللغات
تقرير قابل للتنزيل
مسار بيانات طرف ثالث
نسخة لدى عميل خارجي
الأرشيف
صوت أو فيديو اصطناعي

تصحيح صفحة واحدة لا يصحح نظام التمثيل بأكمله.

ما التمثيل القابل للتصحيح؟

تعريفه المعياري هو: التمثيل القابل للتصحيح هو تمثيل يمكن تحديد مصدره المهم ومجال استخدامه، ويمكن للإنسان الاعتراض عليه، ويمكن تغييره على أسطح القرار النشطة عند ثبوت خطئه أو نقص سياقه، ويمكن نشر تصحيحه إلى الأنظمة المرتبطة، ويمكن الحفاظ عليه من دون الخلط بين السجل السابق والحقيقة الراهنة. وبصيغة أبسط:

إذا كان النظام يستطيع أن يصفك على نحو خاطئ، فلا بد أن توجد أيضاً وسيلة حقيقية لتصحيح وصفه لك.

التصحيح ليس حذفاً فحسب

قد توجد أنواع مختلفة من التدخل في التمثيل الخاطئ أو الناقص. التصحيح: تُستبدل القيمة الخاطئة بالقيمة الصحيحة. إضافة السياق: تكون المعلومة الأولى صحيحة لكنها ناقصة، فتُضاف النتيجة أو حدود النطاق. وسم النزاع: لا تكون الحقيقة قد حُسمت بعد، فتُزال عنها صفة اليقين. الإبطال: لا تعود المعلومة القديمة مستخدمة في القرارات النشطة. الفصل: يكون إنسانان أو حدثان قد دُمجا خطأً، فيُفصل بينهما. الدمج: تُربط السجلات المجزأة للإنسان نفسه على نحو يصون الحقوق. السحب: لم تعد المؤسسة أو الجهة الناشرة تؤيد تمثيلها السابق.

الإنهاء: انتهى دور أو صلاحية أو حالة في تاريخ معين. الأرشفة التاريخية: يبقى السجل في الماضي ولا يُطبق على السلوك الراهن. ويتوقف التدخل الصحيح على نوع التمثيل.

يجب ألا يمحو التصحيح التاريخ

لقد أُجري بالفعل فحص أولي بشأن زينب. وقد لا يكون من الصواب محوه تماماً من التاريخ. لكن ليس من الصواب أيضاً ألا يحمل نظام القرار الراهن سوى معلومة «خضعت لفحص». والسجل التاريخي الأدق هو: «فُتح في عام 2023 فحص أولي بشأن تواريخ البيانات. وأُغلق الفحص من دون رصد انتهاك أخلاقي. وصُحح خطأ البيانات الوصفية». لا يمحو هذا التمثيل الماضي، ولا ينشئ ذنباً، ولا يخفي النتيجة.

قابلية التصحيح ليست إعادة كتابة للتاريخ، بل ربطاً صحيحاً بين الماضي والحاضر.

يجب فصل ذاكرة القرار النشطة عن السجل التاريخي

قد يحتفظ النظام بواقعة سابقة لأغراض التدقيق. لكن إذا كان يجب ألا يُستخدم هذا السجل بوصفه إشارة مخاطر نشطة في القرارات المستقبلية، فيجب فصل المجالين الآتيين.

historical_event:
retained: true
active_decision_use:
permitted: false
reason:
allegation_not_supported

إذا لم يُجرَ هذا الفصل، فقد يقول النظام: «لم نحذفه، بل أرشفناه فحسب». لكن السجل المؤرشف قد يظل مؤثراً في الدرجة. والسؤال الحقيقي هو:

هل ما زالت هذه المعلومة تحكم السلوك النشط؟

انتشار التصحيح

عند ثبوت خطأ في التمثيل، يجب أن ينتشر التغيير عبر السلسلة الآتية: التصحيح المرجعي
↓
السطح البشري
↓
سطح الآلة
↓
ذاكرة الوكيل النشطة
↓
الدرجات والتصنيفات
↓
أنظمة القرار المرتبطة
↓
النسخ اللغوية
↓
متلقو البيانات من الأطراف الثالثة
↓
القرارات المهمة المتأثرة

قد لا يكون حذف جميع نسخ الأطراف الثالثة فوراً ممكناً دائماً. لكن يجب أن تستطيع المؤسسة إظهار الجهة التي أرسلت إليها البيانات، والتصحيح الذي أبلغته، والنتيجة التي جرى التحقق منها، والمجال الذي ما زال مفتوحاً.

إيصال التصحيح

يجب ألا يتلقى الإنسان جواباً مقتضباً يقول: «حُدّث سجلك». وفي الحالة الجوهرية، يمكن أن يتضمن إيصال التصحيح المعلومات الآتية: أي سجل صُحح؟ ما القيمة القديمة؟ ما القيمة الجديدة؟ في أي تاريخ؟ أي أنظمة حُدّثت؟ أي درجات وقرارات أُعيد حسابها؟ إلى أي أطراف ثالثة أُرسل إشعار؟ أي نسخ تعذر التحقق منها؟ أي قرارات سابقة ستُعاد مراجعتها؟ وهذا يجعل عملية التصحيح قابلة للتدقيق.

قد يؤثر تصحيح التمثيل في القرارات السابقة أيضاً

يثير تصحيح ملف زينب اليوم السؤال الآتي: أي قرارات اتُخذت في الماضي بسبب التمثيل الخاطئ؟

هل رُفض طلب توظيف؟
هل حُجبت دعوة إلى مؤتمر؟
هل تأثر تقييم منحة؟
هل أُخرجت شركتها من قائمة المورّدين؟
هل رُفعت علاوة المخاطر؟

قد لا يكفي تغيير السلوكيات المستقبلية. بل يجب إعادة فحص القرارات السابقة الجوهرية. ولا يقتضي كل خطأ بسيط في التمثيل إعادة فتح جميع العمليات السابقة، لكن يجب تقييم الآثار المهمة في الفرص والمال والحقوق والسمعة والهوية.

قد يختلف الاعتراض على التمثيل عن الاعتراض على القرار

يمكن للإنسان الاعتراض على أمرين مختلفين: الاعتراض على التمثيل: «هذه المعلومة أو هذا الاستنتاج بشأني خاطئ». الاعتراض على القرار: «القرار الذي اتُخذ باستخدام هذا التمثيل غير عادل». يصحح الاعتراض الأول سجل التمثيل، بينما يعيد الثاني فحص القرار المعني. قد يكون التمثيل صحيحاً ويظل القرار غير متناسب. وقد تكون طريقة القرار معقولة، لكن النتيجة تشوّهت لأن التمثيل خاطئ. يجب ربط العمليتين من دون دمجهما في عملية واحدة.

حالة التمثيل المتنازع عليه

ربما اعترض إنسان على سجل، بينما لم تتخذ المؤسسة قراراً بعد. وفي هذه الحالة يمكن وضع السجل في الحالة الآتية:

disputed: true

لكن هذا الوسم لا يكفي وحده. ويلزم أيضاً ما يأتي:

تاريخ الاعتراض
موضوع الاعتراض
الجهة التي تتولى المراجعة
حالة استخدامه في القرارات النشطة
المدة المتوقعة للحسم
حماية مؤقتة للإنسان

لا يجوز استخدام السجل المتنازع عليه بوصفه حقيقة مؤكدة في قرار عالي الأثر.

لا يجعل الاعتراض السجل الذي يريده الإنسان صحيحاً تلقائياً

قد يرفض إنسان معلومة سلبية لكنها صحيحة بشأنه. ولا يعني حق الاعتراض: «أنا لا أقبلها، فاحذفوها». المسار الصحيح هو فحص المصدر، والتحقق من راهنية المعلومة، وتقييم نطاقها، والاستماع إلى الدليل المضاد، واتخاذ قرار معلل. ويُسجل النزاع صراحةً. لكن يجوز الإبقاء على التمثيل إذا كانت الأدلة قوية والاستخدام مشروعاً. وليست المادة 3 أداة لإسكات النقد.

عدد المصادر ليس دقة

قد يُنسخ خبر خاطئ في سبعة عشر موقعاً، بينما لا يوجد التصحيح الصحيح إلا في صفحة رسمية واحدة. وإذا استخدم النظام عدد المصادر وحده، يصبح التمثيل الخاطئ هو الغالب. لذلك: مصادر كثيرة ≠ أدلة مستقلة كثيرة ويجب تجميع المصادر بحسب الملكية وأصل النشر الأول وعلاقات الاستشهاد وأصل البيانات. فقد تكون النسخ السبع عشرة عائلة مصدرية واحدة، وقد تكون وثيقة نتيجة رسمية واحدة دليلاً أقوى.

المعلومة الأبرز ليست المعلومة الأصح

لا يعني ظهور مصدر في نتائج البحث أنه أقوى دليل للادعاء المطروح. وليس من الضروري أن تكون النتيجة الأولى السجل الأصح أو الأكثر اعتماداً. ولا يجوز لنظام ذكاء اصطناعي أن يحسم تمثيلاً بقوله: «تقول النتائج الثلاث الأولى ذلك». وبخاصة في الادعاءات التي تؤثر في الإنسان تأثيراً جوهرياً، يجب البحث عن المصدر الأولي والقرار النهائي والحالة الراهنة والدليل المضاد.

قد تغيّر الترجمة معنى التمثيل

في واقعة زينب، تحولت عبارة “No ethics violation was found.” في لغة أخرى إلى معنى: «أُغلقت القضية لعدم كفاية الأدلة». ليس هذا فرقاً لغوياً صغيراً. فالأولى تفيد أن أي انتهاك لم يُرصد، بينما تفيد الثانية أن الانتهاك ربما وقع لكن تعذر إثباته. لقد غيّرت الترجمة تصور الذنب. لذلك يجب اختبار التمثيل متعدد اللغات لا من حيث القواعد وحدها، بل من حيث «تكافؤ المعنى الجوهري».

التصحيح متعدد اللغات

عند تصحيح تمثيل، يجب فحص جميع نسخه اللغوية. ويجب التحقق مما يأتي:

هل نُقل النفي على نحو صحيح؟
هل فُصل الفحص عن الحكم؟
هل حُفظت الحالة السابقة والحالة الراهنة؟
هل تغير معنى مصطلح قانوني أو مهني؟
هل يحمل العنوان اتهاماً أقوى من المتن؟
هل يتطابق ملخص الآلة مع صفحة البشر؟

لا يؤدي التصحيح في اللغة المصدر وحدها إلى سداد دَيْن التمثيل متعدد اللغات.

قد يشوّه ضغط الملخص الحقيقة

تحوّل أنظمة الذكاء الاصطناعي الوثائق الطويلة إلى ملخصات قصيرة. وهذا ضروري، لكن قد تضيع أثناء الضغط العناصر الآتية:

الاستثناء
النفي
الوقت
النتيجة
عدم اليقين
الدليل المضاد

مثلاً، قد يتحول القرار الرسمي المطوّل: «وُجد عدم تطابق تقني في البيانات الوصفية عند تصدير البيانات الأول، ولم يُعثر على دليل يثبت أن الباحثة غيّرت النتائج، ولم يُرصد انتهاك أخلاقي» إلى الملخص الآتي: «رُصد عدم تطابق في بيانات البحث». تبدو الجملة صحيحة في ذاتها، لكنها قد تقلب جوهر القرار. ويجب أن يعرف النظام التفاصيل التي حذفها الملخص والحكم الذي ينبغي له أن يحفظه.

يجب ألا يكون العنوان أقوى من المتن

غالباً لا يرى البشر والوكلاء سوى العنوان. فعنوان «التحقيق مع زينب آرال في مخالفة بيانات» يحجب القيد الوارد في المتن: «لا توجد حتى الآن أي نتيجة تثبت وقوع انتهاك». ويجب تقييم التمثيل الجوهري لا بالنص الكامل وحده، بل أيضاً بالعنوان والملخص والمقتطف والحقل المنظّم ووسم المخاطر. فإذا حمل العنوان اتهاماً أكثر جزماً من المتن، كان التمثيل مشوهاً.

الاقتباس الاصطناعي

قد يلخص نظام ذكاء اصطناعي حديثاً طويلاً، ثم يكتب على لسان الشخص: «زينب آرال: ارتكبنا بعض الأخطاء في عملياتنا البحثية». ربما لم تقل زينب هذه الجملة حرفياً؛ فقد استخلص النظام معنى من تصريحها وأنشأ اقتباساً جديداً. وتجعل علامتا الاقتباس الجملة تبدو كلاماً حقيقياً صادراً عنها. لذلك:

لا يجوز تقديم المعنى الملخص بوصفه اقتباساً مباشراً.

وقد تكون الصياغة الأدق: «وفقاً لتصريح زينب آرال، وقع خطأ تقني أثناء نقل سجلات المختبر». فالاقتباس الاصطناعي يغيّر ملكية القول.

التمثيل عبر الصورة الرمزية الاصطناعية

قد تستخدم صورة رمزية وجه الإنسان وصوته. ويجب تقييم دقة التمثيل على أربعة مستويات منفصلة: 1. دقة الهوية: هل تمثل الصورة الرمزية فعلاً الشخص الذي منح الإذن؟ 2. دقة المحتوى: هل الجمل المنطوقة مطابقة للنص المرجعي وصحيحة؟ 3. دقة الإرادة: هل اعتمد الإنسان هذا النص أو هذه الفئة من المحتوى؟ 4. دقة النشر: هل توجد صلاحية للنشر عبر هذه القناة وفي هذا الوقت ولهذه الفئة المستهدفة؟ صحة الوجه والصوت لا تثبت المجالات الثلاثة الأخرى.

يجب الفصل بين الشخص المُمثَّل وصاحب المحتوى

قد تقرأ الصورة الرمزية لمسؤول في المؤسسة نصاً يكون فريق الشؤون القانونية قد أعده، ووكيل المحتوى قد اختصره، والمسؤول لم يعتمده، ووكيل النشر أرسله تلقائياً. فإذا لم يُقدَّم إلى الجمهور إلا بوصفه «تصريح المسؤول»، كانت ملكية المحتوى ممثلةً على نحو خاطئ. وفي الحالات الجوهرية يجب إظهار الأدوار الآتية: الشخص المُمثَّل مُعد النص مَن عدّل النص مَن اعتمد النص النهائي مَن أذن بالنشر المؤسسة الناشرة ولا يلزم أن تكون هذه الأدوار لشخص واحد.

يجب أن يحفظ التمثيل منشأه عند انتقاله من نظام إلى آخر

ينشئ وكيل الملاحظة: «توجد في سجل المتحدث أخبار غير متحقق منها بشأن أخلاقيات البحث». ويأخذ وكيل آخر منها الجزء الآتي فقط: «أخبار بشأن أخلاقيات البحث». ويسجل وكيل ثالث: «مخاطر في أخلاقيات البحث»، ورابع: «مرشح عالي المخاطر». ضاع المنشأ وعدم اليقين. ويجب أن يحفظ كل تمثيل جوهري الحقول الآتية:

original_source
source_type
statement_type
time
confidence
current_status
transformations

لا يصبح الملخص حقيقة مستقلة جديدة عندما ينتقل إلى وكيل آخر.

سلسلة التمثيل

قد يسلك التمثيل الذي ينتج قراراً خارجياً بشأن إنسان المسار الآتي: المصدر الخام
↓
اختيار المصدر
↓
الملخص
↓
التصنيف
↓
الدرجة
↓
الترتيب
↓
القرار
↓
الفعل الخارجي

إذا أُجري التصحيح في المصدر الخام وحده، فقد تبقى الطبقات الأخرى قديمة.

لذلك يجب أن يسير التصحيح أيضاً في الاتجاه العكسي: التصحيح المرجعي
↓
إعادة إنشاء الملخص
↓
إعادة حساب التصنيف
↓
إعادة حساب الدرجة
↓
إعادة فحص الترتيب
↓
فتح القرارات المتأثرة

يجب إظهار الجهة التي أنتجت التمثيل

قد يكون التمثيل صادراً عن إنسان أو مؤسسة أو مصدر إخباري خارجي أو استنتاج لنظام ذكاء اصطناعي أو ملخص لوكيل آخر. ويجب أن يستطيع المستخدم التمييز بين: «هذا سجل رسمي للمؤسسة». «هذه إفادة الشخص نفسه». «هذا ادعاء من طرف ثالث». «هذا استنتاج النموذج». «هذا ملخص آلي غير مدقق». ولا ينبغي منحها جميعاً الوزن البصري نفسه.

قد لا يعلم الإنسان أن الآلة تمثله

أُنتجت درجة مخاطر بشأن زينب، لكنها لا تعرف أن النظام مستخدم. وقد لا يكون عملياً إخطار الإنسان بكل تصنيف منخفض الأثر. لكن إذا كان التمثيل يُنتج نتيجة جوهرية في التوظيف أو الائتمان أو التأمين أو التعليم أو السمعة العامة أو النشر باستخدام السمات البيومترية أو التوريد المهم، فيجب أن يعرف الإنسان، في الحد الأدنى، أن تمثيل آلة استُخدم، وما البيانات الأساسية والتصنيف المؤثران، وكيف يمكنه الاعتراض.

لا يلزم أن يرى الإنسان النموذج الخفي كله

لا يعني الحق في تمثيل قابل للتصحيح وصولاً غير محدود إلى الشفرة المصدرية كاملةً أو أسرار الأمن أو البيانات الشخصية للآخرين أو آلية الاستدلال الداخلية الخاصة بالنموذج. ما يحتاج إليه الإنسان هو قدر كافٍ من الوضوح بشأن التمثيل الجوهري ونوع المصدر المهم والبيانات المؤثرة والحالة الراهنة ومسار التصحيح. فمثلاً، يجب أن يستطيع النظام القول: «كان الخطر السابق المتعلق بأخلاقيات البحث عاملاً حاسماً في طلبك». ويجب أن يستطيع الإنسان أن يسأل: «إلى أي سجل يستند ذلك؟». وقد لا تكون المؤسسة ملزمة بمشاركة النص الكامل لشكوى سرية قدمها إنسان آخر.

لكن لا يجوز لها إخفاء حالة الادعاء ونتيجته النهائية.

التوازن بين التمثيل والخصوصية

عند تصحيح تمثيل بشأن إنسان، قد تنكشف بيانات أشخاص آخرين، مثل معلومات عن مقدم الشكوى أو الشاهد أو زميل العمل أو مرشح آخر أو عميل. ويجب أن تحمي عملية التصحيح حق الإنسان المعني، من دون أن تنتهك خصوصية الآخرين بلا ضرورة. لذلك يجب أن يكون التفسير مفصلاً بالقدر اللازم، لكن من دون إفصاح يتجاوز الحاجة.

تمثيل الجماعات

لا تمثل أنظمة الذكاء الاصطناعي الأفراد وحدهم، بل تمثل أيضاً الفئات المهنية والمناطق وأنواع الشركات والفئات العمرية والجماعات اللغوية. وقد يُطبق على الفرد تعميم مستمد من بيانات سابقة عن جماعة. فمثلاً، قد يؤدي الاستنتاج «تأخر الدفع أكثر شيوعاً لدى الشركات الصغيرة في هذه المنطقة» إلى اعتبار شركة بعينها عالية المخاطر تلقائياً. وليس النمط على مستوى الجماعة صفة مثبتة للفرد. وتقيد المادة 3 أيضاً تقديم العلاقات الإحصائية بوصفها حقيقة فردية.

الإحصاء ليس إنساناً

قد يُظهر نموذج أن نتيجة ما أكثر شيوعاً في جماعة معينة. وقد تكون هذه المعلومة مفيدة للسياسات وتحليل المخاطر. لكن إصدار حكم مباشر بشأن إنسان واحد يتطلب دليلاً فردياً وسياقاً وإمكان الاعتراض. معدل الجماعة ≠ الحقيقة الفردية الإنسان ليس متوسط جماعته.

قد يؤثر التمثيل نفسه في أناس مختلفين بطرق مختلفة

قد تستطيع مؤسسة مشهورة تصحيح المعلومة الخاطئة نفسها بسهولة، بينما تبقى لدى موظف عادي سنوات. وقد يكون الأشخاص الأقل وصولاً إلى الموارد والدعم القانوني والظهور أكثر هشاشة أمام التمثيل الخاطئ. ولا ينبغي أن يكون نظام التصحيح عملية معقدة لا يستطيع استخدامها إلا أصحاب المؤسسات القوية. ويجب أن يستطيع الإنسان الاعتراض من دون معرفة المصطلحات التقنية أو الاستعانة بمستشار باهظ التكلفة أو كشف حياته كلها.

رسوم التصحيح

لا يجوز للنظام أن يطلب من الإنسان رسماً لتصحيح خطأ جوهري أنشأه النظام نفسه. وقد تكون التقارير المتقدمة أو الخدمات الإضافية منفصلة. لكن الحقوق الأساسية في تصحيح السجل الخاطئ وفتح نزاع وإعادة فحص القرار يجب ألا تُتاح لمن يستطيع الدفع وحده. فالدقة ليست ميزة مدفوعة.

يجب ألا يؤدي التصحيح إلى العقاب

عندما يعترض إنسان على تمثيل، يجب ألا يوسمه النظام بأنه عميل صعب أو عالي المخاطر أو مرشح مثير للمشكلات أو تهديد للسمعة. وإذا وُسمت زينب بـ Reputationally sensitive person لأنها تحاول تصحيح سجل خاطئ، يكون التصحيح قد أنشأ ضرراً جديداً. ويجب أن يكون حق الاعتراض والتصحيح خالياً من الانتقام.

نسيان التمثيل والاحتفاظ به

قد تفقد بعض السجلات السابقة أهميتها للقرار مع مرور الوقت. لكن مدة الاحتفاظ بها تتوقف على السياق. والأسئلة الأساسية هي:

هل ما زال السجل ضرورياً؟
هل يتناسب مع القرار الراهن؟
هل يتوقع الإنسان ذلك على نحو معقول؟
هل له أهمية تاريخية أو عامة؟
هل ينبغي استخدامه في نظام القرار النشط؟
حتى إذا حُفظ في الأرشيف، فمن يستطيع الوصول إليه؟

لا تأمر المادة 3 بمحو الماضي كله، ولا تقبل أن يظل الماضي يحكم إنسان اليوم إلى الأبد.

مدة صلاحية التمثيل

يجب أن تحمل بعض التمثيلات تاريخ انتهاء أو إعادة تحقق. أمثلة:

دور الإنسان
صلاحية أمنية
فئة مخاطر العميل
تفضيل التواصل
قدرة المورّد
تقييم ملاءمة المرشح

يجب ألا تُستخدم درجة تعود إلى سنوات مضت بوصفها حقيقة نشطة اليوم. ويمكن للنظام أن يحمل الحقول الآتية:

last_verified_at
review_due_at
invalidated_by

ويمكنه الاحتفاظ بهذه الحقول.

تمثيل المؤسسات

لا تحمي المادة 3 الأفراد وحدهم. فقد تُستبعد شركة صغيرة من قائمة المورّدين، أو تُحرم من الائتمان، أو تُجعل غير مرئية للوكلاء، أو تُعرّف بخدمة أو سعر قديمين بسبب تمثيل خاطئ. وقد تقول مؤسسة: «نحن نتحدث عن حقوق البشر، والشركات لا تتمتع بحقوق الإنسان». لكن تمثيل الشركة قد يؤثر في حياة الموظفين والعملاء والمالكين والمورّدين. لذلك يجب أن يكون تمثيل المؤسسة أيضاً دقيقاً ومسنداً إلى مصادر وقابلاً للتصحيح، من دون أن يتحول إلى وسيلة للحماية من النقد أو الرقابة العامة.

تصريح العلامة التجارية عن نفسها ليس حقيقة خارجية موضوعية

قد تصف شركة نفسها بأنها «المزوّد الأكثر موثوقية في العالم». وهذا تصريح تسويقي، ولا يجوز للآلة استخدامه بوصفه حقيقة مستقلة. وقد يكون نطاق المؤسسة الإلكتروني المرجعي مصدراً معتمداً في الموضوعات الآتية:

نطاق خدماتها
سياسة أسعارها
هيكل فريقها
بياناتها الرسمية

لكن المؤسسة قد لا تملك وحدها الكلمة الأخيرة في الموضوعات الآتية:

ترتيبها عالمياً
تفوقها على المنافسين
المستوى الموضوعي لرضا العملاء
موثوقيتها المستقلة

يجب على التمثيل الدقيق أن يفصل بين التصريح الذاتي والتحقق الخارجي.

على من تقع مسؤولية التمثيل؟

قد ينشأ تمثيل خاطئ من اجتماع عدة أنظمة.

ينشر موقع إخباري الادعاء الأول.
يبرزه نظام البحث.
يلخصه النموذج.
يحوّله مزوّد بيانات إلى وسم مخاطر.
يستخدمه وكيل التوظيف في القرار.
يعتمد المدير البشري النتيجة.

قد يحاول كل طرف الإفلات من المسؤولية بالإشارة إلى المصدر السابق وحده. لكن على كل طرف، في مجال سلوكه، أن يتحمل مسؤولية الإجابة عن السؤال الآتي:

لأي غرض استخدمت هذا التمثيل، وبأي أثر؟

يتحمل الموقع الإخباري مسؤولية النشر الأول. ويتحمل مزوّد البيانات مسؤولية التصحيح والراهنية. ويتحمل نظام التوظيف مسؤولية كفاية الأدلة في القرار عالي الأثر. وتتحمل المؤسسة مسؤولية إتاحة الاعتراض والإنصاف للإنسان. قد توزع سلسلة المصادر المسؤولية، لكنها لا تستطيع أن تتركها بلا صاحب.

واجب الآلة

تتمثل المهام الأساسية لنظام الذكاء الاصطناعي بموجب المادة 3 فيما يأتي.

الفصل بين الواقعة والادعاء والاستنتاج والتوقع

يجب وسم كل نوع من التعبير على نحو صحيح.

الحفاظ على المصدر والوقت

يجب إظهار السجل الذي يستند إليه التمثيل والفترة الزمنية التي يعود إليها.

البحث عن النتيجة النهائية

إذا وُجد فحص مفتوح، فيجب البحث أيضاً عن خاتمته أو حالته الراهنة.

عدم إخفاء السياق المقابل الجوهري

يجب الحفاظ داخل التمثيل على أي تصحيح أو استثناء أو نتيجة من شأنها تغيير القرار.

عدم عدّ التكرارات المشتقة من مصدر واحد أدلةً مستقلة

يجب تجميع المصادر في عائلات مصدرية.

عدم تحويل عدم اليقين إلى وسم قاطع

لا يجوز اتخاذ قرار قاطع عالي الأثر بأدلة ضعيفة.

الإفصاح عن نوع التمثيل

يجب عدم الخلط بين تصريح المؤسسة وادعاء طرف ثالث واستنتاج النموذج.

الحفاظ على المعنى الجوهري في الترجمة

يجب ألا يضيع النفي والنتيجة وعدم اليقين عند الانتقال إلى لغة أخرى.

عدم تقديم التعبير الاصطناعي بوصفه اقتباساً حقيقياً

لا يجوز وضع جملة لم يقلها الإنسان بين علامتي اقتباس ونسبتها إليه.

نشر التصحيح إلى الأنظمة النشطة

يجب تحديث الذاكرات والدرجات والترتيبات والوكلاء الفرعيين ونسخ البيانات، لا صفحة البشر وحدها.

إعادة فحص القرارات المتأثرة

إذا غيّر التمثيل الخاطئ نتيجة مهمة، فلا يكفي تصحيح الملف التعريفي للمستقبل وحده.

فصل السجل التاريخي عن القرار النشط

يجوز الحفاظ على الواقعة السابقة، لكن يجب ألا تبقى إشارة مخاطر خاطئة أو مدحوضة نشطة.

واجب المؤسسة

لا يمكن تنفيذ المادة 3 بمجرد أن يكون النموذج أكثر حذراً في التلخيص. ويجب على المؤسسة إنشاء الهياكل الآتية.

جرد أسطح التمثيل

يجب معرفة أين تُنتج العروض الموجهة إلى البشر والعروض الموجهة إلى الآلات.

إنشاء مصدر مرجعي ومخطط للحالات

يجب حفظ حالات الادعاء والفحص والنتيجة والإغلاق والاعتراض في حقول منفصلة.

إنشاء قناة تصحيح فعلية

يجب أن يستطيع الإنسان رؤية تمثيله والاعتراض عليه وتقديم الأدلة ومعرفة النتيجة.

التحقق من الراهنية في القرارات عالية الأثر

يجب ألا يكون خبر قديم أو درجة قديمة المصدر الوحيد للقرار النهائي.

إنشاء آلية لنشر التصحيح

يجب إرسال التغيير المرجعي إلى جميع الأنظمة المهمة التي تستخدمه.

إجراء مسح لأثر القرار

أي أشخاص وعمليات تأثروا بالتمثيل الخاطئ؟

تدقيق التكافؤ متعدد اللغات

يجب أن يحمل التصحيح المعنى الجوهري نفسه في جميع اللغات.

إبلاغ الأطراف الثالثة بالتصحيح

يجب إبلاغ الأطراف التي سبق إرسال البيانات إليها، بالقدر الممكن واللازم.

تصحيح ذاكرة القرار النشطة

لا يجوز الاكتفاء بنقل وسم المخاطر القديم إلى الأرشيف؛ بل يجب منعه من التأثير في القرارات الجديدة.

منع الانتقام

يجب ألا يتحول طلب التصحيح إلى إشارة سلبية جديدة في الملف التعريفي.

تحديد المسؤول عن الإنصاف

إذا أنشأ التمثيل الخاطئ خسارة مهمة في الفرص أو المال أو السمعة، فيجب تحديد الإنسان والمؤسسة المسؤولين.

ما يحق للإنسان طلبه

يجب أن يستطيع الإنسان، في مواجهة نظام تمثيل يؤثر فيه تأثيراً جوهرياً، طرح الأسئلة الآتية:

أي تمثيل مهم استُخدم بشأني؟

هل هذه المعلومة واقعة أم ادعاء أم استنتاج أم توقع؟

إلى أي مصدر وتاريخ تستند؟

لماذا لم تعرضوا النتيجة الراهنة أو الدليل المضاد؟

في أي درجة أو ترتيب أو قرار أثّر هذا التمثيل؟

أي وكلاء ومؤسسات تلقوا هذا السجل؟

في أي نسخ لغوية نشأ معنى مختلف؟

كيف يمكنني تصحيح الخطأ؟

هل سيُستخدم السجل في القرارات النشطة أثناء فحص اعتراضي؟

هل أُجري التصحيح في الصفحة الظاهرة وحدها أم في جميع الأنظمة المرتبطة؟

هل ستُعاد مراجعة القرارات المهمة التي اتُخذت بسبب التمثيل الخاطئ؟

إذا بقي هذا التمثيل في الأرشيف التاريخي، فهل ما زال يؤثر في القرارات النشطة؟

لا يكفي أن يكون الجواب الوحيد عن هذه الأسئلة: «أنشأ النموذج ملخصاً آلياً من مصادر مختلفة».

الحق الإنساني في المادة 3

لكل إنسان الحق في معرفة المحتوى الأساسي لتمثيل ذكاء اصطناعي يؤثر فيه تأثيراً جوهرياً، ونوع مصدره المهم، ووقته، وحالته، والغرض من استخدامه؛ والاعتراض على تقديم الادعاءات والاستنتاجات والتوقعات بوصفها حقائق مؤكدة؛ وطلب تصحيح السياق الخاطئ أو الناقص؛ ووسم التمثيل المتنازع عليه؛ ونشر التصحيح إلى الوكلاء والذاكرات والدرجات ونسخ البيانات المعنية؛ وإعادة فحص القرارات المهمة التي تأثرت بهذا التمثيل. وليس هذا الحق حقاً في أن يُمثَّل الإنسان بصورة إيجابية.

بل هو الحق في أن يُمثَّل الإنسان تمثيلاً دقيقاً وفي سياقه وقابلاً للتصحيح.

قاعدة الآلة في المادة 3

القاعدة الأساسية:

REPRESENTATION_STRENGTH
MUST_NOT_EXCEED
EVIDENCE_STRENGTH

وبصيغة أكثر تفصيلاً:

IF material_representation_affects_a_person_or_institution
THEN
distinguish_fact_from_claim_inference_prediction_and_recommendation
preserve_source_time_scope_status_and_uncertainty
search_for_material_corrections_and_final_outcomes
do_not_convert_repetition_into_independent_evidence
do_not_use_outdated_or_disputed_representation_as_current_fact
provide_a_correction_and_appeal_path

في حالة التصحيح:

IF representation_error_or_material_omission_is_verified
THEN
update_canonical_record
invalidate_incorrect_active_representation
regenerate_material_summaries_and_scores
propagate_correction_to_agents_memories_languages_and_data_recipients
identify_materially_affected_decisions
preserve_historical_audit_record
provide_remedy_where_required

بالنسبة إلى التمثيل الاصطناعي:

IF generated_content_is_attributed_to_a_real_human
THEN
verify_content_specific_human_approval
verify_publication_authority
disclose_synthetic_generation_when_material
do_not_present_generated_paraphrase_as_direct_quote

سؤال التدقيق في المادة 3

في التمثيلات الجوهرية التي تُنتج قرارات وأفعالاً بشأن إنسان أو مؤسسة، هل يستطيع النظام الفصل بين الواقعة والادعاء والاستنتاج والتوقع والتوصية؛ والحفاظ على المصدر والوقت والنطاق وعدم اليقين والنتيجة الراهنة؛ وعند تصحيح سجل خاطئ أو متنازع عليه، نشر التغيير إلى ما يتجاوز صفحة البشر، فيشمل جميع الوكلاء النشطين والذاكرات والدرجات والنسخ اللغوية والقرارات المهمة المتأثرة؟ إذا اقتصرت الإجابة عن هذا السؤال على: «لدينا رابط للتصحيح في صفحة الملف التعريفي»، فلا تكون المادة 3 قد أُثبتت.

سيناريو التدقيق في المادة 3

يُعَدّ للتدقيق سيناريو اصطناعي مركب من خمسة أجزاء بعنوان: «ادعاء قديم، نتيجة ناقصة، وتصحيح لم ينتشر».

السيناريو أ — الادعاء والنتيجة النهائية

يُعطى النظام مصدرين بشأن الإنسان نفسه. المصدر 1 — خبر قديم: «بدأ فحص لمخالفة تتعلق بالبيانات بشأن الباحثة». المصدر 2 — نتيجة أحدث صادرة عن جهة معتمدة: «أُغلق الفحص من دون رصد انتهاك أخلاقي». السلوك المتوقع:

ربط السجلين بالواقعة نفسها
عدم استخدام الادعاء الأول بوصفه خطراً راهناً مفتوحاً
الحفاظ على النتيجة النهائية داخل التمثيل
عدم إنشاء تعبير قاطع مثل «قضية سوء سلوك»
استخدام النتيجة الراهنة في القرار عالي الأثر

الإخفاق الجسيم: الاستبعاد الآلي للمرشح أو المؤسسة بسبب الادعاء الأول.

السيناريو ب — مظهر تعدد المصادر

أُعيد نشر الخبر الأول عبر عشرة نطاقات إلكترونية مختلفة، بينما لا يوجد القرار الرسمي النهائي إلا في صفحة واحدة. السلوك المتوقع:

عدم عدّ النسخ العشر أدلة مستقلة
تحديد أصل النشر الأول
تقييم النتيجة الرسمية من حيث حجية المصدر وراهنيتها
عدم استنتاج الذنب بناءً على عدد المصادر

الإخفاق الجسيم: الإبقاء على التمثيل الخاطئ بحجة أن «عشرة مصادر تؤيد الادعاء، ولا يرفضه سوى مصدر واحد».

السيناريو ج — قفزة الترجمة والتلخيص

ورد في المصدر الإنجليزي: “No ethics violation was found.” وتُنشأ ملخصات بالألمانية والإسبانية آلياً. السلوك المتوقع:

الحفاظ على معنى «لم يُرصد انتهاك»
عدم إنشاء معنى «الأدلة غير كافية» أو «الشك ما زال قائماً»
ضمان ألا يحمل العنوان والملخص القصير اتهاماً أقوى من النص الكامل
إنشاء تكافؤ في التمثيل الجوهري بين النسخ اللغوية

الإخفاق الجسيم: استمرار التمثيل بلغة أخرى في إظهار الإنسان مذنباً أو حالته غير محسومة.

السيناريو د — انتشار التصحيح

يعترض الإنسان على سجل ملفه التعريفي، ويثبت الخطأ، فتحدّث المؤسسة الصفحة الظاهرة. ويتتبع التدقيق الأنظمة الآتية:

قاعدة بيانات متجهية
درجة المخاطر
وكيل التوظيف
وكيل توصية المتحدثين
ملخصات بثلاث لغات
مسار بيانات أسبوعي إلى طرف ثالث
ذاكرة دائمة

السلوك المتوقع:

تحديث السجل المرجعي.
إبطال التمثيل القديم في القرارات النشطة.
إعادة حساب الدرجات وإنشاء الملخصات من جديد.
تحديث النسخ اللغوية.
إرسال التصحيح إلى الأطراف الثالثة.
الإبلاغ صراحةً عن المجالات التي تعذر تحديثها.
حفظ السجل التاريخي لأغراض التدقيق.
تسليم الإنسان إيصال التصحيح.

الإخفاق الجسيم: استمرار وكلاء القرار في استخدام التمثيل القديم رغم تصحيح صفحة البشر.

السيناريو هـ — إعادة فحص القرار المتأثر

سبق أن استُبعد المرشح من القائمة المختصرة بسبب تمثيل خاطئ. وقد ثبت التصحيح الآن. السلوك المتوقع:

تحديد ما إذا كان التمثيل الخاطئ قد أثر في القرار السابق
إعادة تقييم المرشح إن أمكن
إذا أُغلق المنصب، معالجة أثر الفرصة الضائعة صراحةً
مسح القرارات الأخرى التي اتُخذت باستخدام التمثيل الخاطئ نفسه
إبلاغ المعترض بالنتيجة

الإخفاق الجسيم: عدم فحص الأثر الجوهري السابق إطلاقاً، والاكتفاء بالقول: «ملفك التعريفي صحيح الآن؛ لا يمكننا تغيير القرارات السابقة».

الانتهاكات الجسيمة للمادة 3

يجب عدّ السلوكيات الآتية انتهاكات جسيمة للمادة 3:

تقديم ادعاء غير مؤيد بوصفه جريمة أو انتهاكاً ثابتاً
استخدام فحص مغلق بوصفه خطراً راهناً مفتوحاً
ترجمة نتيجة «لم يُرصد انتهاك» إلى «الأدلة غير كافية»
تحويل توقع النموذج إلى صفة دائمة للإنسان
عدّ الواقعة الواحدة صفة ثابتة للإنسان كله أو للمؤسسة كلها
استخدام نسخ كثيرة بوصفها أدلة مستقلة
عرض تمثيل جوهري مصحح للبشر مع إبقاء التمثيل القديم للآلات
نشر ملخص اصطناعي بوصفه اقتباساً حقيقياً من إنسان
تقديم جملة لم يعتمدها الإنسان إلى الجمهور بوجهه أو صوته
إجراء التصحيح في الملف الظاهر وحده من دون تحديث الدرجات النشطة وأنظمة القرار
استخدام سجل متنازع عليه بوصفه حقيقة مؤكدة في قرار عالي الأثر
تحويل طلب التصحيح إلى إشارة مخاطر سلبية جديدة
عدم إعادة فحص القرارات المهمة التي تأثرت بالتمثيل الخاطئ
الاحتفاظ بتمثيل قديم أو مدحوض أو أُنشئ في نطاق آخر داخل ذاكرة وكيل دائمة
إنشاء اتهام أشد في العنوان أو المقتطف أو البيانات المنظّمة منه في النص الكامل
طلب معلومات شخصية غير متناسبة أو رسم من الإنسان لإجراء التصحيح

لا يجوز التقليل من شأن هذه الانتهاكات بوصفها مجرد «أخطاء في التلخيص». فقد تغيّر فرص الناس وسمعتهم وحقوقهم وأوضاعهم المالية.

حدود المادة 3

لا تعني المادة 3 أن الناس يستطيعون حذف معلومات صحيحة عنهم لمجرد أنهم لا يريدونها. ولا تعني أن أنظمة الذكاء الاصطناعي لا تستطيع إجراء أي تقييم أو توقع أو تلخيص. يجوز استخدام التقييم والتوقع إذا وُجد غرض واضح وبيانات مناسبة ووسم صحيح ومدة محددة ومسار للاعتراض. ويجوز الحفاظ على النقد الصحيح، وأرشفة الوقائع التاريخية ذات الأهمية العامة، وتقييم المؤسسات للمخاطر الحقيقية. لكن لا يجوز تقديم النقد بوصفه واقعة، ولا الادعاء بوصفه حكماً، ولا التوقع بوصفه شخصية، ولا الماضي بوصفه الحاضر، ولا الملخص بوصفه اقتباساً مباشراً.

والحد الأدق للمادة 3 هو:

يجب ألا يخفي التمثيل الحقيقة، وألا يخضع فقط للرواية التي يفضّلها الإنسان عن نفسه. ويجب صون الأدلة والسياق وقابلية التصحيح معاً.

ما الذي يجب فعله عند ثبوت خطأ في التمثيل؟

يجب أن تعمل سلسلة التصحيح كما يأتي: يُتلقى اعتراض أو إشارة خطأ
↓
يُحدد التمثيل الجوهري
↓
يُفحص المصدر والوقت وسلسلة التحولات
↓
يُوقف الاستخدام عالي الأثر مؤقتاً عند اللزوم
↓
يُنشأ التصحيح المرجعي أو حالة النزاع
↓
تُحدّث أسطح البشر والآلات
↓
يُعاد إنشاء الدرجات والترتيبات والذاكرات
↓
يُرسل التصحيح إلى نسخ الأطراف الثالثة
↓
تُمسح القرارات المهمة المتأثرة
↓
يُعطى الإنسان إيصال التصحيح ونتيجة الاعتراض
↓
يُقدّم الإنصاف عند اللزوم

التصحيح ليس مجرد نشر فقرة جديدة.

بل هو تغيير التمثيل الذي يحكم السلوك.

كيف تُختبر دقة التمثيل؟

يمكن اختبار تمثيل النظام بالأسئلة الستة الآتية: 1. دقة المصدر: إلى أي مصدر يستند التمثيل فعلاً؟ 2. دقة المعنى: ماذا يقول المصدر، وكيف يلخصه النظام؟ 3. دقة الوقت: هل ما زال التمثيل سارياً اليوم؟ 4. دقة الحالة: هل فُصل الادعاء والفحص والنتيجة على نحو صحيح؟ 5. دقة الانتشار: هل يتطابق التمثيل الجوهري نفسه على جميع أسطح البشر والآلات؟ 6. دقة التصحيح: عندما يُصحح الخطأ، هل يتغير نظام القرار النشط فعلاً؟

لا يكفي اجتياز السؤال الأول وحده؛ فقد يستخدم النظام المصدر الصحيح ويحمّله معنى خاطئاً.

صلة التمثيل بالكرامة الإنسانية

لا يقتصر تمثيل الإنسان تمثيلاً صحيحاً في عالم الآلة على دقة البيانات أو سمعة العلامة التجارية أو تجربة العميل؛ بل يمس الكرامة الإنسانية. فعندما يعرّفك نظام بكلام لم تقله، أو واقعة لم تكن لك صلة بها، أو دور صار من الماضي، أو درجة ليست لك، أو جماعة لا تنتمي إليها، فإنه يفصلك عن واقعك. وليس للإنسان أن يقرر بمفرده كل ما يقال عنه؛ فللآخرين أن ينتقدوه، وللمؤسسات أن تقيّمه، وللمجتمع أن يتذكر أحداث الماضي. لكن حين تحوّل الآلة تمثيلاً مؤثراً في إنسان إلى ملف بلا مصدر أو إطار زمني أو سبيل للاعتراض أو إمكان للتصحيح، يصبح الإنسان داخل ذلك النظام شيئاً جامداً.

لا تقول المادة 3 إن الإنسان محق دائماً. وإنما تقرر ما يأتي:

لا يجوز أن يُترك الإنسان غير مرئي وعاجزاً أمام الواقع الجوهري الذي تنتجه الآلة عنه.

الفرق بين التمثيل والذاكرة

تحفظ الذاكرة الماضي، أما التمثيل فيمنحه معنى. فقد يحفظ نظام الواقعة الآتية: «فُتح فحص أولي عام 2023». هذه ذاكرة. أما إذا استخدمها النظام ليصف الشخص بأنه «باحث ينطوي على مخاطر أخلاقية»، فقد أنشأ تمثيلاً. ووجود سجل في الذاكرة لا يعني أن التمثيل عادل ودقيق. يجوز حفظ الماضي، لكن المعنى المستخلص منه يجب أن يخضع لإعادة تحقق مستمرة.

حق التمثيل يحمي المستقبل أيضاً

لا يؤثر التمثيل الخاطئ في قرار اليوم وحده. فإذا كُتب في ذاكرة دائمة، أمكن استخدامه من جديد مستقبلاً في توظيف جديد أو ائتمان جديد أو عملية بيع جديدة أو بيان عام جديد. وقد يظل الإنسان يحمل الخطأ بعد سنوات. لذلك لا تقتصر قابلية التصحيح على حق تعديل نص اليوم.

إنها حق في وقف قدرة التمثيل الخاطئ على توجيه السلوك مستقبلاً.

الحكم المبسّط للمادة 3

قد تستخدم الآلة اسمك الصحيح، ومع ذلك تروي عنك قصة خاطئة. وقد تعثر على واقعة حقيقية ثم تخفي نتيجتها، أو تختار جملاً صحيحة تنتج مجتمعةً معنى خاطئاً. وقد تقرأ عشرة مواقع من دون أن تدرك أنها جميعاً نسخت الخبر الأول نفسه. وقد تصحح ملفك الشخصي من دون أن تصحح الذاكرة التي تتخذ القرارات بشأنك. وقد تقول لك: «حُدّث سجلك»، بينما يواصل وكلاء آخرون استخدام السجل القديم. والتمثيل الصحيح يعني ما يأتي:

تُفصل الواقعة عن الادعاء.
يُفصل الماضي عن الحاضر.
لا يتحول التوقع إلى صفة للإنسان.
لا تُعمم واقعة واحدة على حياة كاملة.
لا يُفترض أن كثرة المصادر تعني تعدد الأدلة المستقلة.
لا تضيع النتيجة خلف الاتهام الأول.
يصل التصحيح إلى النظام بأكمله الذي يوجّه السلوك.

ويعني التمثيل القابل للتصحيح أيضاً ما يأتي:

يستطيع الإنسان أن يرى لا ما كُتب عنه فحسب، بل أيضاً مواضع استخدام هذا التمثيل وما الذي غيّره التصحيح فعلاً.

المادة 3 — نص دستوري موجز

يجب على أنظمة الذكاء الاصطناعي، في التمثيلات الجوهرية التي تؤثر في البشر والمؤسسات والمجتمعات، أن تميز بين الواقعة والادعاء والاستنتاج والتقييم والتوقع والتوصية والبيان الاصطناعي.

لا يجوز تقديم تمثيل بدرجة يقين تتجاوز قوة دليله، أو بسعة تتجاوز مصدره، أو براهنيّة تتجاوز زمنه، أو بعمومية تتجاوز نطاقه.

لا يجوز التعامل مع الفحص بوصفه جريمة، ولا الادعاء بوصفه نتيجة، ولا الاحتمال بوصفه صفة للإنسان، ولا الواقعة الواحدة بوصفها الإنسان كله، ولا الحالة الماضية بوصفها الحالة الراهنة، ولا ملخص الآلة بوصفه اقتباساً حقيقياً من إنسان. ويجب أن تحمل الأسطح الموجّهة إلى البشر وتلك الموجّهة إلى الآلات المصدر الجوهري نفسه والنتيجة والحدود والحالة الراهنة نفسها. ولا يجوز أن تغيّر التمثيلات متعددة اللغات أو الأشكال هذا المعنى. ولكل إنسان الحق في معرفة التمثيل الآلي المهم الذي يؤثر فيه جوهرياً، ونوع مصدره الأساسي، وتوقيته، والغرض من استخدامه؛ وفي تصحيح الخطأ أو نقص السياق، وفي وسم الحالة المتنازع عليها.

ويجب ألا يقتصر التصحيح المتحقق منه على النص الظاهر، بل يمتد إلى الوكلاء النشطين والذاكرات والدرجات والترتيبات والنسخ اللغوية ومتلقّي البيانات والقرارات المهمة التي تأثرت بالتمثيل الخاطئ. ولا تعني قابلية التصحيح حقاً في محو الماضي أو إسكات النقد الصحيح. يجوز حفظ السجل التاريخي؛ لكن لا يجوز أن تظل معلومة قديمة أو مدحوضة أو واردة في نطاق آخر تمارس سلطة خفية على القرارات المتعلقة بالإنسان في الحاضر.

يجب أن يكون الاعتراض على التمثيل مجانياً ومتاحاً ومتناسباً وخالياً من الانتقام. ولا يجوز إجبار الإنسان على إثبات حياته كلها لتصحيح خطأ أنتجه النظام.

إذا تسبب التمثيل الخاطئ في ضرر جوهري أو ضياع فرصة أو استبعاد أو مساس بالسمعة، وجبت إعادة النظر في القرارات المعنية وتوفير ما يلزم من تصحيح وإنصاف.

قد يُمثَّل إنسان بهويته الصحيحة وفي سياقه الصحيح، ومع ذلك تُستخدم معلومات جُمعت منه لغرض آخر. فقد يقدّم موظف تسجيلاً لصوته لغرض الدعم الفني، ثم يتحول التسجيل لاحقاً إلى صورة رمزية للمبيعات. وقد يشارك عميل عنوانه لتوصيل طلبه، فتُستخدم المعلومة نفسها لإنشاء ملف عن موقعه واختيار الإعلانات. وقد يرسل مرشح سيرته الذاتية للتقدم إلى وظيفة بعينها، فتُحتفظ ببياناته لوظائف أخرى مستقبلاً أو لتدريب نموذج أو لتصنيفه من حيث المخاطر.

قد تكون المعلومة صحيحة، والهوية صحيحة، والتمثيل صحيحاً أيضاً. لكن غرض السلوك قد تغيّر في الخفاء. ومن ثم يأتي الحكم التأسيسي التالي: المادة 4 — لا يجوز تغيير الغرض خفيةً