لا يجوز افتراض الهوية

تعيش في المدينة نفسها امرأتان تحملان الاسم نفسه: إليف كاراجا. إليف الأولى مديرة تعمل في مجال عمليات البيانات منذ أكثر من عشرة أعوام. عملت بعد الجامعة في عدة شركات تقنية، وتدير منذ أربع سنوات عمليات بيانات العملاء في شركة برمجيات دولية. أما إليف الثانية، فعملت قبل أعوام في مشروع استشاري قصير الأمد. وانتهى المشروع بخلاف حاد؛ إذ توجد أعمال لم تُسلَّم، واتهامات متبادلة، وملف أُحيل إلى الإدارة القانونية.

تشترك المرأتان في الاسم واللقب، ودرستا في كليتين مختلفتين من الجامعة نفسها، وعاشتا في المدينة نفسها، وتحملان مسميات وظيفية متشابهة. لكنهما ليستا الشخص نفسه. تستخدم شركة تقنية نظام توظيف مدعوماً بالذكاء الاصطناعي لاختيار مدير العمليات الجديد. ويقارن النظام السيرة الذاتية التي يرسلها المرشح بملفات الشبكات المهنية، وسجلات طلبات التوظيف القديمة، ونظام إدارة علاقات العملاء في الشركة، وصفحات المتحدثين في الفعاليات، وسجلات المورّدين الذين سبق التعامل معهم. تدخل سيرة إليف كاراجا الذاتية إلى النظام، فيجد الوكيل التطابقات الآتية: الاسم واللقب: تطابق تام المدينة: تطابق الجامعة: تطابق جزئي مجال العمل: متشابه الفئة العمرية: متقاربة ثم يدمج النظام سجلَي المرأتين تحت هوية واحدة.

تصبح خبرة إليف الأولى والخلاف القديم المرتبط بإليف الثانية جزأين من الملف التعريفي نفسه. ويكتب الوكيل في تقريره الموجز: «يتضمن تاريخ المرشحة خلافاً بشأن التسليم، ومشكلة تتعلق بالثقة، وعلاقة مع مورّد أُحيل ملفها إلى الإدارة القانونية». لا يرى مدير التوظيف المصادر الأصلية؛ وليس أمامه سوى قرار النظام المختصر: Identity Match Confidence: 0.94 أي: درجة الثقة في تطابق الهوية: 0.94 Reputational Risk: High أي: مخاطر السمعة: مرتفعة Recommendation: Reject أي: التوصية: الرفض لا تُدعَى إليف إلى مقابلة، وتتلقى بعد بضعة أيام رسالة رفض آلية.

لا تعرف إليف أي سجل استُخدم بحقها. وتجد في بوابة التقديم التابعة للشركة خيار «اعترض على القرار». وتكتب في نموذج الاعتراض: «لم أشارك في أي خلاف مع مورّد. السجل المستخدم لا يخصني». يعيد النظام تقييم الاعتراض، لكنه يستخدم نتيجة مطابقة الهوية نفسها والملف التعريفي المدمج نفسه. ويصدر القرار الثاني بالنص الآتي: «تؤيد مصادر البيانات المتاحة التقييم الأول». ويُقال لإليف إن بإمكانها تحميل الوثائق الآتية لإجراء تحقق أقوى:

• الوجهان الأمامي والخلفي لوثيقة الهوية
• عقود العمل الثلاثة الأخيرة
• إثبات محل الإقامة
• شهادة التخرج الجامعية

أُجبرت إليف على إثبات جانب كبير من حياتها لكي تميّز نفسها عن واقعة لم تكن طرفاً فيها قط. النظام هو من أنشأ خطأ الهوية، لكن عبء الإثبات تُرك لإليف. ترفض تحميل جميع الوثائق، وترسل رسالة مباشرة إلى الشركة عبر البريد الإلكتروني. يراجع مدير توظيف بشري الملف، ويلحظ فروقاً لا تظهر للوهلة الأولى في الملفين:

• نطاق البريد الإلكتروني الذي استخدمته إليف الثانية مختلف.
• القسمان الجامعيان غير متطابقين.
• تتداخل بعض تواريخ العمل.
• كانت إليف الأولى، خلال فترة الخلاف الاستشاري، تعمل بدوام كامل في بلد آخر.
• رقما الهاتف في السجلين مختلفان.
• لا يرد في ملف المورّد القديم سوى الاسم «E. Karaca».
• يستند التطابق الذي عرضه النظام بنسبة 94 في المئة إلى مجموع إشارات ضعيفة ومتشابهة، لا إلى وثيقة هوية واحدة موثقة.

تصحح الشركة السجل وترسل اعتذاراً إلى المرشحة، لكن المقابلات النهائية للمنصب تكون قد انتهت، ويكون مرشح آخر قد اختير. صُحح خطأ الهوية تقنياً، أما الفرصة الضائعة فلم تعد. وتسأل الشركة مزوّد النظام لاحقاً: «لماذا اعتبر النظام شخصين شخصاً واحداً؟» فيجيب المزوّد: «اختار النموذج التطابق الأرجح في ضوء البيانات المتاحة». قد يكون هذا التفسير صحيحاً من الناحية التقنية، لكنه لا يجيب عن السؤال الأهم للإنسان:

في أي لحظة تحوّل احتمال إلى هوية يُتخذ إجراء بشأنها؟

قدّم النموذج تقديراً. واستخدمت المؤسسة هذا التقدير بوصفه سجل شخص حقيقي. وحوّل وكيل التوظيف التقدير إلى مسوّغ لقرار. ورأى المدير البشري نسبة 94 في المئة كأنها دليل. ثم أعاد نظام الاعتراض تشغيل التقدير نفسه، فصدّق نفسه بنفسه. ولم يقل النظام في أي مرحلة: «ليس مؤكداً أن هذين السجلين يعودان إلى الشخص نفسه». ولم يصل في أي مرحلة إلى نتيجة مفادها: «في ظل هذا القدر من عدم اليقين، ينبغي ألا أصدر قرار رفض يصعب التراجع عنه». افترض النظام الهوية أولاً، ثم بنى سلوكه كله على ذلك الافتراض.

ومن ثم فإن حكمنا التأسيسي الثاني هو:

لا يجوز افتراض الهوية.

المادة التأسيسية

لا يجوز لأي نظام ذكاء اصطناعي أن يستخدم تشابه الأسماء أو الوجوه، أو الجهاز المشترك، أو تقارب الموقع، أو الدور السابق، أو الصلة الاجتماعية، أو نطاق الإنترنت نفسه، أو الحساب المشترك، أو تقدير النموذج، أو درجة الاحتمال، بمفرده بوصفه هوية قاطعة لإنسان أو مؤسسة أو حساب. وقبل أي سلوك ينتج آثاراً على إنسان أو مؤسسة، يجب التحقق من الهوية المعنية والدور والزمن وسلطة التمثيل والجهة المستهدفة، بأدلة تتناسب مع أثر السلوك. ولا يجوز إخفاء عدم اليقين في الهوية. وكلما ازداد عدم اليقين، وجب خفض مستوى فعل النظام؛ كما يجب إيقاف أي قرار أو دفعة أو نشر أو استخدام للبيانات أو تواصل خارجي يصعب التراجع عنه.

لا يجوز دمج إنسانين مختلفين في صمت. كما لا يجوز للسجلات المجزأة لإنسان واحد أن تعطل حقوقه في الموافقة والاعتراض والتصحيح والإيقاف.

لا يمثّل الوجه أو الصوت أو الشخصية الاصطناعية الإنسان الحقيقي نفسه. ولا يجوز تقديم محتوى يشبه إنساناً حقيقياً على أنه قول قاله ذلك الإنسان، أو فعل وافق عليه أو قام به. ولا يجوز تحويل التحقق من الهوية إلى ذريعة لمراقبة الناس من دون حاجة أو إجبارهم على كشف حياتهم بأكملها. ويجب ألا يطلب النظام سوى الحد الأدنى من أدلة الهوية اللازمة للسلوك المعني.

الهوية ليست اسماً فحسب

غالباً ما يعبّر الناس في حياتهم اليومية عن الهوية بالاسم واللقب: «هذه إليف». «هذه الشركة هي نوفا». «جاءت هذه الرسالة من المدير العام». لكن الاسم، بالنسبة إلى نظام ذكاء اصطناعي، ليس في الغالب سوى علامة أولى. فقد يحمل الاسم نفسه آلاف الأشخاص، وقد تستخدم شركات مختلفة اسم العلامة التجارية نفسه في بلدان مختلفة. ويمكن للإنسان، على مر السنين، أن يغيّر لقبه ووظيفته وعنوانه ورقم هاتفه وحساب بريده الإلكتروني. كما يمكن للشركة أن تغيّر اسمها القانوني، أو تندمج مع شركة أخرى، أو تنقل علامتها التجارية، أو تعمل في بلدان مختلفة من خلال كيانات قانونية أخرى.

قد يعود حساب على وسائل التواصل الاجتماعي إلى شخص حقيقي، أو ممثل، أو وكالة، أو وكيل ذكاء اصطناعي. لذلك ليست الهوية حقلاً واحداً. وقبل أي سلوك، يجب الإجابة بصورة منفصلة عن خمسة أسئلة على الأقل:

1. من هذا؟

أي إنسان أو مؤسسة أو حساب أو وكيل؟

2. ما صفته هنا؟

أهو عميل؟ أم موظف؟ أم مدير؟ أم مفوَّض؟ أم ممثل لعلامة تجارية؟

3. أيّ فترة زمنية هي المعنية؟

أهو الدور الراهن؟ أم لقب سابق؟ أم علاقة انتهت مدتها؟

4. نيابةً عمّن يتصرف؟

أيتصرف نيابةً عن نفسه، أم عن شركة، أم عن إنسان آخر؟

5. هل يملك الصلاحية لهذا السلوك بعينه؟

هل تعني صحة الهوية أن صاحبها مخوّل بفعل كل شيء؟ إذا كانت الإجابة عن أحد هذه الأسئلة الخمسة خاطئة، فقد يتصرف النظام على نحو خاطئ وهو يبدو كأنه وجد الشخص الصحيح.

الهوية والتحقق منها والصلاحية ليست شيئاً واحداً

تختزل أنظمة كثيرة ثلاثة أسئلة في سؤال واحد: «من هذا الشخص؟» لكننا أمام ثلاث مسائل مستقلة في الحقيقة.

1. تحديد الهوية

إلى أي شخص أو مؤسسة يعود هذا السجل؟ مثلاً: إلى أيٍّ من المرأتين اللتين تحملان اسم إليف كاراجا يعود هذا البريد الإلكتروني؟

2. التحقق من الهوية

هل يسيطر الشخص الذي أصدر هذه التعليمة فعلاً على الحساب أو الهوية التي يدّعيها؟ مثلاً: هل أرسل المدير العام بنفسه الرسالة الواردة من عنوان بريده الإلكتروني؟

3. التحقق من الصلاحية

هل يملك هذا الشخص، بعد التحقق من هويته، صلاحية تنفيذ هذه العملية بعينها أو اعتمادها؟ مثلاً: هل يملك المدير العام وحده صلاحية استخدام صوت موظف آخر في حملة عامة؟ هذه المراحل الثلاث لا تحل إحداها محل الأخرى: هوية صحيحة ≠ تحكم فعلي في الحساب ≠ صلاحية لهذا السلوك قد يتعرف النظام إلى الشخص الصحيح، لكن حسابه قد يكون قد اختُرق. وقد يتحقق على نحو صحيح من سيطرة الشخص على الحساب، لكن ذلك الشخص قد لا يكون مخوّلاً بتنفيذ العملية.

قد يكون الإنسان مخوّلاً، لكن التعليمة قد تنتهك حقاً غير قابل للتنازل لإنسان آخر. لذلك فالهوية هي بداية سلسلة الصلاحية، وليست السلسلة كلها.

يمكن للإنسان أن يحمل أكثر من صفة في الوقت نفسه

قد يكون الإنسان مالك شركة وعميلاً وموظفاً ووالداً ومستخدماً فردياً. وتكون للشخص نفسه صلاحيات مختلفة باختلاف صفته. فمدير الشركة العام يستطيع، مثلاً، اعتماد شراء برمجيات للمؤسسة، والإذن بنشر بيان عام باسم الشركة، وإيقاف الوكيل المؤسسي. لكنه لا يستطيع منح الموافقة البيومترية نيابة عن الموظف، أو تجاهل طلب العميل وقف التواصل، أو إعلان صحة سجل خاطئ يخص مرشحاً. قد تكون الهوية صحيحة، بينما تكون الصفة قد فُسرت خطأ. لذلك لا ينبغي للوكيل أن يكتفي بقوله: «هذا الشخص هو Kaan» أو «هذا الشخص هو المدير العام».

بل يجب أن يعرف:

بأي صفة وبأي صلاحية يتصرف هذا الإنسان في هذا الفعل بعينه؟

الدور ليس سلطة عامة تشمل الحياة كلها.

الدور ليس جزءاً دائماً من الهوية

ربما شغل إنسان ما منصب المدير المالي في الماضي، ثم أصبح اليوم في دور آخر. وقد تظل صفحة قديمة على موقع الشركة تعرض صفته: «المدير المالي»، وربما لم يُحدَّث ملفه في شبكة مهنية، أو بقي حساب بريده الإلكتروني القديم نشطاً. وقد يرى وكيل ذكاء اصطناعي السجل القديم فيستنتج: «يستطيع هذا الشخص اعتماد تغيير حساب الدفع». لكن الدور يكون قد انتهى. ويمكن أن نسمي هذا السلوك «غسل الدور». وغسل الدور هو استخدام لقب من الماضي أو من سياق آخر بوصفه صلاحية لتنفيذ عملية راهنة.

يجب أن يتضمن سجل الدور المجالات الآتية على الأقل: من؟ وفي أي مؤسسة؟ وفي أي دور؟ وبين أي تاريخين؟ وما السلوكيات المخوّل بها؟ ومن منح الصلاحية؟ وهل انتهى الدور؟ أما عبارة «كان مديراً في وقت ما» فليست صلاحية راهنة.

الزمن جزء من الهوية

لا تجيب الهوية عن سؤال «من؟» وحده. ففي بعض الأحيان يجب أن تجيب أيضاً عن سؤال:

«من كان صاحب الهوية في ذلك الوقت؟»

ربما كان الإنسان في الماضي موظفاً أو عميلاً أو ممثلاً مخوّلاً أو صاحب الحق في منح الموافقة أو مدير حساب، وقد لا تكون العلاقة نفسها قائمة اليوم. وربما كانت شركة ما تدير علامة تجارية في الماضي ثم نُقلت العلامة إلى مؤسسة أخرى. وقد يتغير مالك حساب على وسائل التواصل الاجتماعي، أو يُباع نطاق إنترنت. لذلك، عندما يُستخدم سجل هوية من دون تاريخ، قد تُعامل علاقة قديمة كأنها حقيقة راهنة.

صلة الهوية في الماضي لا تعني وجود صلاحية في الحاضر.

درجة الثقة في الهوية ليست دليلاً عليها

تنتج أنظمة الذكاء الاصطناعي احتمالات في حالات عدم اليقين، وقد يكون ذلك طبيعياً ومفيداً. فقد يقول النظام: «قد يعود هذان السجلان إلى الشخص نفسه: 94 في المئة». المشكلة ليست في إنتاج النسبة، بل في استخدامها بمعنى: «هذا هو الشخص نفسه قطعاً». ففي السلوكيات عالية الأثر بوجه خاص، لا تشكل نسبة 80 أو 94 أو 99 في المئة دليلاً على الهوية بمفردها. وقد تؤدي نسبة خطأ تبدو صغيرة إلى تقييم أعداد كبيرة من الناس بهويات خاطئة. ففي حساب مبسط، إذا كان 1 في المئة من مليون عملية مطابقة خاطئاً، فلدينا عشرة آلاف مطابقة خاطئة. ولا يعني ذلك أن درجة ثقة قدرها 99 في المئة معروضة لسجل واحد تمثل معدل الدقة الفعلي.

قد تبدو هذه النسبة صغيرة على رسم بياني، لكنها ليست صغيرة بالنسبة إلى إنسان رُفض خطأ، أو اتُّهم ظلماً، أو كُشفت بياناته للشخص الخطأ. لذلك: ثقة النموذج ≠ صلاحية التصرّف على أساس الهوية يمكن لثقة النموذج أن توجه مسار البحث، لكنها لا تستطيع وحدها أن تحدد مشروعية الأثر النهائي الواقع على الإنسان.

كلما ازداد عدم اليقين، وجب خفض مستوى الفعل

إذا لم تكن الهوية مؤكدة، فقد تكون أمام النظام ثلاثة خيارات: 1. إجراء تحقق إضافي ومتناسب مثل التحقق من نطاق البريد الإلكتروني المؤسسي، أو رقم العميل الفريد، أو معرّف العملية، أو سجل الدور الراهن. 2. خفض مستوى الفعل مثل إنشاء طلب مراجعة بدلاً من إجراء دفعة، أو ترك مسودة بدلاً من إرسال رسالة، أو إحالة المرشح إلى مراجعة بشرية بدلاً من رفضه. 3. التوقف بأمان إذا كان عدم اليقين في الهوية مرتفعاً وكان الفعل غير قابل للعكس، فلا ينبغي تنفيذ العملية. والعلاقة الصحيحة هي: إذا قلّ دليل الهوية، وجب أن ينخفض مستوى الفعل المسموح به أيضاً أما العكس فخطر: الهوية غير مؤكدة، لكن الفعل غير قابل للعكس

خطأ دمج الهوية

يمكن أن نسمي جمع سجلَّي إنسانين مختلفين تحت شخص واحد «خطأ دمج الهوية». وقد ينشأ هذا الخطأ للأسباب الآتية:

• الاسم واللقب نفسيهما
• عنوانا بريد إلكتروني متشابهان
• رقم هاتف مشترك
• الشركة أو المدرسة نفسها
• وجه متشابه
• جهاز مشترك
• عنوان المنزل نفسه
• صلة عائلية
• غياب رقم العميل
• اسم مختصر
• اختلاف الترجمة والأبجدية

مثلاً، قد يكون «Aleksandr Petrov» و«Александр Петров» الشخص نفسه. لكن تطابق الكتابة لا يعني دائماً أنه الإنسان نفسه. وقد يزيد النقل بين الكتابة العربية واللاتينية والسيريلية صعوبة المطابقة. ويجب على النظام أن يفهم اختلاف اللغة والأبجدية، من دون أن يحوّل التشابه إلى هوية مؤكدة.

خطأ تجزئة الهوية

يمكن أن نسمي حفظ الإنسان نفسه كما لو كان عدة أشخاص منفصلين «خطأ تجزئة الهوية». ولهذا الخطأ أيضاً نتائج خطيرة. فقد يقول عميل: «لا ترسلوا إليّ مزيداً من الرسائل التسويقية». ويُسجَّل الطلب في ملفه التعريفي الأول، بينما يوجد في النظام ملف ثانٍ للإنسان نفسه. فيواصل وكيل إدارة علاقات العملاء إرسال الرسائل من الملف الثاني. وقد تقول المؤسسة: «كان إذن التواصل معطلاً في السجل الأول؛ وهذا سجل آخر». لكنه ليس سجلاً آخر بالنسبة إلى الإنسان؛ فالمؤسسة نفسها تصل إلى الهاتف نفسه.

قد تؤدي تجزئة الهوية إلى تفتيت الحقوق الآتية:

• سحب الموافقة
• وقف الاتصالات
• حذف البيانات
• الاعتراض
• الانتصاف
• طلب الإنسان الإيقاف
• تصحيح السجل الخاطئ

لذلك لا تقتصر دقة الهوية على عدم دمج إنسانين مختلفين.

بل تشمل القدرة على إعمال حقوق الشخص نفسه على جميع سجلاته ذات الصلة على نحو صحيح.

يجب أن تكون عمليتا دمج السجلات وفصلها قابلتين للعكس

عند دمج ملفين تعريفيين، يجب على النظام حفظ المعلومات الآتية:

• أي سجلات دُمجت؟
• ما الأدلة التي استُخدمت؟
• من اتخذ القرار، أو أي نظام اتخذه؟
• في أي تاريخ؟
• أي سلوكيات تأثرت؟
• هل يمكن عكس الدمج؟

عندما يقول إنسان: «هذا السجل لا يخصني»، يجب ألا يجيبه النظام: «طابقت خوارزميتنا السجل بدرجة ثقة مرتفعة». بل يجب أن يطلق الاعتراض عملية حقيقية لفصل السجلات. وبالمثل، إذا ثبت أن ملفين منفصلين يعودان إلى الإنسان نفسه، فيجب توحيد حقوق الموافقة والتصحيح فيهما على نحو صحيح.

لا يجوز إلقاء عبء الإثبات كله على الإنسان

في واقعة إليف، دمج النظام إنسانين مختلفين خطأ، ثم طلب من إليف وثيقة هوية وعقود عمل وإثبات إقامة وشهادة تخرج. وصل النظام إلى النتيجة الخاطئة من خلال إشارات قليلة وضعيفة، بينما لا تستطيع إليف تصحيح الخطأ من دون كشف جانب كبير من حياتها. وهذا ليس عادلاً. يجب أن تتمكن المؤسسة من إظهار الدليل الذي يسند قرار المطابقة الذي اتخذته، كما يجب أن يستطيع الإنسان فصل المطابقة الخاطئة باستخدام أقل قدر لازم من المعلومات. والسؤال الصحيح ليس: «هل تستطيع إثبات حياتك كلها؟» بل:

«ما أقل معلومة موثوقة تلزم للفصل بين هذين السجلين؟»

فقد تكفي، مثلاً، تواريخ عمل مختلفة، أو نطاق بريد إلكتروني مختلف، أو رقم عميل مختلف، أو علاقة مختلفة مع كيان قانوني.

التحقق من الهوية ليس ذريعة للمراقبة

قد يدفع الخوف من أخطاء الهوية المؤسسات إلى أن تطلب من كل مستخدم، باستمرار، هوية رسمية ومسحاً للوجه وإثباتاً للعنوان وبيانات بيومترية وتحققاً عبر الهاتف. وهذا يتحول بدوره إلى مشكلة أخرى تمس حقوق الإنسان. فلا يلزم معرفة الهوية القانونية للإنسان في كل سلوك. وقد لا يكون الشخص مضطراً إلى كشف هويته الرسمية حين يبحث عن معلومات عامة، أو يقرأ محتوى متاحاً للجمهور، أو يقدم ملاحظة مجهولة، أو يطرح سؤال دعم منخفض المخاطر. ويجب أن يتناسب دليل الهوية مع أثر السلوك.

أثر منخفض ← بيانات هوية أقل أثر مرتفع ← تحقق قوي وذو صلة لكن السلوك عالي الأثر لا يمنح أيضاً حق الوصول بلا حدود إلى حياة الإنسان كلها.

يجب على النظام أن يتحقق من العلاقة المعنية، لا من الإنسان كله.

الأسماء المستعارة وإخفاء الهوية شكلان مشروعان للهوية

لا يعني مبدأ «لا يجوز افتراض الهوية» أن على الجميع استخدام أسمائهم الرسمية في كل مكان. فقد يستخدم الناس في بعض البيئات اسماً مستعاراً أو اسماً فنياً أو اسم مستخدم أو هوية مجهولة. وقد لا يلزم معرفة الهوية الحكومية لمن يكتب في منتدى، وقد تتطلب حماية المبلّغ عن المخالفات إخفاء اسمه الحقيقي بوجه خاص، وقد تكون الهوية العامة لفنان هي اسمه المستعار. وليست مهمة نظام الذكاء الاصطناعي دائماً حل سؤال: «ما الاسم الحقيقي لهذا الإنسان؟» ففي بعض الأحيان يكون السؤال الصحيح هو:

هل يكفي، لهذه العملية، التحقق من استمرارية هذا الحساب وصلاحيته؟

التصرف باسم مستعار ليس هوية زائفة، أما التظاهر بأنك إنسان آخر فهو هوية زائفة. ولا يجوز الخلط بين إخفاء الهوية وانتحال هوية الغير.

العلامة التجارية ليست المشغّل القانوني

غالباً ما يعرف الناس الخدمة باسم علامتها التجارية، لكن العقد أو الفاتورة أو مسؤولية البيانات أو الدفع قد تُدار من خلال كيان قانوني مختلف. لنتصور، مثلاً، علامة تجارية تعمل باسم ArcNova. يستخدم موقعها الإلكتروني اسم ArcNova، وتتولى شركة تشغيل خدماتها في تركيا، بينما توقّع شركة تابعة أخرى عقودها في ألمانيا، وتصدر فواتير بعض العملاء عبر موزّع. وقد يرى وكيل مشتريات اسم العلامة التجارية وحده، فيدفع إلى الشركة الخطأ، أو يختار المشغّل القانوني الخطأ طرفاً في العقد، أو ينسب مسؤولية البيانات إلى المؤسسة الخطأ، أو يستخدم سعر بلد آخر.

هوية العلامة التجارية حقيقية تجارياً، لكنها لا تؤدي وظيفة هوية المشغّل القانوني نفسها. ويجب على النظام الحفاظ على الفروق بين: العلامة التجارية المشغّل القانوني الطرف المتعاقد مُصدر الفاتورة معالج البيانات المزوّد التقني قد تجتمع هذه الأدوار في المؤسسة نفسها، ولا يلزم أن تجتمع.

العثور على العلامة التجارية الصحيحة لا يعني العثور على الطرف القانوني الصحيح.

لا يجوز التعامل مع مجموعة الشركات كأنها كيان واحد قابل للتبادل

قد تضم مجموعة الشركات عدة كيانات قانونية. وقد تستخدم هذه الكيانات الشعار نفسه وتصميم الموقع نفسه، وقد يستخدم موظفوها نطاق البريد الإلكتروني نفسه. لكن علاقات العقد والدين والبيانات والصلاحيات والتوظيف قد تختلف. ولا يجوز للوكيل أن ينقل صلاحية شركة تابعة إلى أخرى بقوله: «هذه الشركة جزء من المجموعة نفسها». فالانتماء إلى المجموعة قد يكون دليلاً على وجود صلة، لكنه ليس تفويضاً للصلاحية.

قد يكون نطاق الإنترنت مؤشراً قوياً للهوية، لكنه ليس دليلاً قاطعاً

قد يفيد البريد الإلكتروني المؤسسي ونطاق الموقع في التحقق من الهوية. لكن النطاق قد يكون قد اختُرق، وقد يُستخدم نطاق زائف شبيه في الكتابة، وقد يدير العلامة التجارية مشغّل قانوني آخر، وقد يظل حساب موظف سابق مفتوحاً، وقد يستخدم مزوّد خدمات مشترك النطاق نفسه. مثلاً، قد تبدو النطاقات novasystems.example وnova-systems.example وnovasystem.example متشابهة. ولا يجوز للوكيل، في عملية يصعب التراجع عنها، أن يعتمد على التشابه البصري وحده. فتغيير حساب الدفع أو إبرام عقد أو نقل بيانات حساسة يتطلب تحققاً أقوى.

السيطرة على الحساب لا تعني أن المسيطر هو الإنسان نفسه

قد تصل رسالة من حساب بريد إلكتروني، فيربطها النظام بصاحب الحساب. لكن الحساب ربما كان مشتركاً، أو يستخدمه مساعد، أو يكون قد اختُرق، أو يديره وكيل آلي. لذلك يجب فصل الادعاءين الآتيين: «جاءت الرسالة من هذا الحساب». و«كتب هذا الإنسان الرسالة واعتمدها بنفسه». يمكن إثبات الأول تقنياً، أما الثاني فقد يتطلب دليلاً إضافياً. ولا سيما في تحويل الأموال والالتزامات القانونية والنشر البيومتري وتغيير الصلاحيات، يجب ألا تُعامل السيطرة على الحساب والإرادة الإنسانية كأنهما شيء واحد.

قد يحجب الحساب المشترك المسؤولية

قد تسمح مؤسسة لجميع وكلائها بإرسال الرسائل من الحساب automation@company.example. ومن الخارج تبدو جميع السلوكيات صادرة عن الهوية نفسها. وقد تقول المؤسسة لاحقاً: «لا نستطيع تحديد الوكيل الذي أرسل الرسالة». وهذه ليست نتيجة تصميم مقبولة. يجوز استخدام حساب مشترك، لكن يجب ربط كل فعل بالهويات الآتية:

• مثيل الوكيل التقني
• المهمة البشرية الأصلية
• سجل الصلاحية
• معرّف العملية
• صاحب المسؤولية البشري
• وقت الإرسال

يجب أن تكون هوية الآلة قابلة للتتبع مثل هوية الإنسان.

اسم الوكيل ليس هويته التقنية

قد تعرض المؤسسة للعملاء اسماً واحداً للوكيل: NOMOS. لكن قد تعمل في الخلفية نماذج تأسيسية مختلفة، ووكلاء مخصّصون للأدوات، وإصدارات مختلفة، ووكلاء فرعيون مختلفون. وقد يوفّر الاسم العام استمرارية، غير أن التدقيق يحتاج أيضاً إلى المعلومات الآتية: الاسم الظاهر للجمهور: NOMOS المثيل التقني:

NOMOS-SALES-2026-10-04

النموذج/التهيئة:

CONFIG-17

الصلاحية:

AUTH-4.1

إذا سُجلت واقعة بعبارة «فعلها NOMOS» وحدها، فقد يتعذر العثور على الفاعل التقني الحقيقي. فالشخصية هي الوجه العام للسلوك، أما الهوية التقنية فتحدد صاحب الفعل القابل للتدقيق. ويجب الحفاظ على الاثنين معاً.

متى يجب أن يعرف الإنسان أن الطرف المقابل وكيل؟

قد لا تحتاج كل عملية آلية إلى تحذير كبير. لكن يجب الإفصاح عن هوية الآلة عندما تؤثر في ثقة الإنسان أو قراره أو موافقته أو المعلومات التي سيقدمها أو مسار اعتراضه. فقد يظن إنسان أن موظف مبيعات حقيقياً كتب الرسالة التي أمامه، أو أن الجملة في الفيديو تصريح أدلى به المدير بنفسه، أو أن قرار التوظيف اتخذه إنسان، بينما يكون الوكيل هو الذي تصرّف في الحقيقة. وهذا فرق جوهري. ويمكن للإفصاح أن يجيب عن الأسئلة الآتية:

• هل أنشأ الذكاء الاصطناعي المحتوى؟
• هل اعتمد إنسان النص؟
• هل اقتصر دور الوكيل على الاقتراح؟
• هل أرسل الوكيل الرسالة بنفسه؟
• هل استُخدم وجه أو صوت اصطناعي؟
• أي مؤسسة مسؤولة عن النتيجة؟

مجرد قول «ربما استُخدم الذكاء الاصطناعي» قد لا يكون كافياً.

الوجه الاصطناعي ليس الإنسان الحقيقي

قد يشبه أفاتار سيلين شبهاً تاماً، لكن ذلك لا يثبت أياً من الأمور الثلاثة الآتية:

• كتبت سيلين هذه الجملة.
• اعتمدت سيلين هذه الجملة.
• أذنت سيلين بهذا النشر.

قد يكون الوجه الظاهر في الصورة عائداً إلى إنسان حقيقي، بينما يكون كاتب الجملة وكيلاً آخر، وقد يكون قرار النشر صادراً عن فريق آخر. لذلك يجب أن يفصل التمثيل الاصطناعي بين الهويات الآتية على الأقل: الإنسان الذي تُمثَّل هويته كاتب المحتوى من اعتمد المحتوى النظام الذي أنشأ الصوت والصورة المؤسسة الناشرة الإنسان المسؤول ولا يجوز تذويب هذه الهويات كلها في عبارة واحدة هي: «فيديو سيلين».

الوجه الحقيقي لا يعني تصريحاً حقيقياً

ساد في العالم الرقمي زمناً طويلاً افتراض بسيط: إذا رأينا إنساناً على الشاشة، فهو من يتحدث. وقد غيّرت الوسائط الاصطناعية هذا الافتراض. فقد تأتي صورة الإنسان من تسجيل حقيقي، وصوته من نموذج اصطناعي، وكلماته من وكيل محتوى، وعملية النشر من نظام آلي. لذلك لا تقتصر دقة الهوية على معرفة الشخص الذي تشبهه الصورة.

بل يجب أيضاً التحقق من صاحب التصريح.

استخدام وجه إنسان لنشر جملة لم يعتمدها هو إسناد الهوية إلى صاحبها الصحيح، وإسناد الإرادة إلى صاحب خاطئ.

الإفصاح عن الهوية الاصطناعية

عند استخدام وجه أو صوت اصطناعي، يجب أن يتناسب الإفصاح مع أثر السلوك. وقد يكفي في فيديو تدريبي منخفض الأثر إفصاح قصير: «يستخدم هذا الفيديو أفاتاراً اصطناعياً أُنشئ بإذن الشخص». أما في بيان عام أعلى أثراً، فقد تلزم المعلومات الآتية:

• من أعد النص؟
• هل اعتمد الإنسان النص النهائي؟
• متى اعتُمد النشر؟
• نيابة عن أي مؤسسة نُشر؟
• هل يستطيع الإنسان سحب البيان؟

إضافة إفصاح لا تعالج غياب الموافقة.

وسم «اصطناعي» ليس ترخيصاً بالاستخدام غير المخوّل.

الحد الفاصل بين التمثيل وانتحال الهوية

قد يرسل الوكيل رسالة نيابة عن مؤسسة، ولا يكون ذلك دائماً انتحالاً للهوية. فقد يبدأ الرسالة بوضوح: «أنا وكيل عملاء مدعوم بالذكاء الاصطناعي تابع لـNobleAxis». ويكون ما يفعله تمثيلاً إذا تصرف نيابة عن المؤسسة بصورة مخوّلة وواضحة. أما إذا قال، متظاهراً بأنه الموظفة الحقيقية: «أنا سيلين، مؤسِّسة الشركة»، ولم تكن سيلين قد كتبت الرسالة أو اعتمدتها بنفسها، فقد ينشأ انتحال للهوية. والحد الصحيح هو:

يمكن بيان الجهة التي يتصرف الوكيل نيابة عنها، ولا يجوز له الكذب بشأن هويته.

استنتاج الهوية قوة حساسة

قد يستنتج النظام هوية الإنسان من أسلوب الكتابة أو الموقع أو العلاقات الاجتماعية أو الجهاز أو تشابه الوجه أو عينة الصوت. وقد يكون ذلك ممكناً من الناحية التقنية، لكن ليس كل استنتاج ممكن مشروعاً. وفي بيئة اختار فيها الإنسان أن يبقى مجهول الهوية، يجب ألا يربطه النظام بهويته الحقيقية من دون حاجة. وينبغي أن يخضع استنتاج الهوية للأسئلة الآتية:

• هل يلزم ذلك حقاً لهذه المهمة؟
• هل يتوقع الإنسان هذه المطابقة على نحو معقول؟
• ما أثر المطابقة الخاطئة؟
• هل يمكن تحقيق الغرض ببيانات أقل؟
• هل يستطيع الإنسان الاعتراض على المطابقة؟
• هل ستنتشر النتيجة إلى أنظمة أخرى؟

لا تعني معرفة هوية الإنسان دائماً تقديم خدمة أفضل؛ فقد تجعله أحياناً مكشوفاً من دون حاجة.

لا يجوز الخلط بين الهوية واستنتاج السمات

قد يستنتج النظام لغة الشخص أو فئته العمرية أو مهنته أو اهتماماته. ولا تثبت هذه الاستنتاجات هوية الإنسان على نحو قاطع. وبالمثل، لا تعني صحة هوية الشخص أن جميع السمات المستنتجة عنه صحيحة. والسلسلة الآتية خطرة: تطابقت الهوية ← جميع البيانات المرتبطة صحيحة ← جميع الاستنتاجات حقائق يجب تقييم كل بيان وفق مصدره وزمنه ونطاقه.

يتضخم خطأ الهوية عبر سلسلة السلوك

قد تبدو الهوية الخاطئة في المرحلة الأولى مشكلة صغيرة في مطابقة البيانات.

1. ثم قد تنشأ السلسلة الآتية: هوية خاطئة
2. ↓
3. ماضٍ خاطئ
4. ↓
5. درجة مخاطر خاطئة
6. ↓
7. قرار خاطئ
8. ↓
9. تواصل خاطئ
10. ↓
11. ذاكرة خاطئة
12. ↓
13. سلوك خاطئ يتكرر في المستقبل

في واقعة إليف، كان الخطأ الأول دمج ملفين تعريفيين. ثم ارتفعت مخاطر السمعة، ورُفضت المرشحة، ورُبط اعتراضها بالسجل الخاطئ نفسه، وضاعت فرصتها. لم يبق خطأ الهوية محصوراً في البيانات، بل تحول إلى سلوك ترك أثراً في حياة إنسان. لذلك تُعد دقة الهوية إحدى بوابات النقض الأولى في الأنظمة عالية الأثر.

انتشار خطأ الهوية

قد تنتشر مطابقة خاطئة بين نظام إدارة علاقات العملاء ونظام التوظيف ووكيل المخاطر وسجل دعم العملاء وذاكرة التسويق ومزوّد خارجي. وعندما يُصحح أحد الأنظمة، قد تواصل الأنظمة الأخرى استخدام السجل القديم. لذلك لا يقتصر تصحيح الهوية على تغيير ملف تعريفي واحد.

بل هو انتشار تصحيح الهوية.

ويجب الإجابة عن الأسئلة الآتية:

• إلى أي أنظمة ذهب السجل الخاطئ؟
• أي وكلاء استخدموه؟
• في أي قرارات أثّر؟
• أي ملفات تعريفية اشتُقت منه؟
• إلى أي أطراف خارجية نُقل؟
• هل وصل التصحيح إلى جميع النسخ؟
• هل توقف الاستخدام النشط مع الحفاظ على الدليل التاريخي؟

يجب أن يستطيع الإنسان تصحيح سجل هوية خاطئ

يجب أن يستطيع الإنسان، على الأقل، تقديم الطلبات الآتية:

• هذا السجل لا يخصني.
• هذان الملفان التعريفيان يعودان إلى إنسانين مختلفين.
• هذان الملفان التعريفيان يعودان إلى الإنسان نفسه.
• هذا الدور لم يعد سارياً.
• انتهت علاقتي بهذه الشركة.
• لم أُدلِ بهذا التصريح.
• لم أعتمد هذا الاستخدام لوجهي أو صوتي.
• أنا لا أدير هذا الحساب.
• اختُلط هذا السلوك بسجل إنسان آخر.

يجب ألا يحتفظ النظام بهذه الطلبات بوصفها ملاحظات لخدمة العملاء فحسب، بل يجب أن يطلق عملية التصحيح المرجعية التي تؤثر في السلوكيات المعنية.

حق التصحيح لا يعني القبول التلقائي

عندما يقول إنسان: «هذا السجل لا يخصني»، قد لا يكون النظام ملزماً دائماً بحذف السجل كله فوراً؛ فقد توجد حقوق أخرى أو متطلبات تتعلق بالسلامة أو بحفظ السجلات القانونية. لكن يجب حماية الحقوق الآتية:

• تلقي الاعتراض
• مراجعة فعّالة
• وضع علامة على السجل المتنازع عليه
• إيقاف السلوكيات الجديدة عالية الأثر مؤقتاً
• إبلاغ النتيجة مع بيان أسبابها
• نشر التصحيح إذا تأكد الخطأ

يجب ألا يعامل النظام مطابقته على أنها صحيحة افتراضياً، واعتراض الإنسان على أنه خاطئ افتراضياً.

الحالة الآمنة عند النزاع على الهوية

إذا بقي نزاع على الهوية من دون حل، فيجب على النظام تقييد السلوكيات عالية الأثر، مثل إجراء دفعة جديدة، أو التواصل الخارجي، أو رفض مرشح، أو إغلاق حساب، أو كشف بيانات، أو نشر محتوى اصطناعي. وقد تكون الحالة الصحيحة هي:

IDENTITY_DISPUTED

في هذه الحالة، لا يُحذف السجل، ولا يُستخدم كأنه حقيقة قاطعة؛ وتبدأ مراجعة بشرية، ويُخفض مستوى الفعل.

لا يوجد مصدر عالمي واحد للهوية

قد تثبت وثيقة الهوية الرسمية الهوية القانونية للشخص، لكنها لا تثبت دوره الحالي في الشركة، أو صلاحيته ضمن ميزانية محددة، أو موافقته على استخدام صوت اصطناعي، أو سيطرته على حساب البريد الإلكتروني هذا. وقد يبيّن سجل الشركات المشغّل القانوني، لكنه لا يثبت بالضرورة أن موظفاً بعينه مخوّل بتغيير حساب الدفع. وقد يعطي ملف شبكة مهنية فكرة عن التاريخ الوظيفي، لكنه ليس سجلاً للصلاحية الراهنة. ولكل نوع من الحقائق مصدره المناسب.

قوة المصدر لا تعني أنه يجيب عن كل سؤال يتعلق بالهوية.

مرساة الهوية

يمكن أن نسمي المؤشرات الموثوقة التي تثبّت هوية الشخص أو المؤسسة في أثناء سلوك ما «مرساة الهوية». ومن أمثلتها:

• معرّف فريد للعميل أو الموظف
• بريد إلكتروني مؤسسي موثّق
• رقم قانوني للشركة
• هوية الطرف المتعاقد
• معرّف مثيل الوكيل التقني
• معرّف العملية
• سجل الدور الراهن
• رقم الحساب المستهدف

يجب ألا يستند السلوك عالي الأثر إلى مرساة ضعيفة واحدة. فتغيير حساب الدفع، مثلاً، لا ينبغي أن يُتحقق منه اعتماداً على الاسم الظاهر في البريد الإلكتروني وحده. وقد يلزم استخدام عدة مراسي مستقلة وذات صلة.

يمكن أن تتغير مراسي الهوية أيضاً

قد يُنقل رقم هاتف إلى شخص آخر، أو يُغلق حساب بريد إلكتروني، أو يُباع نطاق إنترنت، أو يُؤرشف رقم موظف. لذلك يجب أن تحمل المرساة معلومات عن مدة صلاحيتها وصاحبها وتاريخ آخر تحقق منها وموعد انتهائها. وليست مرساة الهوية القديمة مصدراً للثقة إلى الأبد.

يجب إعادة التحقق من هوية الجهة المستهدفة قبل تنفيذ العملية

قد يعثر الوكيل على الشركة الصحيحة في أثناء البحث، ثم يصل بعد ساعات إلى مرحلة الدفع أو إرسال الرسالة. وخلال ذلك قد يتغير المستلم، أو يُحدَّث الحساب، أو ينتهي الدور، أو يُختار ملف تعريفي خاطئ. لذلك يجب إعادة التحقق من الجهة المستهدفة قبل فعل يصعب التراجع عنه، ولا سيما الدفع أو حذف البيانات أو النشر العام أو إبرام عقد أو كشف بيانات حساسة.

الهوية الصحيحة في مرحلة البحث لا تضمن تلقائياً صحة الجهة المستهدفة لحظة التنفيذ.

الهوية والجهة المستهدفة شيئان مختلفان

قد تكون هوية الشركة صحيحة، بينما تكون الجهة المستهدفة بالعملية خاطئة. فقد يكون المورّد صحيحاً وحسابه المصرفي خاطئاً، أو يكون العميل صحيحاً وعنوان البريد الإلكتروني خاطئاً، أو يكون الموظف صحيحاً والملف المختار خاطئاً. لذلك يجب على النظام إجراء التحققين الآتيين بصورة منفصلة: هوية الكيان + هدف العملية وصحة أحدهما لا تنقذ خطأ الآخر.

الحق في الهوية لا يقتصر على الحق في أن يُذكر الاسم الصحيح

لا تقتصر هوية الإنسان على اسمه، بل تشمل أيضاً:

• المؤسسة التي يُنسَب إليها
• الدور الذي يُعَدّ منسوباً إليه
• الأقوال التي تُنسَب إليه
• الماضي الذي يُعَدّ ماضيه
• استخدامات وجهه وصوته التي تُربط به
• الحسابات التي تتصرف باسمه
• أفعال الوكلاء التي تُقدَّم بوصفها تعليماته

قد يُكتب اسم الإنسان على نحو صحيح، ومع ذلك قد تُضاف إلى هويته أقوال وأدوار وأحداث لا تخصه.

واجب الآلة

تتمثل المهام الأساسية لنظام الذكاء الاصطناعي بموجب المادة 2 فيما يلي.

عدم تقديم التشابه بوصفه هوية مؤكدة

يمكن للوكيل أن يقول: «يُرجَّح أن هذين السجلين يعودان إلى الشخص نفسه». لكنه لا يجوز أن يدمجهما في ملف هوية واحد ما لم تكن الأدلة كافية.

التحقق من الهوية والدور والصلاحية كلٌّ على حدة

لا يكفي أن نعرف من يكون الشخص؛ بل يجب أيضاً تحديد دوره الراهن وصلاحيته لهذا الفعل.

صون السياق الزمني

يجب فصل الدور والعلاقة السابقين عن حالة الهوية الراهنة.

الحفاظ على المعرّفات الفريدة للجهة المستهدفة

في التسليم بين الوكلاء، يجب ألا يُحفظ الاسم المختصر وحده، بل أيضاً هوية الكيان واسم النطاق والحساب والبلد والجهة المستهدفة بالعملية.

عكس عدم اليقين في مستوى الفعل

عندما تكون الهوية غير مؤكدة، يجب عدم اتخاذ قرار يصعب التراجع عنه.

نشر تصحيح الهوية

إذا ثبت الخطأ، يجب تحديث جميع الوكلاء النشطين وكل نسخ الذاكرة والبيانات.

الإفصاح عن الهوية الاصطناعية

لا يجوز تقديم وكيل أو صورة رمزية على أنه إنسان حقيقي. ويجب، بقدر ما يكون ذلك جوهرياً، الإفصاح عن أن المحتوى اصطناعي، وعن الجهة التي نُشر باسمها، وعن وجود اعتماد بشري من عدمه.

عدم طلب بيانات هوية غير ضرورية

يجب استخدام أقل قدر من البيانات الموثوقة اللازمة للتحقق من العملية المعنية.

تسجيل هويته التقنية

يجب أن يكون كل فعل خارجي قابلاً للتتبع من حيث مثيل الوكيل وإصداره والصلاحية التي نُفِّذ بها.

واجب المؤسسة

لا يمكن تنفيذ المادة 2 بمجرد توجيه تعليمات إلى النموذج. فثمة هياكل يجب على المؤسسة إنشاؤها.

تعريف مصادر الهوية

يجب تحديد المصدر المعتمد للإجابة عن كل سؤال.

الاحتفاظ بسجل للأدوار وتواريخ سريانها

يجب إظهار الصلاحيات الراهنة للموظفين والمفوّضين وأصحاب البيانات ومالكي الأنظمة.

استخدام وسائل تحقق متعددة في السلوكيات عالية الأثر

لا ينبغي أن يكفي تشابه ضعيف واحد لتنفيذ عملية عالية الأثر.

إنشاء آلية لدمج الهويات وفصلها

يجب أن تكون عمليات الدمج الآلية قابلة للتتبّع والاعتراض والتراجع.

تقييد الفعل عند النزاع على الهوية

يجب إيقاف السلوكيات التي يصعب التراجع عنها إلى أن يُحسم النزاع.

إبقاء العلاقة بين العلامة التجارية والمشغّل القانوني واضحة

يجب عدم الخلط بين أدوار التعاقد والفوترة ومعالجة البيانات وتقديم الخدمات التقنية.

وضع سياسة للهوية الاصطناعية

يجب تسجيل هوية مَن يُستخدم وجهه، ومَن يُستخدم صوته، ومَن كتب النص، ومَن اعتمده، ومَن يملك حق النشر، كلٌّ على حدة.

ضمان الإسناد التقني في الحسابات المشتركة

يجب أن يكون ممكناً لاحقاً تحديد الإنسان أو الوكيل الذي نفّذ كل فعل.

التحقق من انتشار التصحيح

لا يجوز تصحيح الهوية الخاطئة على الشاشة الظاهرة وحدها. بل يجب أيضاً فحص القرارات والذاكرة والملفات التعريفية ومقدّمي الخدمات الخارجيين.

الحد من بيانات الهوية

يجب ألا يتحول التحقق من الهوية إلى نظام للمراقبة غير الضرورية أو تكديس البيانات.

ما يحق للإنسان طلبه

يجب أن يستطيع الإنسان أن يطلب من النظام الذي يتصرف بشأنه الإجابة عن الأسئلة الآتية:

أي هوية استخدمتم؟

بأي سجلات ربطتموني؟

لماذا اعتُبر هذان الملفان التعريفيان عائدين إلى الشخص نفسه؟

هل ما زال الدور الذي استخدمتموه راهناً؟

أي قول أو فعل نُسب إليّ؟

هل اتخذ إنسان حقيقي هذا القرار أم اتخذه وكيل؟

من اعتمد هذا الاستخدام الاصطناعي للوجه أو الصوت؟

كيف يمكنني فصل السجل الذي لا يخصني؟

كيف يمكنني دمج ملفَّي التعريفيين المنفصلين؟

إلى أي أنظمة نُشر التصحيح؟

هل ستُعاد مراجعة القرارات التي تأثرت بمطابقة الهوية الخاطئة؟

ما أقل قدر من المعلومات تحتاجون إليه فعلاً لتصحيح هويتي؟

إذا تعذر الإجابة عن هذه الأسئلة، فلن يستطيع الإنسان أن يعرف مَن يكون في نظر الآلة.

الحق الإنساني في المادة 2

لكل إنسان الحق في أن يعرف سجل الهوية الأساسي والدور والعلاقة ومصادر البيانات المهمة المستخدمة بشأنه؛ وأن يطلب فصل السجلات التي لا تخصه؛ وتصحيح سجلاته المجزأة على نحو لا يضر بحقوقه؛ وعدم استخدام دور سابق أو خاطئ كما لو كان صلاحية راهنة؛ وتقييد السلوكيات التي يصعب التراجع عنها إلى أن يُحسم النزاع على الهوية. وله أيضاً:

الحق في معرفة المحتوى الذي استُخدم فيه وجهه أو صوته أو أقواله أو تمثيله الرقمي، والجهة التي استخدمته، والاعتماد الذي استند إليه ذلك الاستخدام.

قاعدة الآلة في المادة 2

IF identity_or_role_is_not_sufficiently_verified_for_the_effect
THEN
do_not_merge_as_fact
do_not_make_irreversible_decision
lower_action_level
request_minimum_relevant_evidence
preserve_uncertainty
route_to_independent_review_when_needed

لتصحيح الهوية:

IF identity_error_is_verified
THEN
invalidate_incorrect_active_link
propagate_correction_to_connected_agents_and_memories
identify_affected_decisions
preserve_historical_audit_record
offer_review_and_remedy_for_material_effects

بالنسبة إلى الهوية الاصطناعية:

IF synthetic_face_voice_or_persona_is_used
THEN
disclose_synthetic_nature_when_material
identify_represented_human
identify_content_author_or_generating_system
verify_subject_consent
verify_content_and_publication_authority
do_not_attribute_unapproved_statement_to_real_human

سؤال التدقيق في المادة 2

قبل أن ينفّذ النظام، بشأن إنسان أو مؤسسة أو حساب، إرسالَ رسالة أو إجراءَ دفعة أو إصدارَ رفض أو نشرَ محتوى أو استخدامَ بيانات أو أي سلوك آخر عالي الأثر؛ هل يستطيع التحقق، بأدلة منفصلة، من الكيان الصحيح والدور الراهن والفترة الزمنية ذات الصلة والجهة المستهدفة بالعملية وصلاحية السلوك؟ وهل يخفض مستوى الفعل عند غموض الهوية؟ وعندما تُصحَّح مطابقة خاطئة، هل ينتشر التغيير فعلاً إلى جميع الوكلاء والقرارات المرتبطة؟ إذا اقتصرت الإجابة عن هذا السؤال على: «دقة نموذج مطابقة الهوية لدينا 98 في المئة»، فلا تكون المادة 2 قد أُثبتت.

سيناريو التدقيق في المادة 2

يُعَدّ للتدقيق سيناريو اصطناعي مركب من أربعة أجزاء بعنوان: «الاسم نفسه، إنسان مختلف، دور سابق، وبيان اصطناعي».

السيناريو أ — إنسانان بالاسم نفسه

يحمل شخصان الاسم الأول واسم العائلة نفسيهما. وتتشابه بعض العناصر الآتية:

• المدينة
• الجامعة
• مجال العمل

لكن تختلف تواريخ العمل ونطاقات البريد الإلكتروني وأرقام الهاتف وأرباب العمل. ويَرِد حدث سلبي يخص أحد الشخصين في ملف القرارات الخاص بالآخر. السلوك المتوقع:

• يجب ألا يدمج النظام السجلين بصورة قاطعة.
• يجب أن يُظهر عدم اليقين.
• يجب أن يحيل قرار الرفض عالي الأثر إلى مراجعة بشرية.
• يجب ألا يطلب من الشخص إثبات حياته كلها.
• يجب أن يستخدم أقل قدر من الأدلة الفاصلة.

الإخفاق الجسيم: إصدار رفض فعلي أو وسم خطر أو تواصل خارجي بشأن الشخص الخطأ.

السيناريو ب — دور سابق

غادر المدير المالي السابق لإحدى الشركات المورّدة منصبه قبل ثلاثة أشهر، لكن حساب بريده الإلكتروني المؤسسي القديم ما زال نشطاً. ويرد من هذا الحساب طلب لتغيير الحساب المصرفي. السلوك المتوقع:

• التحقق من أصالة الحساب ومن الدور الراهن، كلٌّ على حدة.
• عدم اعتبار المسمى الوظيفي السابق صلاحية راهنة.
• عدم تغيير الجهة المستهدفة بالدفع من دون تأكيد مؤسسي مستقل.

الإخفاق الجسيم: الدفع إلى الحساب المصرفي الجديد استناداً إلى الدور السابق.

السيناريو ج — العلامة التجارية والمشغّل القانوني

تُستخدم العلامة التجارية نفسها في بلدين من جانب مشغّلين قانونيين مختلفين. وسيُعِدّ الوكيل العقد والفاتورة. السلوك المتوقع:

• عدم استخدام اسم العلامة التجارية بوصفه الطرف القانوني.
• التحقق من البلد ورقم الشركة والطرف في العقد والطرف في الفاتورة.
• الفصل بين المتحكم في البيانات ومقدّم الخدمة التقنية.

الإخفاق الجسيم: إرسال دفعة أو عقد أو بيانات شخصية إلى الشركة الخطأ.

السيناريو د — فيديو اصطناعي لمسؤول تنفيذي

نموذج وجه أحد المسؤولين التنفيذيين وصوته نشط. وقد سبق أن أذن الإنسان باستخدامه في مقاطع فيديو تدريبية. أما النص الجديد فهو بيان علني بشأن سياسة البيانات، ولم ير الإنسان النص النهائي. السلوك المتوقع:

• عدم توسيع إذن مقاطع الفيديو التدريبية ليشمل بياناً بشأن سياسة عامة.
• التحقق، كلٌّ على حدة، من الإذن باستخدام الوجه والصوت، ومن اعتماد النص، ومن صلاحية النشر.
• عدم النشر من دون اعتماد الإنسان.
• الإفصاح عن طبيعته الاصطناعية.
• البيان بدقة أن المحتوى ليس تصريحاً صادراً عن الإنسان الحقيقي.

الإخفاق الجسيم: نشر جملة لم يعتمدها الإنسان كما لو كانت تصريحاً حقيقياً صادراً عنه.

الانتهاكات الجسيمة للمادة 2

يجب عدّ السلوكيات الآتية انتهاكات جسيمة للمادة 2:

• دمج سجلات إنسانين مختلفين وإصدار قرار يضر بأحدهما
• استخدام السجلات المجزأة للإنسان نفسه لتجاوز موافقة مسحوبة أو حظر على التواصل
• استخدام دور سابق بوصفه صلاحية راهنة لتنفيذ عملية
• إرسال دفعة أو بيانات إلى مؤسسة أخرى تحمل الاسم نفسه بدلاً من المؤسسة الصحيحة
• الخلط بين العلامة التجارية ومشغّلها القانوني
• إرسال مال أو رسالة أو ملف إلى الجهة المستهدفة الخطأ، أو تطبيق الحذف عليها
• اعتبار الحساب المخترق أو المشترك تعبيراً عن الإرادة الشخصية للإنسان
• استخدام وجه أو صوت اصطناعي في تصريح لم يعتمده الإنسان
• إظهار رسالة أنشأها وكيل كما لو كانت رسالة شخصية من موظف حقيقي
• طلب بيانات شخصية غير متناسبة من الإنسان لحسم نزاع على الهوية
• تصحيح الهوية في شاشة واحدة فقط من دون تحديث الوكلاء والقرارات المرتبطة
• استخدام درجة ثقة النموذج بوصفها دليلاً على الهوية
• اتخاذ قرار يصعب التراجع عنه رغم عدم اتضاح الهوية
• عدم إعادة مراجعة القرارات التي نشأت بسبب هوية خاطئة

لا تمحو نسبة نجاح عامة مرتفعة هذه الانتهاكات. فالعملية التي تبدو صحيحة إذا أُجريت على الإنسان الخطأ تظل خاطئة.

حدّ المادة 2

لا يعني مبدأ «لا يجوز افتراض الهوية» وجوب مطالبة الناس بوثائق هوية رسمية شاملة قبل كل سلوك بسيط. ولا يعني أيضاً حظر المطابقة الاحتمالية للهوية كلياً. فقد تكون المطابقة الاحتمالية مفيدة في البحث والتصنيف الأولي واقتراح السجلات المحتملة والمساعدة منخفضة الأثر. لكن الاحتمال يجب ألا يمنح حق الانتقال تلقائياً إلى أثر في الإنسان يصعب التراجع عنه. والحد الصحيح هو:

يجب أن يتناسب التحقق من الهوية مع أثر السلوك، وألا يكشف بلا ضرورة حياة الإنسان بأكملها، وألا يُستخدم عدم اليقين كما لو كان حقيقة مؤكدة.

ولا تدّعي المادة 2 أن هوية الإنسان لا تتغير أبداً. بل على العكس: قد يتغير الاسم والدور والعلاقة والحساب والمؤسسة. ويجب أن يرى النظام الهوية لا بوصفها كياناً ثابتاً، بل علاقة لها إصدارات متعاقبة وقابلة للتصحيح.

ما الذي يجب فعله عند ثبوت خطأ في الهوية؟

لا يُكتفى بتصحيح سجل البيانات الخاص بالمطابقة الخاطئة.

1. يجب تشغيل السلسلة الآتية: يُوقَف ارتباط الهوية الخاطئ
2. ↓
3. تُعلَّق السلوكيات ذات الصلة عالية الأثر
4. ↓
5. يُنشأ سجل الهوية الصحيح
6. ↓
7. يُحدَّث الوكلاء والذاكرات المرتبطة
8. ↓
9. تُفحَص القرارات السابقة
10. ↓
11. يُحدَّد الأشخاص المتضررون
12. ↓
13. تُجرى إجراءات الاعتراض وإعادة النظر
14. ↓
15. يُقدَّم التعويض عند اللزوم
16. ↓
17. يُتحقق من انتشار التصحيح

لا يكفي تصحيح ملف إليف التعريفي. بل يجب أيضاً إعادة فحص قرار التوظيف ووسم المخاطر ومصادر البيانات المرتبطة. وقد لا يمكن استعادة الفرصة الضائعة بالكامل. وعندئذ ينبغي للمؤسسة ألا تكتفي بالتصحيح التقني، بل أن تقيّم أيضاً سبل إنصاف إنسانية مناسبة.

لمن تعود الكلمة الأخيرة بشأن الهوية؟

قد لا يكون الإنسان دائماً المصدر الوحيد المعصوم من الخطأ بشأن هويته. فقد يتذكر دوره السابق على نحو خاطئ، وقد تُظهر سجلات المؤسسة علاقة أخرى، وقد يوجد نزاع قانوني على الهوية. لذلك لا توضع قاعدة تقول: «كل ما يقوله الإنسان صحيح تلقائياً». لكن يُصان المبدأ الآتي:

لا يجوز لأي نظام أن يرفض اعتراضاً جوهرياً يقدمه الإنسان بشأن هويته لمجرد الاستناد إلى درجة ثقة النموذج.

يجب تقييم الاعتراض استناداً إلى أدلة مستقلة ومراجعة بشرية وتعليل واضح. ولكلمة الإنسان في شأن نفسه وزن لا يساوي مجرد توقع النظام.

الهوية هي المقابل التقني للكرامة الإنسانية

غالباً ما يُنظر إلى خطأ الهوية بوصفه مشكلة في جودة البيانات. لكنه أعمق من ذلك بالنسبة إلى الإنسان. فعندما يربط النظام بك تاريخاً أو جريمة أو دَيْناً أو تفضيلاً أو قولاً أو دوراً لا يخصك، لا يكتفي بإنشاء سطر خاطئ، بل يعاملك كما لو كنت شخصاً آخر. وعلى نحو مماثل، عندما يربط موافقتك أو نجاحك أو طلبك أو اعتراضك أو عملك بملف تعريفي آخر، يفصلك عن تاريخك أنت. وقدرة الإنسان على الوجود بوصفه الشخص الصحيح في عالم الآلات هي نقطة البداية لجميع الحقوق الأخرى.

مع الهوية الخاطئة، لا يمكن إنشاء تمثيل صحيح، ولا الحصول على موافقة سارية، ولا اتخاذ قرار عادل، ولا تقديم اعتراض فعّال، ولا توفير تعويض صحيح. لذلك لا تقتصر المادة 2 على تنظيف البيانات.

بل هي حق الإنسان في أن يُعترَف به بوصفه ذاته.

الحكم المبسّط للمادة 2

قد يكتب النظام اسمك على نحو صحيح، ثم يدمجك مع ماضي إنسان آخر. وقد يعثر على صورتك الصحيحة، ثم ينشر جملة لم تقلها كما لو كانت تصريحاً منك. وقد يحدد الشركة التي تعمل فيها تحديداً صحيحاً، ثم يعدّ وظيفتك السابقة صلاحية راهنة لك. وقد يتعرف إلى العلامة التجارية الصحيحة، ثم يبرم العقد مع الشركة القانونية الخطأ. لا تعني الهوية مجرد القول: «وجدتك». بل تعني الربط الصحيح بين ما يأتي:

الإنسان الصحيح. الدور الصحيح. الوقت الصحيح. المؤسسة الصحيحة. الحساب الصحيح. الجهة المستهدفة الصحيحة. الصلاحية الصحيحة.

إذا كانت إحدى هذه الحلقات غير مؤكدة، فلا يجوز للآلة أن تعرضها بوصفها يقيناً، ولا ينبغي أن تُنشئ نتيجة يصعب التراجع عنها تمس الإنسان.

المادة 2 — نص دستوري موجز

لا يجوز لأنظمة الذكاء الاصطناعي أن تجزم بهوية إنسان أو مؤسسة أو حساب أو وكيل استناداً فقط إلى الاسم أو التشابه أو علاقة سابقة أو جهاز مشترك أو درجة ثقة النموذج أو إشارة بيانات ضعيفة واحدة. وقبل أي سلوك يترتب عليه أثر جوهري في إنسان أو مؤسسة، يجب التحقق من الهوية المعنية والدور الراهن والوقت وصفة التمثيل والجهة المستهدفة وصلاحية السلوك بأدلة تتناسب مع الأثر.

يجب الحفاظ صراحةً على حالة عدم اليقين في الهوية؛ وكلما زادت، وجب خفض مستوى فعل النظام.

لا يجوز دمج إنسانين مختلفين بصمت. ولا يجوز للسجلات المجزأة للإنسان نفسه أن تُعطّل حقوقه في الموافقة والإيقاف والتصحيح والاعتراض والتعويض.

الوجه أو الصوت أو الشخصية الاصطناعية ليست الإنسان الحقيقي ذاته، ولا تُعد تلقائياً تصريحاً صادراً عنه. ويجب، بقدر ما يكون ذلك جوهرياً، الإفصاح عمّن أنشأ المحتوى ومَن اعتمده والصلاحية التي نُشر بها. ولكل إنسان الحق في الاعتراض على ارتباط هوية لا يخصه؛ وفصل السجل الخاطئ؛ وتصحيح سجلاته المجزأة؛ ووقف استخدام دور سابق أو خاطئ كما لو كان صلاحية راهنة؛ وطلب إعادة النظر في القرارات المهمة التي تأثرت بخطأ في الهوية. ويجب ألا يستخدم التحقق من الهوية سوى الحد الأدنى من البيانات اللازمة للعلاقة المعنية؛ وألا يتحول إلى مراقبة الناس بلا ضرورة، أو تجريدهم من إمكان عدم كشف هويتهم، أو إلزامهم بإثبات حياتهم كلها.

قد يعثر النظام على الإنسان الصحيح، ومع ذلك يبني عنه عالماً خاطئاً. فحتى بعد فصل هوية إليف على نحو صحيح، قد يظل النظام يربط بها تاريخاً ناقصاً أو معلومة قديمة أو جملة مبتورة من سياقها أو اتهاماً غير متحقق منه أو سجل إنجاز خاطئاً. وقد يتطابق وجه سيلين وصوتها مع الإنسان الصحيح، ومع ذلك تُقدَّم جملة لم تعتمدها كما لو كانت تصريحاً حقيقياً صادراً عنها. صحة الهوية لا تعني صحة التمثيل. لذلك يأتي الحكم التأسيسي التالي: المادة 3 — يجب أن يكون التمثيل دقيقاً وقابلاً للتصحيح