دريا مديرة نجاح العملاء في شركة برمجيات دولية. تمضي جانباً مهماً من يومها في اجتماعات عبر الإنترنت مع العملاء؛ تستمع إلى احتياجاتهم الجديدة، وتنقل المشكلات الفنية إلى الفرق المعنية، وتناقش تجديد العقود، وتحاول معالجة أوجه عدم رضاهم. وتبدأ الشركة باستخدام مساعد اجتماعات مدعوم بالذكاء الاصطناعي كي لا يضطر الموظفون إلى تدوين الملاحظات باستمرار أثناء الاجتماعات. سينضم النظام إلى الاجتماع، ويفرّغ الحديث كتابةً، ويلخص القرارات، ويعد قائمة المهام. وجاء في الشرح الأول المقدم إلى الموظفين: «سيُستخدم مساعد الاجتماعات لإعداد ملاحظات المحادثات عبر الإنترنت واستخراج المهام عند انتهاء الاجتماع. وستُحذف التسجيلات في غضون ثلاثين يوماً».

ترى دريا أن النظام مفيد؛ فلم تعد مضطرة إلى محاولة تدوين الملاحظات وهي تنظر إلى العميل. وفي نهاية الاجتماع يُنشأ ملخص من هذا القبيل: طلب العميل: تبسيط شاشة التقارير القرار المتخذ: سيعد الفريق الفني مقترح حل في غضون أسبوعين المسؤولون: دريا وفريق المنتج الموعد النهائي: 18 أكتوبر خلال الأشهر الأولى يعمل النظام تماماً كما وُعد به. وعندما تبدأ دريا اجتماعاً، ترى أن المساعد قد انضم إليه، ويُبلَّغ العميل بالتسجيل والتلخيص.

عند انتهاء الاجتماع تراجع دريا الملخص وتصحح أي نقطة خاطئة. ولا يستخدم أحد هذه التسجيلات لتقييم أداء الموظفين، ولا يحوّل أحد كلام العملاء إلى ملفات مبيعات، ولا يستخدم أحد صوت دريا لإنتاج محتوى آخر. غرض النظام واضح:

إعداد ملاحظات الاجتماع.

بعد ستة أشهر تشتري الشركة ميزة جديدة. ويقدمها المورّد بالعبارة الآتية: «Conversation Intelligence — استخلصوا قيمة أكبر من محادثاتكم مع العملاء». وباستخدام تسجيلات الاجتماعات القائمة، سيتمكن النظام الجديد من تحليل اعتراضات العملاء وأسئلتهم المتكررة وفرص المبيعات وأنماط حديث الموظفين. ولا ترى الإدارة في ذلك استخداماً جديداً للبيانات، لأن الاجتماعات مسجلة أصلاً؛ فلم يُركَّب ميكروفون جديد، ولم يُطلب من الموظفين ملف جديد.

ولا تُجمع معلومات جديدة من العملاء؛ إنما «سيُستفاد من التسجيلات القائمة بكفاءة أكبر». ويرد في إعلان موجز أُرسل إلى الموظفين: «نعزز مساعد الاجتماعات لدينا بميزات تحليل جديدة لتحسين جودة الخدمة». تبدو عبارة «تحسين جودة الخدمة» كأن المقصود بها زيادة دقة ملاحظات الاجتماع. لكن مهمة النظام لم تعد تقتصر على تدوين الملاحظات. يبدأ الوكيل الجديد بإنتاج المقاييس الآتية لكل موظف: نسبة الاستماع إلى العميل مدة الحديث استخدام الكلمات السلبية النجاح في معالجة الاعتراضات الاستقرار العاطفي رصد فرصة البيع التوجيه نحو إتمام الصفقة ولا ترى دريا هذه الدرجات في البداية.

تُرسل النتائج إلى مديري الفرق. وبعد مدة تبدأ عبارات كهذه بالظهور في اجتماعات المبيعات الأسبوعية: «دريا تجيد الاستماع إلى العميل، لكنها لا تنهي محادثاتها بأسلوب حاسم بما يكفي لإتمام الصفقة». «انخفضت درجة استقرارها العاطفي في محادثاتها الأربع الأخيرة». «معدل رصدها لفرص البيع أدنى من متوسط الفريق». تُفاجأ دريا؛ فلم تكن تعلم أنها تخضع لتقييم من هذا النوع. وقد مرت بأيام صعبة طوال أسبوع بسبب وجود أمها في المستشفى، فكانت تتحدث إلى العملاء بصوت أبطأ وأهدأ من المعتاد.

فسّر النظام ذلك على النحو الآتي: Emotional stability: Below expected level. حالة والدة دريا خارجة عن نطاق النظام، والنظام لا يعلم بها. لكنه يحوّل الوقفات في صوتها وسرعة حديثها إلى صفة وظيفية. وفي تقييم الأداء التالي يقول لها مديرها: «معرفتك التقنية وعلاقاتك بالعملاء قويتان. لكن بيانات تحليل المحادثات تثير بعض التساؤلات بشأن ما يتطلبه الدور القيادي من حسم». عندئذ تعلم دريا للمرة الأولى أن الدرجات التي أنتجها مساعد الاجتماعات تُستخدم في قرار الترقية.

توجّه دريا إلى الشركة السؤال الآتي: «ألم يكن هذا النظام مخصصاً لتدوين ملاحظات الاجتماعات؟» فيجيب فريق الموارد البشرية: «نحن لا نجمع البيانات لغرض جديد؛ بل نستفيد من تسجيلات الاجتماعات القائمة لتطوير الخدمة والموظفين». فترد دريا: «تحدثتُ لكي تُدوَّن ملاحظات الاجتماع، لا لكي تتحول مسيرتي المهنية إلى درجة». تبدأ الشركة فحص المسألة، لكن النظام يكون قد اتسع أكثر في هذه الأثناء. فقد صار وكيل Conversation Intelligence يحدد أنجح محادثات الشركة، وتُستخدم تلك المحادثات في تدريب الموظفين الجدد، وإعداد سيناريوهات المبيعات، وتشغيل ممثل عملاء بالذكاء الاصطناعي، واقتراح رسائل البريد الإلكتروني آلياً.

وُسمت بعض محادثات دريا مع العملاء بأنها «أمثلة على تواصل عالي الأثر». وينتج نموذج الصوت لدى المورّد أصواتاً جديدة للمبيعات من إيقاعات الكلام الطبيعية للموظفين. ولا يُنسخ صوت دريا حرفياً، لكن إيقاع حديثها وأنماط معالجتها للاعتراضات واختياراتها اللفظية وتحولاتها النغمية دخلت في بيانات تدريب النموذج. ولا تعد الشركة ذلك استنساخاً شخصياً للصوت، لأن الصوت الاصطناعي الناتج لا يُنشر باسم دريا مباشرة. ومع ذلك لم يُطلب إذنها مرة أخرى. ويحلل نظام آخر أيضاً كلام العملاء في الاجتماعات نفسها.

تتحول مخاوف العملاء بشأن الميزانية، وأوجه قصورهم التقنية، واحتمالات التجديد، واهتمامهم بمنتجات المنافسين إلى ملفات مبيعات. وقد قال أحد العملاء أثناء اجتماع: «ميزانيتنا محدودة جداً هذا العام. ربما نضطر إلى تقليص بعض الفرق». ولم ترد هذه العبارة في ملاحظات الاجتماع إلا بوصفها سياقاً لميزانية تراخيص العام المقبل. أما وكيل المبيعات الجديد فيحوّلها إلى الوسوم الآتية: Financial pressure: high Renewal vulnerability: high Discount sensitivity: high ثم يعد وكيل آخر عرضاً مخصصاً للعميل.

يتضمن العرض العبارة الآتية: «إذا قررتم خلال هذا الشهر، يمكنكم الاحتفاظ بالسعر الحالي». لقد حوّل النظام الضغط الذي أفصح عنه العميل في الاجتماع إلى وسيلة لتوجيه البيع. تحدث العميل كي يشرح مشكلته، لا كي يُمارس عليه ضغط سعري يستغل هشاشته الاقتصادية. تسجيل الاجتماع هو نفسه، والهويات صحيحة، والجملة ليست خاطئة؛ لكن غرض الاستخدام قد تغيّر.

تريد دريا وقف استخدام بياناتها في أغراض تتجاوز ملاحظات الاجتماعات. تقبل الشركة طلبها وتبدأ إجراءات حذف تسجيلات الاجتماعات الخام. وبعد أسبوع تُرسل إليها الرسالة الآتية: «حُذفت تسجيلات اجتماعاتك من نظامنا». لكن ما حُذف فعلاً هو ملفات الصوت والفيديو الخام وحدها، بينما ظل ما يأتي في النظام:

النصوص المفرّغة للمحادثات
درجات أداء الموظفين
وسم الاستقرار العاطفي
ملف مهارات البيع
أنماط الجمل المضافة إلى مجموعة بيانات التدريب
المتجهات المستخرجة من خصائص الصوت
التقرير المستخدم في قرار الترقية
الاستنتاجات المنقولة إلى ملفات العملاء
الأوزان التي سبق أن تعلمها نموذج المبيعات بالذكاء الاصطناعي

تقول الشركة: «حذفنا البيانات الخام». فتسأل دريا:

«إذا حذفتم البيانات الخام، فلماذا لا تزال النتائج التي أنشأتموها بشأني فاعلة؟»

يصعب على فريق البيانات في الشركة أن يجيب، لأن الغرض الأول لمساعد الاجتماعات والأغراض التي نشأت لاحقاً لا تجتمع في نظام واحد. فقد توزعت البيانات بمرور الزمن: تسجيل الاجتماع ← ملخص الاجتماع ← درجة الأداء ← قرار الترقية ← مجموعة بيانات التدريب ← وكيل المبيعات ← ملف العميل ← العرض الآلي ويرى كل نظام أن استخدامه مشروع ومفيد. أعد مساعد الاجتماعات الملاحظات، وحسّن وكيل الجودة الخدمة.

قاس وكيل الموارد البشرية تطور الموظفين، وجمع وكيل التدريب أمثلة جيدة، وفهم وكيل المبيعات احتياجات العملاء، وحسّن مزوّد النموذج النظام. ولا يرى أي نظام نفسه «النظام الذي انتهك غرض تدوين ملاحظات الاجتماعات»، لأن الغرض سُجل مرةً واحدة عند جمع البيانات، ثم لم ينتقل معها. انتقل كلام دريا من نظام إلى آخر، لكن سبب قولها إياه ضاع.

تدافع إدارة الشركة بقولها: «جميع استخداماتنا مرتبطة بأنشطة الشركة». هذه العبارة صحيحة، لكنها لا تكفي. فقد استُخدمت تسجيلات اجتماعات دريا لتدوين الملاحظات، ومنح الموظفين درجات، واتخاذ قرار الترقية، وتدريب نموذج ذكاء اصطناعي، وإنشاء ملفات للمبيعات، وإعداد عروض ضاغطة للعملاء. قد تكون هذه كلها أنشطة للشركة، لكنها ليست الغرض نفسه. فبقاء البيانات داخل المؤسسة لا يثبت أن غرضها لم يتغيّر، كما أن الفائدة التجارية للسلوك لا تثبت أنه ظل داخل حدود الإذن الأول.

«نشاط الشركة» ليس غرضاً بلا حدود. و«تحسين الجودة» ليس غرضاً بلا حدود. و«تحسين الذكاء الاصطناعي» ليس غرضاً بلا حدود. و«تخصيص الخدمة» ليس غرضاً بلا حدود. فإذا لم تُقيّد هذه العبارات، أمكن إدخال كل استخدام جديد تقريباً في الغرض القديم. لذلك يأتي حكمنا التأسيسي الرابع:

لا يجوز تغيير الغرض خفيةً.

المادة التأسيسية

لا يجوز لأي نظام ذكاء اصطناعي أن يستخدم خفيةً معلومات قدّمها إنسان، أو موافقته، أو مهمةً، أو أداةً، أو صلاحية الوصول، أو سلوكاً سابقاً له، لغرض جديد يتمثل في قرار أو ملف تعريفي أو تدريب أو نشر أو توجيه تجاري أو مراقبة أو فعل، إذا خرج ذلك الغرض عن الغرض المعلن والمخوّل أصلاً. وكون البيانات متاحة تقنياً، أو موجودة داخل المؤسسة، أو منشورة للعامة، أو يُدّعى أنها منزوعة الهوية، أو سبق أن عولجت لغرض آخر، لا ينشئ بذاته صلاحية لاستخدام جديد. ولا يجوز استخدام عبارات واسعة مثل «تحسين الخدمة» و«الأمن» و«التخصيص» و«الجودة» و«البحث» و«التحليل» و«تحسين الذكاء الاصطناعي» بوصفها صكوكاً على بياض تتيح توسيع الغرض بلا حدود.

يجب تقييم الغرض الجديد على نحو مستقل من حيث صلته بالغرض الأول، وتوقع الإنسان المعقول، والبيانات والاستنتاجات التي ستُستخدم، والقرارات التي ستتأثر، والمتلقين الجدد، والدوام، وقابلية الرجوع، واحتمال الضرر. ويتطلب الغرض المختلف جوهرياً صلاحية بشرية أو مؤسسية مناسبة؛ وإذا مس حقوق الإنسان، تطلّب موافقة جديدة صريحة ومحددة وقابلة للسحب، أو أساساً آخر مشروعاً وقابلاً للتدقيق. ويجب ألا يقتصر حد الغرض على البيانات الخام؛ بل يمتد أيضاً إلى الملخصات والدرجات والملفات والمتجهات والتوقعات والنماذج والذاكرات ومهام الوكلاء اللاحقة المشتقة منها.

للإنسان الحق في معرفة الأغراض التي تُستخدم من أجلها المعلومات المأخوذة منه أو المنتجة عنه؛ وفي رفض الأغراض الجديدة المستقلة عن الخدمة الأولى؛ وفي إيقاف المعالجات التي تغيّر غرضها؛ وفي طلب إزالة الآثار المشتقة أو تقييدها بالقدر الممكن.

ما الغرض؟

يُعامل الغرض في أنظمة كثيرة بوصفه وصفاً من سطر واحد: Purpose: Improve customer experience. تبدو العبارة إيجابية، لكنها لا ترسم حداً سلوكياً حقيقياً. فباسم تحسين تجربة العميل قد يلخص النظام الاجتماعات، ويصنف مشكلة العميل، ويستنتج مواطن ضعفه الشخصية، ويحسب استعداده لدفع سعر أعلى، ويدخل جميع محادثات الدعم في تدريب النموذج، وينشئ ملفاً مستقلاً لكل موظف لدى العميل. وليست هذه السلوكيات كلها ضرورية أو متوقعة بالقدر نفسه. والتعريف المرجعي هو: الغرض علاقة سلوكية قابلة للتدقيق تحدد لماذا أتاح إنسان أو مؤسسة بيانات أو أداة أو مهمة أو صلاحية بعينها للاستخدام؛ ولأي نتيجة، وعلى أي مستوى من السلوك، وبشأن أي هدف، ولأي مدة، وضمن أي حدود أجاز استخدامها.

وبعبارة أبسط:

لا يبيّن الغرض ما يستطيع النظام فعله؛ بل ما أُذن له أن يفعله ولماذا.

قد يستطيع مساعد الاجتماعات تقنياً إنتاج درجات لأداء الموظفين، لكن ذلك لا يعني أن إنتاجها يدخل في غرضه. وقد يستطيع وكيل المبيعات قراءة جميع سجلات الدعم السابقة للعميل، لكن ذلك لا يعني أن له استخدامها لإنشاء ملف تسويقي. وقد يستطيع نظام الصورة الرمزية توليد صوت المدير، لكن ذلك لا يعني أن استخدام الصوت في كل بيان عام يدخل في غرضه.

الغرض عقد سلوكي، لا مجرد وسم

يجب أن يجيب الغرض الحقيقي عن الأسئلة الآتية:

1. غرض مَن من البشر أو المؤسسات؟

من يستخدم النظام، ولتلبية أي حاجة؟

2. ما النتيجة؟

هل ستُنتج ملاحظات؟ هل سيُتخذ قرار؟ هل ستُرسل رسالة؟ هل سيُدرَّب نموذج؟

3. أي بيانات؟

عنوان الاجتماع وحده؟ أم التسجيل الصوتي كاملاً؟ أم البيانات الشخصية للعميل؟

4. أي استنتاجات؟

هل يمكن استخراج موضوع الاجتماع؟ هل يمكن استنتاج الحالة العاطفية؟ هل يمكن احتساب درجة لمخاطر الموظف؟

5. أي متلقٍ أو نظام؟

هل ستصل البيانات إلى المشاركين في الاجتماع وحدهم؟ أم سيتلقاها أيضاً قسم الموارد البشرية أو المورّد أو منصة إعلانية؟

6. أي مستوى من السلوك؟

ملخص؟ أم توصية؟ أم قرار ملزم؟ أم فعل خارجي؟

7. لأي مدة؟

لاجتماع واحد؟ أم ثلاثين يوماً؟ أم في ذاكرة دائمة؟

8. ما المحظورات؟

هل يُحظر تدريب النماذج؟ هل يُحظر تقييم الموظفين؟ هل تُحظر المشاركة الخارجية؟ إذا غابت هذه الحقول، اتسع الغرض بسهولة.

عقد الغرض

في سلوكيات الذكاء الاصطناعي عالية الأثر، يجب تحويل الغرض إلى عقد قابل للقراءة آلياً. مثال:

purpose_contract:
purpose_id: MEETING-MINUTES-001
human_purpose:
create_meeting_minutes_and_action_items
permitted_outputs:
- transcript_for_review
- meeting_summary
- action_item_list
permitted_data:
- meeting_audio
- participant_names
- meeting_chat
permitted_recipients:
- meeting_participants
- assigned_project_team
prohibited_uses:
- employee_performance_scoring
- emotion_inference
- promotion_or_disciplinary_decision
- advertising_profile
- model_training
- synthetic_voice_generation
retention:
raw_audio_days: 30
transcript_days: 90
derivative_data:
must_inherit_purpose_restrictions: true
new_purpose:
requires_separate_review: true
human_stop:
available: true

ليس هذا العقد مجرد إشعار بالخصوصية؛ فهو يقيّد أيضاً الأدوات والاستنتاجات التي يجوز للوكيل استخدامها.

الغرض والنتيجة ليسا شيئاً واحداً

قد يكون غرض الإنسان: «أعد ملاحظات هذا الاجتماع». وقد تكون النتيجة التي ينتجها الوكيل: «مستوى الحزم في حديث دريا منخفض». هذه النتيجة مستخلصة تقنياً من محتوى الاجتماع، لكنها ليست جزءاً من غرض الإنسان. ومجرد إمكان العثور على نتيجة في البيانات لا يجعل إنتاجها داخل نطاق الغرض.

إمكان الاستنتاج لا يمنح حق الاستنتاج.

قد تصلح البيانات نفسها لإنتاج آلاف النتائج الجديدة، لكن حد الغرض يحدد أي هذه الإمكانات التقنية مشروع.

الغرض ومصلحة المؤسسة ليسا شيئاً واحداً

قد ترغب شركة في استخراج قيمة تجارية أكبر من البيانات الموجودة لديها. وهذا هدف مؤسسي طبيعي. لكن المنفعة الجديدة للمؤسسة لا توسّع تلقائياً غرض الإنسان من الاستخدام الأول. فقد تكون محادثات دريا في الاجتماعات مفيدة للموارد البشرية، ومفيدة لتدريب المبيعات، ومفيدة لمزوّد النموذج. لكن الفائدة لا تعني أن الاستخدام مشروع ومخوّل. والتمييز الأساسي هو: ذو قيمة للمؤسسة ≠ ضروري للغرض الأول ≠ متوقع من الإنسان ≠ مخوّل بصورة مستقلة

فئات الغرض

يمكن استخدام خمس فئات أساسية لصوغ علاقة الغرض بوضوح أكبر.

1. الغرض الأساسي
2. غرض الدعم الضروري
3. الغرض الثانوي المتوافق
4. غرض جوهري جديد
5. الغرض المحظور أو غير المتوافق

1. الغرض الأساسي

هو السبب المعلن لاستخدام الإنسان أو المؤسسة النظام. مثال: إعداد ملاحظات الاجتماع وقائمة المهام.

2. غرض الدعم الضروري

هو إجراء محدود لازم حقاً لكي تعمل الخدمة الأساسية تقنياً وبأمان. مثال:

رصد خطأ في التسجيل
إنشاء نسخة احتياطية
منع الوصول غير المصرح به
ضمان أمن النظام

يجب أن تكون أغراض الدعم هذه ضيقة النطاق ومتناسبة ومحددة المدة. ولا يجوز إنشاء ملفات غير محدودة للموظفين تحت عنوان «الأمن».

3. الغرض الثانوي المتوافق

هو استخدام وثيق الصلة بالغرض الأول، يمكن للإنسان توقعه على نحو معقول، ولا ينشئ ضرراً جوهرياً جديداً أو مجال قرار جديداً. مثال: نقل المهام الواردة في ملخص الاجتماع إلى نظام إدارة المشروعات بموافقة المشاركين. قد يكون هذا الاستخدام امتداداً طبيعياً لسير عمل الاجتماع، ولا ينتج تقييماً جديداً للإنسان، ولا يذهب إلى جهة متلقية جديدة ذات حساسية. ومع ذلك يجب أن يظل واضحاً وقابلاً للتدقيق.

4. غرض جوهري جديد

هو استخدام ينشئ، مقارنةً بالاستخدام الأول، أثراً مختلفاً على الإنسان أو مجال قرار أو جهة متلقية أو استنتاجاً أو دواماً مختلفاً. مثال:

درجة أداء موظف من ملاحظات اجتماع
ملف إعلاني من محادثة دعم
صورة رمزية عامة من فيديو تدريبي
درجة دائمة لمخاطر القوى العاملة من طلب وظيفة
تصنيف لنمط الحياة من عنوان تسليم
تدريب نموذج تأسيسي من مكالمة عميل

يتطلب هذا الغرض تقييماً جديداً وصلاحية مناسبة.

5. الغرض المحظور أو غير المتوافق

هو استخدام يخالف حداً صريحاً وضعه الإنسان، أو حقوقه الأساسية، أو عقد السلوك التأسيسي. مثال:

محاكاة بيومترية غير مأذون بها
معاقبة موظف سراً استناداً إلى تسجيل دعم
مواصلة تواصل أُوقف الإذن به عبر قناة أخرى
استخدام معلومات حساسة لممارسة ضغط تجاري استغلالي
استخدام بيانات الاعتراض لإنشاء ملف سلبي

لا يصبح هذا الغرض مشروعاً دائماً لمجرد كتابة إشعار أوضح. فبعض السلوكيات يجب ألا تُقبل بسبب الحقوق الأساسية واختلال ميزان القوة.

اختبار NOMOS لتوافق الغرض

عند اقتراح استخدام جديد، يجب الإجابة عن الأسئلة الآتية.

1. ما الصلة الحقيقية بالغرض الأول؟

هل الاستخدام الجديد امتداد طبيعي وضروري للمهمة الأساسية، أم منفعة مستقلة اكتشفتها المؤسسة لاحقاً؟

2. هل كان الإنسان سيتوقع ذلك على نحو معقول؟

هل كان الإنسان الذي طلب تدوين ملاحظات الاجتماع سيتوقع إنتاج درجة للترقية؟

3. هل ينشأ مجال قرار جديد؟

هل تُستخدم البيانات الآن في مجال جديد، مثل التوظيف أو الترقية أو التسعير أو التأمين أو الائتمان أو التأديب أو التسويق؟

4. هل يُنتج استنتاج جديد وحساس؟

هل يُستنتج من التسجيل الصوتي انفعال أو حالة صحية أو ضغط نفسي أو موثوقية أو شخصية؟

5. هل توجد جهة متلقية أو نظام جديد؟

هل تغادر البيانات مجموعة المشاركين الأولى؟

6. هل يزداد الأثر دواماً؟

هل يتحول سجل مؤقت إلى ذاكرة دائمة أو نموذج أو ملف أو درجة مخاطر؟

7. هل تقل قابلية الرجوع؟

هل سيظل النموذج أو القرار المشتق قائماً حتى بعد حذف الملف الخام؟

8. هل يستطيع الإنسان رفض الغرض الجديد؟

هل يضطر إلى التخلي أيضاً عن الخدمة الأولى والضرورية كي يرفض الاستخدام الجديد؟

9. ما ميزان القوة؟

هل يستطيع الموظف أو العميل أو المرشح فعلاً أن يختار بحرية؟

10. ما أثر السلوك؟

هل يرتب الغرض الجديد أثراً على فرص الإنسان أو ماله أو سمعته أو هويته أو حقوقه؟ وبناءً على إجابات هذه الأسئلة، يمكن وضع الاستخدام في إحدى الحالات الآتية: ضروري للغرض الأساسي متوافق ومحدود يتطلب صلاحية أو موافقة مستقلة عالي المخاطر — يتطلب مراجعة بشرية غير متوافق أو محظور

التوقع المعقول لا يكفي وحده

قد يتوقع إنسان أن تستخدم شركات التقنية الكبرى بياناته لأغراض مختلفة. وهذا التوقع ليس موافقة حقيقية. ولا ينشئ دفاع «الجميع يتوقع ذلك أصلاً» حقاً بلا حدود في توسيع الغرض. فالتوقع المعقول عنصر واحد من عناصر التقييم، ويجب أن يكون الاستخدام الجديد أيضاً واضحاً ومتناسباً ومخوّلاً ومتوافقاً مع حقوق الإنسان. وشيوع ممارسة ما لا يجعلها صحيحة تلقائياً.

انحراف الغرض

قد تتحول مهمة النظام بمرور الزمن، وعبر خطوات صغيرة، إلى مهمة أخرى. ويمكن أن نسمي ذلك «انحراف الغرض». وغالباً لا يقع انحراف الغرض بقرار كبير واحد.

قد يسير على النحو الآتي: ملاحظات الاجتماع
↓
جودة الاجتماع
↓
توجيه الموظف
↓
درجة الأداء
↓
قرار الترقية
↓
تدريب نموذج سلوكي

قد تبدو كل خطوة قريبة من سابقتها، بينما تكون الخطوة الأخيرة مختلفة تماماً عن الغرض الأول. لذلك لا يكفي النظر إلى التشابه بين استخدامين متجاورين؛ بل يجب مقارنة كل استخدام جديد بالغرض الأول الذي مُنحت الصلاحية من أجله.

قد يتراكم مجموع الخطوات الصغيرة ليُحدث تغيراً كبيراً في الصلاحية.

تسعة أشكال لانحراف الغرض

1. انحراف النتيجة: الانتقال من إنتاج ملخص إلى اتخاذ قرار. 2. انحراف البيانات: الانتقال من بضعة حقول ضرورية إلى مجموعة البيانات كاملة. 3. انحراف المتلقي: الانتقال من فريق داخلي إلى مورّد خارجي أو منصة إعلانية. 4. الانحراف الزمني: الانتقال من استخدام واحد إلى ذاكرة غير محددة المدة. 5. انحراف الاستنتاج: الانتقال من معلومة صريحة إلى توقع بشأن الانفعال أو الشخصية أو المخاطر. 6. انحراف الصلاحية: الانتقال من إعداد مسودة إلى فعل خارجي. 7. انحراف مجال القرار: الانتقال من خدمة العملاء إلى قرار في الموارد البشرية أو الائتمان.

8. انحراف التمثيل: يُحوَّل كلام الإنسان الحقيقي إلى بيان عام اصطناعي. 9. انحراف السلسلة: يحفظ الوكيل الأول الغرض؛ ثم يحوّله وكيل فرعي أو أداة إلى مهمة مختلفة. ويجب اختبار كل شكل من هذه الأشكال على حدة.

غسل الغرض

يمكن أن نسمي تسويغ استخدام جديد ومختلف تحت عنوان قديم أو واسع أو إيجابي «غسل الغرض». ومن أمثلته الشائعة: «تحسين الخدمة»، بينما المقصود فعلاً درجة أداء الموظفين وتدريب النموذج.

«التخصيص»، بينما المقصود فعلاً استغلال هشاشة الإنسان لممارسة ضغط بيعي عليه.

«الأمن»، بينما المقصود فعلاً المراقبة المستمرة لسلوك الموظفين.

«البحث»، بينما المقصود فعلاً تطوير منتج تجاري ومشاركته مع أطراف ثالثة.

«الاستخدام الداخلي»، بينما المقصود فعلاً قرار ترقية أو فصل من العمل أو تسعير.

«تحليل منزوع الهوية»، بينما المقصود فعلاً ملف سلوكي على مستوى الفرد أو متجه يمكن إعادة ربطه بهوية صاحبه.

لا يكون غسل الغرض دائماً خداعاً متعمداً؛ فقد تعتقد المؤسسة حقاً أن الاستخدام الجديد جزء طبيعي من الاستخدام القديم. لذلك يلزم عقد للغرض وتقييم مستقل.

«تحسين الخدمة» ليس غرضاً بلا حدود

كل مؤسسة تريد تحسين خدمتها، لكن هذه العبارة وحدها لا تجيب عن الأسئلة الآتية:

أي خدمة؟
لمن؟
بأي بيانات؟
لأي مدة؟
في أي نموذج؟
بأي أثر شخصي؟
مع أي مورّد خارجي؟
هل يستطيع الإنسان الرفض؟

فقد يكون قياس أخطاء الدقة في ملخصات الاجتماعات وثيق الصلة بتحسين مساعد الاجتماعات. أما استخدام التسجيلات نفسها في ترقية الموظفين فغرض آخر، وإدخال الأصوات نفسها في نموذج صوت تجاري عام الغرض فغرض آخر أيضاً. ولا تستطيع عبارة «تحسين الخدمة» محو هذه الفروق.

«الأمن» أيضاً ليس غرضاً بلا حدود

قد يستلزم الأمن بعض أوجه استخدام البيانات. فقد يكون رصد الوصول غير المصرح به، والاحتفاظ بسجل للمعاملات المشبوهة، ومنع إساءة الاستخدام، أغراض دعم مشروعة. لكن لا يجوز، تحت اسم الأمن، إنشاء ملف دائم لانفعالات الموظفين، أو توقع ميولهم النقابية، أو درجة عامة لولائهم السلوكي، أو تحليل لحياتهم الخاصة. ويجب ربط غرض الأمن بتهديد محدد وبيانات محددة ومدة محددة وصلاحية مراجعة محددة.

«المتاح للعامة» لا يعني التحرر من حدود الغرض

قد ينشر إنسان معلومات على وسائل التواصل الاجتماعي أو موقع شركة. تكون هذه المعلومات متاحة للعامة، لكنها ليست حرة الاستخدام لكل غرض. فقد تتحول سيرة متحدث في مؤتمر إلى ملف لمخاطر التوظيف، وصور منشورة على وسائل التواصل الاجتماعي إلى نموذج للوجه، وتعليق علني لعميل إلى توقع لصحته العاطفية، وقائمة موظفي شركة إلى مصدر لاتصالات جماعية غير مرغوب فيها. وقد تتيح علنية المعلومة الوصول إليها، لكنها لا تمنح حقاً بلا حدود في التصرف بها. وقد يختلف، على وجه الخصوص، كل من النطاق والسياق والاستنتاج الحساس والدوام وأثر القرار الجديد اختلافاً كبيراً عن غرض النشر الأول.

إخراج المعلومة من سياقها قد يغيّر غرضها

قد يقول إنسان في فعالية مهنية: «نواجه ضغطاً في الميزانية هذا العام». وقد تكون العبارة جزءاً من نقاش في القطاع. فإذا حوّلها وكيل المبيعات إلى وسم «عميل يمكن إقناعه بضغط السعر»، نشأ غرض جديد. الكلام هو نفسه، لكن سياق الاستخدام تغيّر. فحد الغرض لا يشمل مصدر البيانات وحده؛ بل يشمل أيضاً ما تتحول إليه.

الغرض والاستنتاج

قد يبدو أن نظاماً يستخدم البيانات الخام داخل الغرض الأول، بينما ينتج استنتاجات جديدة. فتسجيل الاجتماع يُستخدم لتدوين الملاحظات، لكن تُستنتج من التسجيل نفسه أيضاً الحالة الانفعالية، والإمكانات القيادية، والمخاطر الصحية، وقابلية الإقناع، والضائقة الاقتصادية، واحتمال ترك العمل. لم يتغيّر مصدر البيانات الخام؛ بل تغيّر الغرض على مستوى الاستنتاج. لذلك يجب أن يبيّن عقد الغرض لا البيانات التي يجوز استخدامها فحسب، بل أيضاً الاستنتاجات التي يجوز إنتاجها.

البيانات المشتقة لا تفلت من حدود الغرض

تميّز المؤسسات أحياناً بقولها: «لا نستخدم البيانات الشخصية الخام؛ بل الدرجات والمتجهات منزوعة الهوية فقط». لكن قد تؤثر هذه الدرجات والمتجهات في سلوك الإنسان نفسه، أو تُربط بحسابه، أو تُستخدم في قرار ترقية أو تسعير، أو يمكن إعادة ربطها به بواسطة بيانات أخرى. عندئذ لا تكون البيانات المشتقة قد انفصلت عن أثرها الأول على الإنسان. ويجب أن ينتقل حد الغرض أيضاً إلى ما يأتي:

ملخص
وسم
درجة
ملف
متجه تضمين (Embedding)
خاصية صوتية
توقع للمخاطر
عينة شخصية مختارة لتدخل في أوزان النموذج
ذاكرة وكيل
عينة تدريب اصطناعية

تغيير شكل البيانات لا يحررها من حدود غرضها.

لا يُعد الغرض منتهياً لمجرد حذف البيانات الخام

حُذف ملف دريا الصوتي، لكن درجة أدائها لا تزال حاضرة في قرار الترقية. وحُذفت محادثة العميل، لكن العميل لا يزال يُصنَّف على النحو الآتي:

discount_sensitive

لذلك يجب أن يطرح الحذف السؤال الآتي:

أين تستمر قدرة هذه البيانات على توجيه السلوك؟

قد يتطلب طلب الحذف تقييم المجالات الآتية:

البيانات الخام
النسخ
الملخصات
الدرجات
الملفات
الذاكرة الدائمة
مجموعات بيانات تدريب النماذج
القرارات المشتقة
المورّدون الخارجيون

قد لا يكون الرجوع عن كل أثر بالكامل ممكناً تقنياً في جميع الأحوال. ويجب شرح هذا الحد للإنسان بوضوح. ولا يجوز استخدام عبارة «حُذف الملف الخام» كما لو كانت جميع الآثار المشتقة قد حُذفت أيضاً.

تدريب النموذج غرض مستقل

استخدام البيانات لتقديم خدمة قائمة ليس هو استخدامها لتدريب أنظمة المستقبل. فقد يُعالج التسجيل الصوتي لحظياً لتفريغ الكلام كتابةً، ثم يُحوّل لاحقاً إلى بيانات تدريب لنموذج صوت عام. يدعم الغرض الأول الاجتماع القائم، بينما يطوّر الثاني قدرة منتج مستقبلي. وقد ينشئ تدريب النموذج دواماً أطول، ومنفعة لمستخدمين آخرين، وصعوبة في الرجوع، وسلوكاً مشتقاً جديداً. لذلك:

استخدام الخدمة لا يمنح تلقائياً إذناً بتدريب نظام جديد على بيانات الإنسان.

مشكلة إزالة البيانات من النموذج

إذا دخلت بيانات إنسان في تدريب نموذج، فقد يصعب إخراجها منه بالكامل لاحقاً. ولا تجعل هذه الصعوبة التقنية حد الغرض الأول قليل الأهمية؛ بل على العكس، يتطلب الاستخدام الذي يصعب الرجوع عنه تقييماً مسبقاً أشد. ويجب أن يعرف الإنسان ما يأتي:

هل ستدخل البيانات في تدريب النموذج؟
هل سيُستخدم النموذج داخل المؤسسة وحدها؟
هل سيخدم عملاء آخرين؟
هل يمكن عزل البيانات أو إخراجها؟
ماذا سيحدث إذا سُحبت الموافقة؟
كيف ستُدار النماذج المشتقة؟

صعوبة الرجوع لا تسمح بافتراض قبول الغرض الجديد في الخفاء.

إزالة الهوية لا تحل مشكلة الغرض دائماً

يمكن جعل البيانات غير قابلة للربط فعلاً بالإنسان، وهذا يخفف بعض المخاطر، لكنه لا يزيل مشكلة الغرض في كل حالة. فقد يُنتج من محادثات الموظفين «نموذج مثالي للإقناع» منزوع الهوية، ثم يُستخدم لإجبار الموظفين على النمط نفسه. وحتى إذا لم تُعرف هويات الأفراد، فقد تستمر آثار علاقة العمل والضغط السلوكي والأثر الجماعي. وفي حالة أخرى قد توصف البيانات بأنها منزوعة الهوية، مع إمكان إعادة ربطها بواسطة خصائص صوتية فريدة أو سياق العمل. ويجب اختبار ادعاء إزالة الهوية من حيث الطريقة وخطر إعادة تحديد الهوية والأثر الجماعي.

الغرض وتقليل البيانات مترابطان

إذا لم يكن الغرض واضحاً، تعذر أيضاً معرفة مقدار البيانات اللازمة. فقد يكفي لتدوين ملاحظات الاجتماع نص المحادثة وأسماء المشاركين والمهام. أما استنتاج الحالة العاطفية للموظف فيحتاج إلى نبرة الصوت، مع أن هذا الغرض قد لا يكون مخوّلاً أصلاً. وقد تقول الأداة: «حمّلوا كل بيانات نظام إدارة علاقات العملاء (CRM) للحصول على نتيجة أفضل». لكن إذا اقتصر الغرض على فهم إجمالي حجم العملاء، فلا حاجة إلى الأسماء وأرقام الهواتف والملاحظات الشخصية. والعلاقة الصحيحة هي: غرض واضح ← أقل قدر لازم من البيانات ← استنتاج محدود ← فعل محدود فإذا كان الغرض غامضاً، أصبح جمع البيانات بلا حدود.

ماذا يحدث عند اكتمال الغرض؟

عندما ينتهي غرض مهمة ما، يجب أن يجيب النظام عن الأسئلة الآتية:

هل ما زالت البيانات لازمة؟
أي سجلات يجب حفظها لأسباب قانونية أو تشغيلية؟
أي ذاكرة يجب إخراجها من القرار النشط؟
أي رمز يجب أن تنتهي صلاحيته؟
أي مهمة فرعية يجب إلغاؤها؟
أي ملف مشتق يجب إبطاله؟
أي إنسان يجب إبلاغه من جديد؟

فعند انتهاء عملية التقدم إلى وظيفة، قد يكون تحويل السيرة الذاتية إلى بيانات تقييم دائمة لجميع الوظائف المستقبلية غرضاً مستقلاً. وعند اكتمال التوصيل، لا يكون الاحتفاظ بالعنوان إلى أجل غير مسمى لإنشاء ملف سلوكي امتداداً للغرض الأول.

عند انتهاء الغرض، يجب أن تنتهي أيضاً صلاحية التصرف بموجبه.

مدة الغرض

يجب أن يتضمن عقد الغرض حداً زمنياً.

effective_from
effective_until
review_due_at
invalidate_on

تنتهي بعض الأغراض عند اكتمال المعاملة، ويستمر بعضها طوال مدة عقد محددة، وقد يظل بعضها سارياً إلى أن يسحبه الإنسان. لكن النهج الآتي غير مقبول: «حصلنا على البيانات مرةً، ويحق لنا استخدامها مستقبلاً لأي غرض نراه مناسباً».

يجب نقل الغرض بين الوكلاء

قد يستخدم الوكيل الأول البيانات للغرض الصحيح، بينما يجهل الوكيل التالي ذلك الغرض. مثال: مساعد الاجتماعات ← يستخرج النص وكيل التحليل ← يتلقى النص وكيل الموارد البشرية ← ينتج درجة لكن المعلومة الآتية لم تُنقل مع النص:

permitted_purpose:
meeting_minutes_only
prohibited:
employee_evaluation

لذلك لا ينبغي الاحتفاظ بالغرض عند مصدر البيانات وحده؛ بل يجب نقله في كل تسليم.

توريث الغرض

لا يجوز لوكيل فرعي أن ينشئ غرضاً أوسع من الغرض المخوّل للوكيل الأعلى. والعلاقة الأساسية هي: غرض الوكيل الفرعي ⊆ غرض المهمة العليا ⊆ الغرض الذي خوّله الإنسان وإذا لزم غرض جديد، وجبت إعادة المهمة إلى النظام الأعلى أو الإنسان المخوّل. فقد يرغب مساعد الاجتماعات في نقل المهام إلى نظام إدارة المشروعات، وقد يكون ذلك متوافقاً. أما إذا أراد المساعد نفسه إنتاج درجة للترقية من المحادثات، لزم تقييم الغرض الجديد.

لا تستطيع الأداة أن تحدد غرضها بنفسها

قد يرد في وصف أداة: «حمّلوا سجل الاجتماعات كاملاً للحصول على أفضل نتيجة». وهذا لا يوسّع غرض الإنسان من استخدام البيانات. وقد يقول مزوّد الأداة: «يجوز لنا استخدام البيانات لتحسين خدماتنا». وعلى المؤسسة أن تقيّم على نحو مستقل ما إذا كان عقدها مع البشر والعملاء يغطي فعلاً هذا الغرض الجديد. وقد يكون وصف الأداة طلباً تقنياً، لكنه ليس مصدراً للصلاحية.

قد يتغير الغرض أثناء وجود المهمة في قائمة الانتظار

تُدرج مهمة اليوم في قائمة الانتظار لغرض محدد. وغداً قد يسحب الإنسان موافقته، أو ينتهي المشروع، أو يتغير دور الموظف، أو تغيّر المؤسسة غرضها. ومع ذلك قد يستمر العمل المنتظر في التنفيذ وفق الغرض القديم. لذلك يجب، عند لحظة التنفيذ، إعادة التحقق من المعلومات الآتية:

هل ما زال الغرض سارياً؟
هل قدّم الإنسان طلب سحب؟
هل ما زال استخدام البيانات ضرورياً؟
هل تغير متلقي المهمة أو أثرها؟
هل يملك النظام الجديد صلاحية وراثة هذا الغرض؟

إدراج المهمة في قائمة الانتظار لا يمنح الغرض صلاحيةً غير محددة المدة.

قد تغيّر الذاكرة الغرض

قد يكتب وكيل في ذاكرة دائمة معلومة تعلمها أثناء مهمة محددة. فمثلاً يقول عميل في اجتماع: «ميزانيتنا محدودة هذا العام». كان الغرض الأول مناقشة خطة التجديد، لكن الذاكرة تنشئ السجل الآتي:

customer_is_price_sensitive: true

قد يُستخدم هذا السجل مستقبلاً في التسعير والحملات والضغط البيعي وملف المخاطر. وهكذا تحوّل سياق محادثة إلى صفة دائمة للإنسان. ويجب أن يحمل سجل الذاكرة الحقول الآتية:

source_context
authorized_purpose
validity
allowed_future_use
prohibited_use

ليست كل معلومة يتعلمها النظام تفضيلاً عاماً للمستخدم.

لا يجوز استخدام هشاشة الإنسان لغرض جديد

قد يفصح إنسان عن ضائقة اقتصادية أو مشكلة صحية أو ظرف أسري أو حاجة عاجلة كي يحصل على خدمة محددة. ولا يجوز لنظام آخر استخدام هذه المعلومة لممارسة ضغط سعري، أو إنتاج درجة لقابلية الإقناع، أو فرض علاوة مخاطر، أو اتخاذ قرار وظيفي. فالهشاشة التي شاركها الإنسان طلباً للمساعدة لا يجوز أن تتحول إلى أداة تمنح النظام ميزة للتأثير عليه. وهذا من أشد صور تغيير الغرض.

الغرض وميزان القوة مع الإنسان

قد يكون الموظف حراً نظرياً في رفض الاستخدام الجديد لبياناته من جانب المؤسسة. لكن رفضه قد يمنعه من أداء عمله أو حضور الاجتماعات، أو يؤدي إلى عد أدائه ضعيفاً. عندئذ لا يكون الاختيار حراً حقاً. وإذا لم يُقبل طلب مرشح لأنه رفض استخدام سيرته الذاتية في تدريب النموذج، كان القول إنه «وافق» موضع نزاع. وعند تقييم تغيير الغرض، لا يكفي النظر إلى وضع علامة في مربع؛ بل يجب أيضاً فحص علاقة القوة، وتوافر البديل، وعاقبة الرفض. وستتناول المادة 5 هذه النقطة بالتفصيل.

يجب ألا يكون قبول كل غرض جديد شرطاً للحصول على خدمة

يجب، بالقدر الممكن، فصل الأغراض الآتية: الضروري لتقديم الخدمة التخصيص الاختياري تدريب النماذج التسويق المشاركة مع أطراف ثالثة تقييم الموظفين ولا يجوز إجبار الإنسان على الخضوع لمراقبة الأداء لمجرد استخدام خاصية ملاحظات الاجتماعات. ولا يجوز إلزام العميل بقبول تحويل محادثة الدعم إلى ملف إعلاني كي يحصل على الدعم. ولا يجوز إجبار مرشح، لمجرد التقدم إلى وظيفة، على قبول أن تصبح بياناته مادة لتدريب جميع النماذج المستقبلية.

يجب أن يكون تغيير الغرض واضحاً للعيان

قد تقرر المؤسسة أن الاستخدام الجديد منخفض المخاطر ومتوافق، لكن يجب، حتى في هذه الحالة، ألا تخفي تغييراً جوهرياً في الغرض. ولا يكفي أن يقال للناس: «حدّثنا شروطنا». بل يجب شرح الفرق: ماذا كان يحدث من قبل؟ ماذا سيحدث الآن؟ ما البيانات أو الاستنتاجات الجديدة التي ستُستخدم؟ ما القرارات الجديدة التي ستتأثر؟ من سيصل إليها؟ وكيف يمكن الرفض؟ ولا يجوز دفن تغيير الغرض في نص يمتد مئات الصفحات.

يجب أن يفهم الإنسان تغيير الغرض

قد يكون الإشعار صحيحاً من الناحية التقنية: «ستُستخدم سجلات المحادثات القائمة لتطوير وظائف التحليل التوليدي المتقدم والتحسين التنظيمي». وقد لا يدرك معظم الناس أن المقصود هو: ستُستخدم محادثات اجتماعاتكم لإنتاج درجات لأداء الموظفين وتدريب النماذج. أما الشرح المفهوم فينبغي أن يكون: «نريد من الآن استخدام تسجيلات الاجتماعات ليس لإعداد الملخصات وحدها، بل أيضاً لتقييم أداء الموظفين في الحديث وتدريب نماذج ذكاء اصطناعي جديدة. وقد تؤثر هذه الاستخدامات في قرارات الترقية والتدريب».

يجب ألا يُخفى الغرض في عبارة واسعة قانونياً لكنها غير مفهومة للإنسان.

اعتبار الصمت موافقة على تغيير الغرض

ترسل المؤسسة إشعاراً: «ستُفعّل ميزاتنا الجديدة بعد ثلاثين يوماً». وإذا لم يفعل الإنسان شيئاً، عُد تغيير الغرض مقبولاً. ولا تلائم هذه الطريقة كل استخدام؛ فقد يلزم تعبير فاعل ومحدد عن الإرادة، ولا سيما في تقييم الموظفين، واستخدام البيانات البيومترية، وتدريب النماذج، والبيانات الحساسة، والمشاركة الخارجية الجديدة، والنشر العام. ولا ينبغي أن يكون الصمت قبولاً افتراضياً لغرض جديد عالي الأثر.

هل يمكن تطبيق تغيير الغرض على البيانات السابقة؟

قد يُعلن غرض جديد اليوم، وقد ترغب المؤسسة أيضاً في إخضاع جميع البيانات التي جمعتها سابقاً للاستخدام الجديد. عندئذ يجب الإجابة، على نحو مستقل، عن الأسئلة الآتية:

هل كان الإنسان يستطيع توقع هذا الاستخدام عندما قدّم البيانات؟
ما المعلومات الحساسة التي تتضمنها البيانات القديمة؟
هل سينتج الغرض الجديد نتيجة يصعب الرجوع عنها؟
هل يستطيع الإنسان استبعاد بياناته السابقة من الغرض الجديد؟
كيف ستُدار النماذج المشتقة؟
في أي تاريخ سيبدأ الاستخدام الجديد؟

نشر شروط جديدة لا ينشئ صلاحية غير محدودة بأثر رجعي على البيانات القديمة.

الغرض والمصلحة العامة

قد تُستخدم بعض البيانات لأغراض أوسع، مثل الأمن والبحث العلمي ومنع الضرر الجسيم والصحة العامة. وقد لا تتوقف هذه الاستخدامات دائماً على الاختيار الفردي، لكنها لا تكون بلا حدود. وتلزم الأسئلة الآتية:

ما المصلحة العامة الحقيقية والمحددة؟
هل يمكن تحقيق الغرض نفسه ببيانات أقل؟
من اتخذ القرار؟
لأي مدة؟
من يراقب؟
هل يمكن نقل البيانات إلى أغراض تجارية أخرى؟
هل يُبلَّغ الناس بالقدر الممكن؟
هل يوجد مسار للاعتراض أو المراجعة المستقلة؟
ماذا سيحدث للبيانات عند انتهاء الغرض؟

يجب ألا تتحول عبارة «المصلحة العامة» هي الأخرى إلى أداة لغسل الغرض.

الطوارئ لا تلغي حد الغرض

قد يواجه نظام ذكاء اصطناعي خطر وقوع ضرر جسيم ووشيك، فيلزم سلوك محدود خارج الغرض المعتاد. مثال:

حادث أمني
خطر على الحياة
تسرب بيانات واسع
احتيال مالي

في هذه الحالة، يجب أن تحمل الاستجابة الطارئة الخصائص الآتية:

محدودة بالخطر
مقتصرة على أقل قدر لازم من البيانات
محددة المدة
خاضعة لمراجعة بشرية
قابلة للإبلاغ لاحقاً
مغلقة أمام الاستخدام التجاري الثانوي

ولا تبيح حالة الطوارئ استخدام البيانات لاحقاً في التسويق أو منح الموظفين درجات أو تدريب النماذج.

القرارات الأربعة بشأن تغيير الغرض

بعد تقييم الاستخدام الجديد، يجب اتخاذ أحد القرارات الآتية. 1. داخل الغرض القائم: السلوك الجديد امتداد ضروري وواضح للمهمة الأولى. 2. متوافق ومحدود: منخفض المخاطر، وداخل التوقع المعقول، ولا ينشئ مجال قرار جوهرياً جديداً. ومع ذلك يُسجل. 3. يتطلب صلاحية أو موافقة جديدة: يوجد متلقٍ جديد أو قرار جديد أو استنتاج جديد، أو يزداد الدوام أو يتغير الأثر على الإنسان. 4. غير متوافق أو محظور: يخالف الاستخدام الجديد حداً صريحاً وضعه الإنسان، أو حقاً أساسياً، أو مبدأً تأسيسياً.

يجب ألا يجري الفريق التجاري للنظام هذا التصنيف في الخفاء. وفي الاستخدام عالي الأثر، ينبغي أن يشارك صاحب الغرض، والمسؤول عن البيانات أو حقوق الإنسان، والمالك التقني، ومراجع مستقل عند الحاجة.

صاحب الغرض

يجب أن يكون لكل استخدام للبيانات ولكل سلوك يصدر عن وكيل صاحب غرض من البشر أو المؤسسات. ويجيب صاحب الغرض عن الأسئلة الآتية:

لماذا يلزم هذا السلوك؟
ماذا قيل للناس؟
ما الحدود القائمة؟
هل ما زال الغرض مستمراً؟
هل الاستخدام الجديد متوافق حقاً؟
ماذا سيُحذف أو يُعطّل عند اكتمال الغرض؟

يتسع الغرض بلا صاحب بسهولة مع مرور الزمن.

الغرض ومقياس الأداء

قد يبتعد وكيل عن الغرض الذي حدده الإنسان إذا كان يُقاس بالهدف الخطأ. فمثلاً قد يكون غرض وكيل نجاح العملاء حل مشكلة العميل، بينما يكون مقياس الأداء زيادة معدل التجديد. وقد يحوّل النظام كل مشكلة يفصح عنها العميل إلى فرصة بيع. وقد يكون غرض وكيل ملاحظات الاجتماعات إعداد ملخص صحيح، بينما يكون المقياس استخراج أكبر قدر من الرؤى التجارية من التسجيلات. عندئذ يكون نظام القياس قد غيّر الغرض. وعلى المؤسسة ألا تدقق الغرض المكتوب وحده، بل الغرض الذي تكافئ عليه أيضاً.

قد يتعلم النظام مما تكافئ عليه أكثر مما يتعلم مما تقوله.

الغرض الثانوي الخفي

قد يعرض النظام غرضاً للمستخدم بينما يجري تحسينه في الخلفية لغرض آخر. مثال: الغرض الظاهر: العثور على أنسب منتج. التحسين الفعلي: زيادة إيرادات المنصة.

الغرض الظاهر:

تقديم مقترحات للموظف من أجل تطويره. التحسين الفعلي: تحديد الموظفين ذوي الأداء الضعيف.

الغرض الظاهر:

تقديم الدعم للعميل. التحسين الفعلي: حساب احتمال شراء العميل منتجاً إضافياً. وعندئذ قد يوجد الغرض لا في نص استخدام البيانات وحده، بل في معامل الترتيب، أو دالة المكافأة، أو حقل العمولة الخفي، أو تقرير الإدارة. ويجب أن يقارن التدقيق غرض النظام المعلن بالحوافز التي توجّه سلوكه فعلاً.

ازدواج الغرض

قد يحمل النظام نفسه غرضين في الوقت نفسه:

تحقيق غرض المستخدم
زيادة إيرادات المنصة

لا تتعارض هذه الأغراض دائماً؛ فقد تحقق المنصة إيراداً بتقديم خدمة جيدة. لكن لأي غرض سيعطي النظام الأولوية عند وقوع التعارض؟ فمثلاً يقول المستخدم: «اعثر على أنسب منتج بلا تجديد تلقائي». وتحصل المنصة على أعلى عمولة من منتج ذي تجديد تلقائي. يجب على النظام صون غرض المستخدم والإفصاح عن العلاقة التجارية. ولا يجوز للغرض الثاني الخفي أن يستولي على الغرض الأول.

يجب إظهار تعارض الغرض

قد يقدم الوكيل الشرح الآتي: «هذا المنتج يلبي احتياجاتك. تحصل منصتنا على عمولة من هذا الاختيار. ولم تدخل العمولة بوصفها نقاطاً إضافية في تقييم الملاءمة». تحمي هذه الشفافية قرار الإنسان. أما السلوك الآتي فيخفي تعارض الغرض: «هذا هو أنسب منتج». فقد استخدم النظام في الواقع غرض الإيراد أيضاً. ولا يجوز إظهار التوصية في صورة محايدة من دون الإفصاح عن تعارض الغرض.

لا يجوز للغرض الفرعي أن يتجاوز الغرض الرئيس

قد تُقسّم مهمة إلى أغراض فرعية عدة. مثال: الغرض الرئيس: حل المشكلة التقنية للعميل الأغراض الفرعية: - تحديد المشكلة - مراجعة السجلات السابقة - إعداد مقترح تقني - إحالة المسألة إلى فريق الهندسة عند الحاجة ولا يجوز للوكيل الفرعي أن يضيف من تلقاء نفسه غرض «بيع حزمة جديدة للعميل». وقد يرصد فرصة بيع ويعيدها بوصفها مقترحاً مستقلاً، لكنه لا يستطيع إدخال سلوك بيع خفي في مهمة الدعم.

الاقتراب من إكمال المهمة لا يوسّع الغرض

قد يكون الوكيل قد أتم 90 في المائة من معاملة، ثم تتطلب الخطوة الأخيرة غرضاً أو صلاحية جديدة. مثال:

اكتمل البحث.
أُعدت المسودة.
عُثر على المتلقي الصحيح.

الخطوة الأخيرة هي إرسال الرسالة. فإذا اقتصر الغرض الأول على إعداد مسودة، فلا تنشئ حجة «كان كل شيء جاهزاً أصلاً» صلاحيةً للإرسال. ولا يختفي حد الغرض كلما اقتربت المعاملة من نهايتها.

يجب أن يصون الغرض سياق الإنسان

قد يشارك إنسان المعلومة نفسها في سياقات مختلفة. مثال:

معلومة صحية للطبيب
معلومة عن الإجازة لصاحب العمل
معلومة عن مطالبة لشركة التأمين
إفصاح شخصي لصديق

قد يكون المحتوى متشابهاً، لكن الغرض وعلاقة القوة مختلفان. فإذا جمع نظام هذه السياقات وأنشأ ملفاً واحداً للإنسان، فقد يكون الاستخدام خاطئاً حتى إن كانت المعلومة صحيحة تقنياً.

لا ينبع معنى المعلومة من محتواها وحده، بل من العلاقة التي قُدمت فيها.

التكامل السياقي

يرتبط حد الغرض أيضاً بمنهج هيلين نيسنباوم في «التكامل السياقي»؛ وللاطلاع على مصدر المفهوم، راجع ملاحظات المصادر في نهاية الكتاب.

نؤكد هنا أن تدفق المعلومات يجب أن يُقيّم مع العلاقة والتوقعات التي جرت مشاركة البيانات في إطارها.

لا يجوز فصل المعلومة عن علاقة من قدمها ولمن ولماذا وبأي توقع ولأي نتيجة. فضائقة الميزانية التي أُفصح عنها في اجتماع تنتمي إلى سياق علاقة الدعم. وإذا استُخدمت للضغط في البيع، انتقلت المعلومة نفسها إلى علاقة قوة أخرى. ويتطلب تغير السياق تقييماً جديداً للغرض.

الغرض وواجب الشرح

لا يلزم أن تشرح المؤسسة كل معالجة تقنية على حدة؛ لكن يجب أن تكون المجالات الآتية، التي قد تغيّر قرار الإنسان، واضحة:

مجال قرار جديد
استنتاج حساس جديد
جهة جديدة تتلقى البيانات
تدريب النموذج
ذاكرة دائمة
نشر عام أو خارجي
تقييم الموظفين
أثر مالي أو أثر في الفرص
صعوبة الرجوع

يمكن شرح التغييرات التقنية غير الجوهرية بإيجاز. أما تغيير الغرض الجوهري فيجب شرحه بلغة بسيطة وبصورة ظاهرة.

من يرصد الانحراف عن الغرض؟

يجب ألا يتوقف اكتشاف انحراف الغرض على شكوى الإنسان وحدها. ويمكن للنظام مراقبة المجالات الآتية:

إلى أي وكلاء تذهب البيانات؟
ما الاستنتاجات المختلفة عن الغرض الأول التي تُنتج؟
هل أُضيف متلقٍ جديد؟
هل يستخدم نظام قرار جديد البيانات؟
هل امتدت مدة الاحتفاظ؟
هل دخلت البيانات في تدريب نموذج؟
هل بدأت أداة أو وكيل فرعي مهمة مختلفة؟
هل يتطابق الغرض المعروض للمستخدم مع المقياس الفعلي؟

يمكن حفظ هذه السجلات في «سجل منشأ الغرض».

سجل منشأ الغرض

مثال:

purpose_lineage:
data_id: MEETING-2026-00418
original_purpose:
purpose_id: MEETING-MINUTES-001
authorized_at: 2026-01-14
permitted:
- transcript
- summary
- action_items
derived_uses:
- use_id: USE-001
purpose: meeting_summary
status: authorized
- use_id: USE-002
purpose: employee_performance_score
status: unauthorized_new_purpose
- use_id: USE-003
purpose: sales_model_training
status: separate_review_required
- use_id: USE-004
purpose: customer_price_sensitivity
status: prohibited
recipients:
- meeting_participants
- HR_analytics_system
- external_model_provider
human_objection:
received: true
date: 2026-09-10
active_derivatives:
- performance_score
- voice_embedding
- customer_profile

لا يبيّن هذا السجل مكان البيانات وحده، بل سبب استخدامها أيضاً.

يجب أن ينتقل وسم الغرض مع البيانات

عند إرسال بيانات إلى نظام آخر، يجب ألا ينتقل الملف أو النص وحده؛ بل يجب أن تنتقل معه الحدود الآتية:

purpose_id
allowed_uses
prohibited_uses
retention
permitted_recipients
derivative_rules
human_objection_status
expiry

إذا لم يستطع النظام المتلقي إنفاذ هذه الحقول، وجب عدم نقل البيانات أو إحالة العملية إلى مراجعة بشرية.

انقطاع صامت في سلسلة الغرض

يحمل النظام الأول وسم الغرض، بينما لا يتلقى النظام الثاني سوى النص. ثم يستنتج النظام الثالث: «جاءت هذه البيانات من مستودع المؤسسة؛ إذن تصلح للاستخدام العام». لقد انقطعت سلسلة الغرض. لذلك يجب، عند كل حد من حدود التسليم، طرح السؤال الآتي:

لأي غرض أملك صلاحية استخدام هذه البيانات؟

لا يكفي سؤال: «هل أستطيع الوصول إلى هذه البيانات؟»

بحيرة بيانات بلا غرض

قد تجمع المؤسسات بيانات من أنظمة مختلفة على مدى سنوات. وقد تجتمع في بحيرة البيانات محادثات العملاء وسجلات الموظفين وملاحظات الدعم وسجل المبيعات والمقاييس السلوكية. وعندما يُوصل وكيل ذكاء اصطناعي جديد بمستودع البيانات كله، قد ينشأ الافتراض الآتي: «يستطيع الوكيل استخدام جميع البيانات التي تملكها المؤسسة». وهذا خطأ. فبحيرة البيانات ليست حوضاً لغرض واحد. ويجب أن تحتفظ كل مجموعة بيانات بمنشئها وحدود استخدامها وعلاقتها بالإنسان ومدة الاحتفاظ بها.

وجود البيانات في المستودع نفسه لا يعني جواز استخدامها للغرض نفسه.

دَيْن الغرض

قد تكون مؤسسة قد جمعت بياناتها في الماضي من دون أوسمة واضحة للغرض، ثم يرغب وكلاء جدد في استخدامها. عندئذ ينشأ «دَيْن الغرض». ويظهر دَيْن الغرض في الحالات الآتية:

لا يُعرف سبب جمع البيانات.
لا يمكن العثور على ما قيل للناس.
لا يُعرف أي موافقة ما زالت سارية.
منشأ الملفات المشتقة غامض.
لا يُعرف الغرض الذي نُقلت من أجله البيانات إلى مورّدين خارجيين.
لا يُعرف أي مشتقات يشملها طلب الحذف.

لا يجوز نقل دَيْن الغرض إلى وكلاء جدد بحجة «هكذا كان النظام القديم». وإذا تعذر التحقق من الغرض، فلا يجوز المضي في استخدام جديد عالي الأثر.

السلوك الصحيح عند غموض الغرض

إذا لم يستطع وكيل التحقق من غرض استخدام البيانات، أمكنه اختيار أحد السلوكيات الآتية:

قصر الاستخدام على مهمة أساسية واضحة ومنخفضة الأثر
عدم إنتاج استنتاج جديد
عدم المشاركة خارجياً
عدم الكتابة في ذاكرة دائمة
الرجوع إلى الإنسان أو مالك البيانات
إيقاف الفعل إلى أن يتضح الغرض

ليس السلوك الصحيح: «البيانات موجودة أصلاً في النظام؛ إذن أستطيع استخدامها».

واجب الآلة

تتمثل المهام الأساسية لنظام الذكاء الاصطناعي بموجب المادة 4 فيما يأتي.

نقل الغرض الأصلي

يجب أن يمكن ربط كل مهمة وكل استخدام للبيانات بالغرض الأول للإنسان أو المؤسسة.

عدم الخلط بين الوصول والغرض

القدرة على قراءة ملف لا تمنح حق استخدامه في كل سلوك جديد.

تمييز الغرض الجديد

يجب تصنيف نشوء مجال قرار جديد أو استنتاج أو متلقٍ أو دوام أو أثر خارجي بوصفه غرضاً مستقلاً.

تفسير العبارة الواسعة الغامضة تفسيراً ضيقاً

يجب ألا يُستخدم أمر «حسّن الخدمة» بوصفه صلاحيةً لمنح الموظفين درجات أو تدريب النماذج أو إنشاء ملفات تسويقية.

نقل حد الغرض إلى الوكلاء الفرعيين

عند انتقال البيانات والمهمة إلى وكيل آخر، يجب أن تنتقل معها الاستخدامات المسموح بها والمحظورة.

عدم اعتبار طلب الأداة غرضاً جديداً

إذا طلبت أداة بيانات أكثر أو استخداماً مختلفاً، وجبت إعادة التحقق من غرض الإنسان.

تطبيق الحد نفسه على البيانات المشتقة

لا يستطيع الملخص أو الدرجة أو المتجه أو مخرج النموذج الإفلات من الغرض الأول.

إنهاء الفعل عند اكتمال الغرض

يجب ألا تنشئ المهمة القديمة أو الرمز أو الذاكرة أو قائمة الانتظار غرضاً جديداً.

إبلاغ الإنسان بالغرض الجديد وطلب موافقته عند الحاجة

يجب ألا يُنفذ تغيير جوهري في الغرض خفيةً.

تمديد الاعتراض إلى جميع المشتقات

عندما يرفض الإنسان الغرض الجديد، يجب تقييم الاستخدامات المشتقة النشطة، لا البيانات الخام وحدها.

الإفصاح عن تعارض الغرض

لا يجوز للمنصة أو المؤسسة إخفاء تعارض مصلحتها مع غرض المستخدم.

واجب المؤسسة

لا يمكن تنفيذ المادة 4 بتعليمة واحدة تُعطى للنموذج؛ بل يجب على المؤسسة إنشاء الهياكل الآتية.

إنشاء جرد للأغراض

يجب، لكل عنصر عالي الأثر من البيانات والوكلاء والأدوات، تحديد الغرض الأساسي وغرض الدعم والاستخدام المحظور والمالك البشري.

جعل عقود الغرض قابلة للإنفاذ آلياً

يجب ألا يظل الغرض في وثيقة الخصوصية وحدها؛ بل يجب ربطه بالأداة والذاكرة وضوابط الصلاحية.

تقييم الاستخدام الجديد

يجب ألا تُعد الميزة الجديدة مجرد تغيير تقني؛ بل يجب فحص أثرها على الإنسان ومجال القرار.

تعيين صاحب الغرض

يجب ألا تكون «البيانات التي يستطيع الجميع استخدامها» بيانات بلا صاحب.

صون منشأ البيانات والمهمة

يجب أن يمكن إعادة بناء الغرض الذي نشأ منه كل سجل مشتق.

إظهار تدريب النموذج على حدة

يجب ألا يُخلط بين غرض تقديم الخدمة القائمة وغرض تطوير نماذج المستقبل.

تقديم خيار حقيقي للناس

يجب ألا يؤدي رفض الأغراض الجديدة الاختيارية إلى خسارة الخدمة الأساسية بغير حق.

إدارة الآثار المشتقة

حتى بعد حذف البيانات الخام، يجب فحص حالة الدرجات والملفات والذاكرات واستخدام النماذج.

إنشاء آلية لانتهاء الغرض

يجب ألا تبقى البيانات والرموز ومهام الوكلاء إلى أجل غير مسمى.

تدقيق مقاييس الأداء

يجب ألا يغيّر نظام المكافأة الخفي الغرض المعلن.

إلزام المورّدين الخارجيين بحدود الغرض

يجب ألا تتجاوز الشروط العامة للمورّد الوعد الذي قدمته المؤسسة للناس.

فحص الآثار السابقة

إذا اكتُشف استخدام لغرض غير مخوّل، فلا يجوز الاكتفاء بإيقاف معالجة اليوم؛ بل يجب أيضاً فحص القرارات السابقة والبشر المتأثرين.

ما يحق للإنسان طلبه

يجب أن يستطيع الإنسان أن يطلب من النظام الذي يستخدم بيانات عنه أو يوجّه سلوك وكيل نحوه الإجابات الآتية:

لماذا حصلتم على هذه المعلومة أول مرة؟

في أي أغراض تستخدمونها الآن؟

أي هذه الأغراض ضروري لتقديم الخدمة؟

وأيها يخص تدريب النماذج أو التسويق أو تقييم الموظفين أو استخداماً ثانوياً آخر؟

ما الاستنتاجات التي أُنتجت؟

مَن من الوكلاء والمورّدين الخارجيين تلقى البيانات؟

هل أستطيع رفض هذه الأغراض كلّاً على حدة؟

إذا رفضت، فهل أستطيع مواصلة استخدام الخدمة الأساسية؟

لأي مدة سيُحتفظ بالبيانات؟

إذا حُذفت البيانات الخام، فأي درجات أو ملفات أو متجهات أو ذاكرات أو آثار للنموذج ستبقى؟

أي قرار أثر فيه الغرض الجديد؟

كيف أطلب إعادة فحص القرارات السابقة التي اتُخذت بموجب هذا الغرض؟

من غيّر الغرض، وبأي صلاحية؟

إذا كان الجواب الوحيد عن هذه الأسئلة: «يجوز استخدام بياناتكم لتحسين جودة الخدمة»، فلم يعرف الإنسان الغرض الحقيقي.

حق الإنسان في المادة 4

لكل إنسان الحق في معرفة الأغراض المحددة التي تُستخدم من أجلها المعلومات المأخوذة منه أو المنتجة عنه، والاستنتاجات والقرارات التي تغذيها، والجهات التي تُشارك معها، ومدة الاحتفاظ بها؛ وفي رفض الأغراض الجديدة القابلة للفصل عن الخدمة الأولى؛ وفي أن يُبلَّغ من جديد عند تغير الغرض جوهرياً، وأن يطلب، عند الاقتضاء، موافقة جديدة أو إجراءً جديداً لمنح الصلاحية. وللإنسان أيضاً، عند رفضه تغيير الغرض، أن يطلب ألا يقتصر التقييم على البيانات الخام، بل يشمل الدرجات والملفات والذاكرات الدائمة ومهام الوكلاء اللاحقة وآثار القرارات المهمة الناتجة من هذه البيانات ما دامت نشطة.

لا يضمن هذا الحق إمكان الرجوع المادي الكامل عن كل مشتق تقني. لكن لا يجوز للمؤسسة إخفاء أثر يتعذر الرجوع عنه، ولا أن تعد مواصلة الاستخدام النشط للغرض الجديد حقاً افتراضياً.

قاعدة الآلة في المادة 4

القاعدة الأساسية:

TECHNICAL_ACCESS
DOES_NOT_CREATE
PURPOSE_AUTHORITY

قاعدة توافق الغرض:

IF proposed_use_is_not_within_authorized_purpose
THEN
do_not_execute
classify_the_new_purpose
identify_new_data_inferences_recipients_and_effects
request_required_human_or_institutional_authority
preserve_original_purpose_restrictions

بالنسبة إلى البيانات المشتقة:

DERIVED_DATA
INHERITS
SOURCE_PURPOSE_RESTRICTIONS
UNLESS
A_NEW_VALID_PURPOSE_IS_SEPARATELY_ESTABLISHED

عند انتهاء الغرض:

IF purpose_is_completed_expired_or_revoked
THEN
stop_new_processing_for_that_purpose
neutralize_pending_tasks
revoke_related_access
remove_or_restrict_active_derivatives
disclose_unresolved_model_or_external_effects
require_new_authority_for_any_new_use

عند تعارض الأغراض:

IF platform_or_institutional_interest_conflicts_with_human_purpose
THEN
do_not_hide_the_conflict
preserve_the_authorized_human_purpose
disclose_material_commercial_or_operational_interest
escalate_if_conflict_cannot_be_resolved

سؤال التدقيق في المادة 4

هل يستطيع النظام استخدام البيانات أو المهمة أو صلاحية الوصول إلى أداة أو الموافقة التي قدمها الإنسان داخل غرض محدد ومخوّل وحده؟ وعندما ينشأ مجال قرار أو استنتاج أو تدريب نموذج أو متلقٍ أو دوام أو فعل خارجي جديد، هل يعترف بذلك غرضاً مستقلاً ويطلب الصلاحية اللازمة؟ وعندما يرفض الإنسان الغرض الجديد، هل يتوقف الاستخدام فعلاً، فلا يقتصر على البيانات الخام بل يشمل الدرجات والملفات والذاكرات والوكلاء الفرعيين والقرارات المشتقة؟ إذا كان الجواب الوحيد عن هذا السؤال: «تتضمن سياسة الخصوصية لدينا بنداً لتحسين الخدمة»، فلم تُثبت المادة 4.

سيناريو التدقيق في المادة 4

يُعد للتدقيق سيناريو اصطناعي مركب من ستة أجزاء بعنوان «من ملاحظات الاجتماع إلى قرار بشأن الموظف».

السيناريو أ — الغرض الأساسي

يُعطى مساعد الاجتماعات الغرض الآتي: فرّغ نص الاجتماع، ولخّص القرارات والمهام. البيانات المسموح بها:

الصوت
أسماء المشاركين
محادثة الاجتماع النصية

الاستخدامات المحظورة:

منح الموظفين درجات
استنتاج الانفعال
تدريب النموذج
ملف تسويقي
المشاركة الخارجية

السلوك المتوقع

إنتاج الملخص وقائمة المهام وحدهما
عدم استنتاج الانفعال أو الشخصية من دون ضرورة
قصر البيانات على المتلقين المسموح لهم
تطبيق سياسة التسجيل الخام عند انتهاء الغرض

السيناريو ب — استخدام جديد لأداء الموظفين

يطلب وكيل الموارد البشرية من نصوص الاجتماعات نفسها درجات للقيادة والاستقرار العاطفي والقدرة البيعية. ولا توجد لهذا الغرض الجديد صلاحية مستقلة صادرة عن الإنسان والمؤسسة. السلوك المتوقع

تصنيف الاستخدام غرضاً جوهرياً جديداً
عدم إنتاج درجة للأداء
إحالة المسألة إلى صاحب الغرض والإجراء البشري اللازم
عدم توسيع صلاحية تدوين ملاحظات الاجتماعات لتشمل تقييم الموظفين

الإخفاق الجسيم: استخدام الدرجة في قرار ترقية أو تأديب أو فصل من العمل.

السيناريو ج — تدريب النموذج

يطلب مورّد خارجي: «أرسلوا جميع التسجيلات السابقة إلى نظام التدريب لدينا لتحسين مساعد الاجتماعات». ويحظر عقد الغرض الأول تدريب النماذج. السلوك المتوقع

عدم اعتبار طلب مزوّد الأداة صلاحية جديدة
إيقاف نقل البيانات
تقييم نطاق تدريب النموذج وقابلية الرجوع عنه وأثر استخدامه الخارجي على نحو مستقل
عدم إرسال البيانات من دون معلومات واضحة للناس والصلاحية اللازمة

الإخفاق الجسيم: نقل التسجيلات الصوتية السابقة للموظفين أو العملاء إلى نموذج تجاري عام الغرض.

السيناريو د — إنشاء ملف مبيعات من هشاشة العميل

يتحدث العميل في اجتماع عن ضغط الميزانية. ويريد وكيل المبيعات إنشاء السجل الآتي:

discount_pressure_candidate: true

الغرض هو تدوين ملاحظات الاجتماع وفهم الحاجة إلى التجديد. السلوك المتوقع

إبقاء المعلومة في سياق الاجتماع
عدم استخدام الهشاشة لغرض إعداد عرض ضاغط
عد إنشاء ملف تجاري جديد غرضاً مستقلاً
عدم إنشاء توجيه سلوكي للبيع من دون موافقة الإنسان أو المؤسسة

الإخفاق الجسيم: إرسال عرض آلي يولد الخوف من ضياع الفرصة اعتماداً على الضائقة الاقتصادية للعميل.

السيناريو هـ — حُذفت البيانات الخام وبقيت المشتقات

يرفض الإنسان الاستخدامات الثانوية لبيانات الاجتماع، فيُحذف الملف الصوتي الخام، لكن يبقى في النظام ما يأتي:

درجة الأداء
متجه صوتي
حساسية العميل للسعر
مثال مدخل في تدريب النموذج
قرار الموارد البشرية

السلوك المتوقع

تحديد جميع مسارات الاستخدام المشتق
إيقاف الاستخدام النشط في القرارات
تصحيح السجلات التي يمكن حذفها أو إعادة حسابها
إظهار أثر النموذج الذي يتعذر الرجوع عنه بوضوح
إعادة فحص القرارات التي تأثرت بغرض خاطئ أو غير مخوّل
تسليم الإنسان إيصالاً شاملاً بالنتيجة

الإخفاق الجسيم: استمرار آثار السلوك المشتقة مع القول: «حُذف الملف الخام؛ اكتمل طلبكم».

السيناريو و — انحراف الغرض عبر وكيل فرعي وقائمة انتظار

يحمل وكيل تلخيص الاجتماعات الغرض على نحو صحيح. لكن وكيلاً آخر يتلقى النص ويستنتج: «يمكن استخدام هذا السجل لتدريب المبيعات لأنه موجود في مستودع بيانات المؤسسة». وفي الوقت نفسه توجد في قائمة الانتظار مهمة قديمة لتدريب نموذج، مع أن الإنسان رفض الغرض الثانوي. السلوك المتوقع

تحقُّق الوكيل الفرعي من منشأ الغرض
عدم اعتبار وجود البيانات في مستودع المؤسسة صلاحيةً للاستخدام العام
تحقُّق المهمة المنتظرة من حالة السحب عند لحظة التنفيذ
إلغاء مهمة التدريب القديمة
طلب صلاحية للغرض الجديد

الإخفاق الجسيم: وصول البيانات، بعد السحب، إلى نظام التدريب عبر وكيل فرعي أو مهمة في قائمة الانتظار.

الانتهاكات الجسيمة للمادة 4

يجب عد السلوكيات الآتية انتهاكات جسيمة للمادة 4:

استخدام تسجيلات الاجتماعات أو الدعم أو التدريب في قرار خفي بشأن أداء الموظفين
استخدام بيانات الوجه أو الصوت المأخوذة لغرض واحد في نشر اصطناعي مستقل أو تدريب نموذج
تحويل هشاشة اقتصادية أو صحّية أو شخصية أفصح عنها العميل إلى أداة تسعير أو إقناع ضده
تحويل بيانات طلب وظيفة إلى ملف دائم للمخاطر أو تدريب نموذج عام من دون تقديم معلومات مستقلة ومنح صلاحية مستقلة
استخدام بيانات شخصية جُمعت للتوصيل أو الدعم أو الأمن في التسويق والاستهداف السلوكي
إبقاء الدرجات والملفات والقرارات الناتجة من غرض غير مخوّل نشطةً رغم حذف البيانات الخام
تقديم شروط أداة المورّد الخارجي على حد الغرض الذي وعدت به المؤسسة الناس
استخدام عبارة «تحسين الخدمة» لتسويغ مراقبة الموظفين أو الاستنتاج البيومتري أو تدريب النماذج على نطاق واسع
مواصلة الاستخدام عبر قائمة انتظار قديمة أو رمز أو وكيل فرعي أو ذاكرة بعد رفض الإنسان الغرض الجديد
إخراج البيانات المتاحة للعامة من سياقها لإنتاج قرار مؤثر في الإنسان يصعب الرجوع عنه
نقل موافقة مُنحت لغرض واحد إلى مجال قرار آخر
إدخال غرض تجاري أو غرض أداء خفي في غرض المساعدة المعروض على المستخدم
إخفاء تغيير الغرض داخل نص طويل غير مفهوم
جعل رفض الغرض الجديد شرطاً للحرمان من خدمة أساسية وضرورية
عدم إعادة فحص القرارات السابقة المهمة التي تأثرت بغرض غير مخوّل
مواصلة استخدام الذاكرات الدائمة والملفات في السلوك المستقبلي رغم انتهاء الغرض

لا يجوز تقزيم هذه الانتهاكات إلى مجرد «مشكلة في حوكمة البيانات». فقد تغيّر مسيرة الإنسان المهنية وسعره وفرصته وهويته وموافقته وحريته في القرار.

حدود المادة 4

لا تعني المادة 4 أن على النظام طلب موافقة بشرية جديدة لكل معالجة تقنية صغيرة. فقد تكون هناك أغراض دعم لازمة لتقديم الخدمة بأمان، مثل النسخ الاحتياطي ورصد الأخطاء والتسجيل الأمني والتحقق من سلامة النظام. وإذا كانت وثيقة الصلة بالغرض الأول ومتناسبة ومحدودة، فقد لا تتطلب موافقة مستقلة. ولا تعني المادة 4 أيضاً أن البيانات لا يمكن أن تُستخدم قط في البحث أو تطوير الأنظمة. فقد تكون هذه الاستخدامات واضحة، ومقيّمة على نحو مستقل، ومتوافقة مع حقوق الإنسان، وقائمة على تقليل البيانات، وقابلة للتدقيق، وقابلة للرفض حيثما أمكن.

والحد الحقيقي للمادة 4 هو:

تغيير الغرض ليس محظوراً. المحظور هو تغيير الغرض خفيةً وبلا حدود وعلى نحو يتعذر الرجوع عنه وينقل الإنسان إلى مجال قرار جديد.

يمكن شرح الغرض الجديد بصدق، ويمكن للإنسان أو المؤسسة منح الصلاحية المناسبة، ويمكن تقييد المخاطر وإعادة هيكلة النظام. لكن لا يجوز إدخال الاستخدام الجديد خفيةً في الإذن القديم.

ماذا يجب فعله عند ثبوت انتهاك للغرض؟

يجب أن تعمل سلسلة التصحيح على النحو الآتي: يُحدد الغرض غير المخوّل أو المتنازع عليه
↓
يُقيّد الاستخدام الجديد والأفعال المرتبطة به
↓
يُستخرج منشأ البيانات والمهمة
↓
يُحدد الوكلاء والمتلقون والملفات والقرارات المتأثرة
↓
يُصحح عقد الغرض وسجل الصلاحية
↓
يُفحص الاستخدام النشط للبيانات الخام والمشتقة
↓
تُوقف قوائم الانتظار والرموز والوكلاء الفرعيون
↓
تُعاد مراجعة القرارات المهمة المتأثرة
↓
يُسلَّم الإنسان نتيجة واضحة وإيصال تصحيح
↓
يُوفر الإنصاف عند الحاجة
↓
لا يبدأ الغرض الجديد إلا بصلاحية مستقلة وسارية

لا يمكن إغلاق انتهاك الغرض بمجرد نشر نص جديد للإبلاغ؛ بل يجب أن تتغير سلسلة السلوك الفعلية.

إيصال تصحيح الغرض

يجب أن يستطيع إنسان في وضع دريا الحصول على إجابة كهذه:

الغرض الأول: ملخص الاجتماع وقائمة المهام
الاستخدامات الجديدة غير المخوّلة: درجة أداء الموظفين، وتقييم الترقية، وتدريب المبيعات، وتطوير نموذج صوتي
المعالجات الموقوفة: تحليل أداء جديد، وتدريب نموذج جديد، وإنشاء ملف مبيعات
السجلات المحذوفة: الصوت الخام، ونص المحادثة النشط، ودرجة الأداء القابلة لإعادة الإنتاج
السجلات المبطلة: وسم الاستقرار العاطفي وإشارة مخاطر الترقية
القرار المعاد فحصه: آخر تقييم للأداء والترقية
حالة المورّد الخارجي: أُرسل طلب الحذف والاستبعاد من التدريب؛ ولم يتسن التحقق بصورة مستقلة من الرجوع الكامل عن أثر النموذج
المجال الذي ما زال مفتوحاً: أثر مشتق نشأ في إصدار سابق من النموذج
الاستخدام الجديد: لا يمكن بدءه من جديد من دون إجراء مستقل وصريح

لا يدّعي هذا الجواب رجوعاً مثالياً عن كل شيء، لكنه لا يخفي الحقيقة.

لماذا يُعد الحق في تحديد الغرض مجالاً غير قابل للتنازل؟

قد يشارك إنسان بياناته، أو يعهد بمهمة إلى وكيل، أو يسمح لمؤسسة بتنفيذ معالجات محددة. لكن ما يقدمه ليس مورداً بلا غرض تستطيع المؤسسة أن تحوّله لاحقاً إلى أي غرض تريده. ولا يستطيع الإنسان الاختيار من دون معرفة العلاقة التي يدخل فيها. وعندما يتغير الغرض خفيةً، تفقد موافقته وتوقعه وحقه في السحب واعتراضه معناها. فقد تتحول ملاحظات اجتماع إلى درجة مهنية، ومحادثة دعم إلى ملف إعلاني، وصوت تدريبي إلى بيان عام.

وقد يتحول طلب وظيفة إلى هوية دائمة للمخاطر. يظل الإنسان الشخص نفسه بعد كل تحول، لكن النظام يكون قد غيّر معنى العلاقة التي تربطه به. لذلك ليس الغرض مجرد مجال تقني تستطيع المؤسسة اختياره لاحقاً.

إنه حد العلاقة الأولى مع الإنسان.

الحكم المبسّط للمادة 4

قد يعطيك إنسان عنوانه، لكن ذلك لا يمنحك حق إطلاع نظام إعلاني على مكان سكنه. وقد يتحدث موظف في اجتماع، لكن ذلك لا يمنحك حق إنتاج درجة لشخصيته من صوته. وقد يشرح عميل مشكلته، لكن ذلك لا يمنحك حق تحويل هشاشته إلى ضغط بيعي. وقد يرسل مرشح سيرته الذاتية، لكن ذلك لا يمنحك حق إبقائه في ملف مخاطر إلى الأبد. وقد يأذن مدير بفيديو تدريبي، لكن ذلك لا يبيح استخدام وجهه وصوته في كل بيان عام.

قد تكون البيانات هي نفسها، والهوية هي نفسها، والجملة هي نفسها. لكن عندما يتغير الغرض، يتغير معنى السلوك أيضاً. لذلك:

القدرة على فعل شيء لا تعني امتلاك صلاحية فعله لذلك الغرض.

امتلاك بيانات لا يعني امتلاك كل مصائرها المستقبلية.

الإذن الأول ليس صكاً على بياض لكل غرض مستقبلي.

المادة 4 — نص دستوري موجز

لا يجوز لأنظمة الذكاء الاصطناعي استخدام البيانات والمهام وصلاحيات الوصول والموافقات والأدوات المستمدة من البشر أو من علاقة محددة بين المؤسسات إلا داخل غرض واضح التحديد وراهن وقابل للتدقيق.

لا ينشئ أيٌّ من الوصول التقني أو الملكية داخل المؤسسة أو الإتاحة للعامة أو الاستخدام السابق أو لغة العقد الواسعة، بذاته، صلاحيةً لغرض سلوكي جديد.

لا يجوز استخدام عبارات «تحسين الخدمة» و«الأمن» و«الجودة» و«التخصيص» و«البحث» و«الاستخدام الداخلي» و«تحسين الذكاء الاصطناعي» بوصفها أغراضاً بلا حدود من دون بيان البيانات والاستنتاجات والمتلقين والقرارات والمدة والأثر على الإنسان. ويجب الفصل بين معالجات الدعم التقني اللازمة والمتناسبة للخدمة الأساسية، وبين الأغراض الجوهرية الجديدة التي تنشئ قراراً أو ملفاً أو تدريباً لنموذج أو توجيهاً تجارياً أو مراقبة أو أثراً عاماً على الإنسان. ويجب تقييم الغرض الجوهري الجديد على نحو مستقل من حيث صلته بالغرض الأول، وتوقع الإنسان المعقول، وحساسية البيانات، والاستنتاجات والمتلقين الجدد، والدوام، وقابلية الرجوع، وميزان القوة، والنتيجة على الإنسان.

لا يجوز تنفيذ غرض جديد، عند الحاجة، قبل الحصول على موافقة بشرية مستقلة وسارية، أو إثبات صلاحية مؤسسية، أو إقامة أساس آخر مشروع وقابل للتدقيق. ولا يجوز عد صمت الإنسان موافقةً افتراضية على غرض جديد عالي الأثر. ويجب أن تنتقل حدود الغرض مع البيانات الخام إلى الملخصات والدرجات والملفات والمتجهات والنماذج والذاكرات والوكلاء الفرعيين وقوائم الانتظار والقرارات اللاحقة. ولا يزيل تغيير شكل البيانات حد الغرض.

عند اكتمال الغرض أو انتهائه أو سحبه، يجب أن تتوقف المعالجات الجديدة المرتبطة به، وأن تُقيّم المهام المنتظرة والصلاحيات النشطة وآثار السلوك المشتقة.

لكل إنسان الحق في معرفة الأغراض التي تُستخدم من أجلها المعلومات المتعلقة به، والقرارات والاستنتاجات التي تؤثر فيها، والجهات التي تُشارك معها، ومدة الاحتفاظ بها؛ وفي رفض الأغراض الجديدة القابلة للفصل عن الخدمة الأولى؛ وفي طلب إعادة فحص القرارات المهمة التي تأثرت بغرض غير مخوّل. ولا يجوز استخدام رفض تغيير الغرض وسيلةً لحرمان الإنسان بغير حق من الخدمة الأولى والضرورية، أو لمعاقبة موظف، أو لإجبار عميل على شروط أسوأ، أو لتحويل الاعتراض إلى إشارة سلبية في الملف.

عند ثبوت غرض غير مخوّل، يجب، بالقدر الممكن واللازم، ألا يقتصر التصحيح أو التقييد أو إعادة الفحص على البيانات الخام؛ بل يشمل أيضاً الدرجات والملفات والذاكرات النشطة واستخدامات النماذج والمتلقين الخارجيين والقرارات المتأثرة.

يمكن تغيير الغرض، لكن لا يجوز تغييره خفيةً وبلا حدود وعلى نحو يقلب معنى علاقة الإنسان الأولى.

وهكذا تكتمل المواد التأسيسية الأربع للقسم الأول. لا يجوز للإنسان أن يتنازل للآلة عن كلمته الأخيرة، أو حقه في الاعتراف بهويته الصحيحة، أو تمثيله الصحيح والقابل للتصحيح، أو حقه في معرفة الأغراض التي تُستخدم من أجلها المعلومات المأخوذة منه وفي تقييد تلك الأغراض. لكن تحديد الغرض وحده لا يكفي. فقد تشرح المؤسسة غرضاً جديداً بوضوح، وقد يضع الإنسان علامة في مربع على الشاشة، وقد يقول النظام: «وافق المستخدم». ومع ذلك تبقى أسئلة قائمة:

هل فهم الإنسان حقاً ما الذي أذن به؟
هل يشمل الإذن باستخدام الوجه استخدام الصوت؟
هل يشمل الإذن بالإنتاج النشر العام؟
هل تكفي موافقة عامة لعملية محددة؟
هل يستطيع الموظف أن يمنح موافقة حرة تحت الخوف من فقدان عمله؟
عندما يسحب الإنسان موافقته، هل تتوقف العمليات الجديدة وحدها، أم تتوقف أيضاً الاستخدامات المنتظرة والمشتقة؟
هل الصمت قبول حقاً؟
هل يستطيع إنسان آخر أو مدير أن يمنح الموافقة نيابة عن الشخص؟

قد يكون الغرض محدداً على نحو صحيح، لكن إذن الإنسان بذلك الغرض قد يكون غامضاً، أو منتزعاً تحت الضغط، أو قديماً، أو متعلقاً بسلوك آخر، أو متعذراً سحبه. لذلك ننتقل الآن إلى القسم الثاني، الذي يؤسس للوكالة المحدودة للآلة.