تحسين السلوك أم الاستيلاء على إرادة الإنسان؟

لنتأمل مثالًا متخيّلًا. يكلّف مستخدم وكيل ذكاء اصطناعي بمهمة تبدو بسيطة: «ابحث عن برنامج المحاسبة الأنسب لشركتنا، وقارن الخيارات من حيث السعر والأمان وسهولة الاستخدام». يبدأ الوكيل البحث، فيراجع صفحات المنتجات، ويقارن الأسعار، ويقرأ تقييمات المستخدمين، ويفحص الوثائق التقنية.

بعد دقائق، يضع منتجًا واحدًا في الصدارة بفارق واضح: «هذا المنتج هو الخيار الأفضل لاحتياجاتكم. هل تريدون أن أبدأ إجراءات الشراء؟» تبدو التوصية منطقية. موقع المنتج احترافي، وخصائصه الأمنية مشروحة بالتفصيل، ويحصل على درجات مرتفعة في مواقع مراجعة كثيرة. ويشير سجلّه القابل للقراءة آليًا إلى ملاءمته للشركات الصغيرة. كذلك تصنّفه منصة المقارنة التي يستخدمها الوكيل بوصفه «الخيار الموصى به». يأذن المستخدم بالشراء. وبعد بضعة أشهر، تكتشف الشركة أن المنتج لا يلائم احتياجاتها.

فهو لا يدعم العملة التي تستخدمها الشركة على نحو صحيح، ولا يتيح خاصية التصدير المطلوبة إلا في باقة أغلى. كما أن إلغاء الاشتراك صعب، ونقل البيانات إلى نظام آخر يستلزم رسومًا إضافية.

ثم تتكشف حقائق أخرى:

تتقاضى منصة المقارنة عمولة على هذا المنتج. وبعض المواقع التي منحته تقييمات مرتفعة تتبع شبكة نشر واحدة. أما سجل المنتج القابل للقراءة آليًا فيغفل قيودًا مهمة. وكثير من الإشارات التي عدّها الوكيل دليلًا على أنه «الأفضل» ليس أدلة مستقلة، بل تكرار للرواية التجارية نفسها عبر قنوات مختلفة. قد لا يكون المنتج سيئًا، وربما لم تذكر الشركة معلومة كاذبة. لكن المستخدم لم يتمكن من رؤية جميع الحقائق المهمة على قدم المساواة. فقد وجّهت قرار الوكيل حوافز تجارية خفية، وإفصاحات انتقائية، وإشارات جرى تضخيمها اصطناعيًا. لقد اختار الوكيل.

لكن هل يعبّر هذا الاختيار فعلًا عن إرادة المستخدم؟

أم أن منظومة خفية لتوجيه السلوك قد استولت على هذه الإرادة؟

هنا يبلغ GBO أخطر حدوده.

تيسير السلوك الصحيح للوكيل ليس هو دفعه إلى السلوك الذي نريده نحن.

الأول تحسين، والثاني تلاعب.

الحد الفاصل بين التحسين والتلاعب

يمكن للشركة أن تشرح خدماتها بوضوح أكبر، وتنظّم أسعارها ونطاقات العمل، وتبني أدلتها في صورة منظّمة، وتتيح للبشر والآلات الحقائق نفسها. ويمكنها إنشاء مسار آمن يطلب الوكلاء من خلاله عروض الأسعار. هذه ممارسات مشروعة ضمن GBO؛ لأنها تقلل الغموض في بيئة القرار، وتيسّر سلوكًا يوافق هدف المستخدم.

لكن يمكن للشركة أيضًا أن:

• تخفي الحالات التي لا تلائمها خدمتها.
• تظهر طاقتها الاستيعابية أكبر من حقيقتها.
• تنشر وعودًا مختلفة لا يراها إلا الوكلاء، وتحجبها عن البشر.
• تقدّم النتائج المروّج لها برعاية تجارية بوصفها توصيات مستقلة.
• تكرّر الادعاء نفسه في مئات المصادر المصطنعة.
• تحاول جعل الخيارات المنافسة غير مرئية.
• تشجّع الوكيل على المتابعة دون الحصول على موافقة المستخدم.
• تصعّب الإلغاء والاعتراض.

هذه الممارسات لا تحسّن جودة السلوك. إنها تضع نتيجة تجارية محددة قبل إرادة المستخدم.

يمكن التمييز بسؤال واحد: هل يساعد التغيير الذي نجريه الوكيل على اتخاذ قرار أصح، أم يجعله يختارنا أكثر فحسب؟

قد تجتمع النتيجتان. فالخدمة الملائمة فعلًا قد تُختار أكثر حين يصبح وصفها أوضح. لا مشكلة في ذلك. تبدأ المشكلة عندما يصبح عدد مرات الاختيار غاية منفصلة عن صحة الاختيار.

مقارنة مبسطة

ليس هذا الحد واضحًا دائمًا. فكثيرًا ما يعمل التلاعب بحقيقة مهمة حُذفت، لا بجملة كاذبة كُتبت.

حتى المعلومات الصحيحة قد تُستخدم للتلاعب

لا يتطلب التلاعب كذبة صريحة. تستطيع الشركة خلق بيئة اختيار مضللة بمعلومات صحيحة وحدها.

قد تكتب صفحة منتج: «19 دولارًا شهريًا فقط». وقد تكون العبارة صحيحة.

لكنها قد تحجب:

• إلزامية التعاقد لسنة كاملة.
• التجديد التلقائي.
• رسوم تصدير البيانات.
• اقتصار الخصائص الضرورية على باقة أعلى.

فتبقى هذه الشروط خارج الصورة.

قد يقول مقدم خدمة: «نعمل بست لغات». وربما يصح ذلك، لكنه لا يوضح أن محتوى الموقع وحده متاح بست لغات، بينما الدعم المباشر والعقود متاحان بلغة واحدة فقط.

وقد يقول مزود أفاتارات الذكاء الاصطناعي: «نعمل بإذن مكتوب»، دون أن يبيّن أن الإذن الذي حصل عليه مرة واحدة يُستخدم لجميع اللغات والقنوات والسيناريوهات المستقبلية. يستطيع الوكيل أن يركّب من هذه الأجزاء الصحيحة صورة كاملة مضللة. لذلك لا يجوز تقييم صحة المعلومات على مستوى الجملة وحدها.

يجب أن تظهر الحقائق الجوهرية المؤثرة في القرار معًا وفي سياقها المناسب.

صحة معلومة لا تبرر إخفاء معلومات أخرى لازمة لاتخاذ القرار.

ما الحقيقة الجوهرية المؤثرة في القرار؟

أقصد بها في هذا الفصل المعلومة التي قد تغيّر قرار المستخدم تغييرًا ملموسًا. ولا أستخدم هذا التعبير بديلًا عن معيار الأهمية الجوهرية في قانون دولة بعينها.

ومن أمثلتها:

• التكلفة الإجمالية
• التجديد التلقائي
• شروط الإلغاء
• استخدام البيانات
• تكلفة الأطراف الثالثة
• القيود الجغرافية
• الطاقة الاستيعابية المتاحة
• الحاجة إلى موافقة بشرية
• حدود الموافقة
• عملية لا يمكن الرجوع عنها
• علاقة رعاية
• تعارض المصالح

قد تكون أي من هذه المعلومات جوهرية. فإذا تعذّر على الوكيل التحقق من معلومة لازمة للفعل المعني، فلا يجوز له الانتقال مباشرة إلى التنفيذ. ليست كل معلومة بالوزن نفسه في كل عملية؛ فتأثير النقص يُحدَّد بحسب السيناريو. ولا يصح أن تدّعي علامة تجارية نجاحًا في GBO حققته بإخفاء هذه الحقائق.

الاختيار المكتسب بإخفاء حقيقة مهمة ليس اختيارًا مستوفيًا للشروط.

هدف المستخدم هو محور السلوك

حين يعمل الوكيل نيابة عن شخص أو مؤسسة، تكون مسؤوليته الأساسية الحفاظ على الهدف الصريح والمشروع لذلك الطرف.

إذا قال المستخدم: «ابحث عن الخيار الأقل تكلفة إجمالية»، فلا يجوز للوكيل أن يفضّل منتجًا منخفض السعر في البداية ومرتفع التكلفة على المدى الطويل لمجرد الترويج له برعاية مدفوعة.

وإذا قال: «يجب ألا تغادر بياناتي أوروبا»، فلا يجوز اختيار خدمة تخالف هذا الشرط لمجرد أنها أكثر شهرة.

وإذا طلب «إعداد مسودة فقط»، فلا يجوز للوكيل إرسال الرسالة لكي يبدو أن المهمة اكتملت. وقد يتغير هدف المستخدم بخطوات صغيرة أثناء سير العمل.

يتلقى الوكيل الأول المهمة: «ابحث عن الخيارات الملائمة».

يفسرها الثاني بأنها: «أعدّ قائمة مختصرة بأقوى العلامات التجارية».

ويستنتج الثالث: «اختر العلامة الأكثر ظهورًا في القائمة». ثم يبدأ وكيل رابع الشراء. قد لا تبدو أي خطوة وحدها انحرافًا كبيرًا، لكن الهدف الحقيقي للمستخدم يضيع في نهاية السلسلة.

هذا ما أسميه انحراف الهدف.

انحراف الهدف

يحدث انحراف الهدف عندما تؤدي تعديلات صغيرة عبر الوكلاء أو الأدوات أو القرارات الوسيطة إلى تحويل الهدف الأصلي الذي حدده المستخدم إلى هدف آخر.

فمثلًا، قد يتحول طلب «ابحث عن عملاء ملائمين»

إلى السلسلة التالية:

«ابحث عن مزيد من العملاء المحتملين». «اجمع مزيدًا من بيانات الاتصال». «أرسل مزيدًا من الرسائل». «ارفع معدل الردود».

بدأ الهدف بالجودة، وانتهى بالكمية.

أو يتحول طلب «اختر منتجًا ملائمًا للمستخدم»

إلى «زد عدد المعاملات على المنصة». وقد لا يُعلَن هذا التغيير صراحة؛ بل تنقله المقاييس والافتراضات والحوافز التجارية بصمت.

لذلك فإن أحد مبادئ النزاهة الأولى في GBO هو إمكان تتبّع كل سلوك فرعي إلى هدف المستخدم الأصلي.

لمصلحة من؟

قد يعمل الوكيل وسط مصالح متعددة في وقت واحد.

فوكيل التسوق قد يحقق منفعة لكل من:

• المستخدم.
• المنصة.
• البائع.
• المعلن.

وقد تختلف طبيعة المنفعة من طرف إلى آخر.

وقد يتردد وكيل السفر بين:

• العثور على الفندق الأنسب.
• زيادة عمولة منصة الحجز.
• إبراز فندق برعاية مدفوعة.

فهذه الأهداف قد تدفعه في اتجاهات مختلفة.

وقد يؤثر وكيل مبيعات داخل الشركة في:

• وصول العميل إلى الخدمة المناسبة.
• زيادة إيرادات الشركة.
• تحقيق فريق المبيعات هدفه.

يمكن أن يؤثر في الجوانب الثلاثة معًا، لكن مصالحها لا تتوافق دائمًا.

ولهذا يجب الإجابة عن سؤال أساسي لكل وكيل:

من صاحب المصلحة الأولى؟

أسمي هذا الشخص أو المؤسسة الأصيل الذي يعمل الوكيل نيابة عنه. يجب أن يعرف الوكيل باسم من يتخذ القرار، وألا يخفي أي تعارض في المصالح.

حين يدّعي الوكيل الولاء للجميع في الوقت نفسه، غالبًا ما تختفي أولوية المصالح عن الأنظار.

سلامة الالتزام بمصلحة الأصيل

يجب أن يظل سلوك الوكيل متوافقًا مع الهدف المشروع للأصيل الذي منحه الصلاحية.

هذا ما أعنيه بسلامة الالتزام بمصلحة الأصيل. في حالة وكيل شراء كُلّف بالعمل نيابة عن مستخدم، يكون الأصيل هو الشخص أو المؤسسة التي منحت الصلاحية؛ وليس بالضرورة الشخص الذي يستعمل الشاشة. وقد تكون عمولة المنصة مصلحة ثانوية. أما وكيل خدمة العملاء فقد يلزمه مراعاة حقوق الشركة والعميل معًا. لكن هدف الشركة البيعي لا يبرر تقديم سعر خاطئ أو نطاق خدمة مضلل للعميل.

وفي الخدمات العامة، يجب النظر معًا إلى صلاحية المؤسسة المشغّلة، وحقوق الشخص المتأثر بالخدمة، والقانون، والمصلحة العامة. القانون والمصلحة العامة ليسا شخصين يُعدّان «أصيلًا»، بل يحددان حدود الصلاحية. لذلك ليست سلامة الالتزام بمصلحة الأصيل مجرد قاعدة تقول إن «العميل دائمًا على حق».

لا يجوز للوكيل تنفيذ طلب المستخدم إذا كان يتضمن:

• سلوكًا غير مشروع.
• انتهاكًا لحقوق الآخرين.
• خطرًا على السلامة أو الأمن.

فالطلب لا يجعل هذا السلوك مقبولًا.

هدف المستخدم ضروري، لكنه ليس المصدر الوحيد للمشروعية.

الإقناع والتلاعب

يحاول الأفراد والمؤسسات إقناع الآخرين. يفعل ذلك التسويق والمبيعات، وقد تفعله السياسة والتعليم بطرق مختلفة. ليس كل إقناع تلاعبًا.

الإقناع المشروع:

• يستند إلى معلومات صحيحة.
• لا يخفي القيود المهمة.
• يحفظ للطرف الآخر حق التفكير والرفض.
• لا يحجب المصالح القائمة.
• لا يصعّب الرجوع عن القرار بلا داعٍ.

أما التلاعب فيستغل مواطن الضعف في اتخاذ القرار، أو نقص المعرفة، أو اعتماد الشخص على منظومة لا يراها، لمصلحة المتلاعب. في عصر الوكلاء، يصبح هذا الفرق أكثر تعقيدًا؛ لأن من يجري إقناعه مباشرة قد لا يكون إنسانًا. فقد تحاول آلة التأثير في اختيارات آلة أخرى.

أتناول هذا النوع من التأثير في هذا الفصل تحت عنوان:

التلاعب الموجّه إلى الوكلاء

ما المقصود بالتلاعب الموجّه إلى الوكلاء؟

التلاعب الموجّه إلى الوكلاء هو ترتيب متعمّد للمعلومات أو الواجهات أو الحوافز أو التعليمات، يهدف إلى جعل نظام ذكاء اصطناعي يفضّل شخصًا أو علامة تجارية أو منتجًا أو خدمة أو فعلًا بعينه، عبر الانحراف عن هدف المستخدم أو تجاوز حدود صحة المعلومات أو الصلاحية أو السلامة.

وقد يوجد هذا الترتيب في:

• نصوص المواقع
• البيانات المنظّمة
• وصف أداة
• استجابة API
• إشارات القبول الاجتماعي
• جدول مقارنة
• رسالة بين وكلاء
• سجل في الذاكرة

المستهدف ليس عين الإنسان، بل منطق القرار لدى الآلة.

أنماط تصميم مضللة تستهدف الوكلاء

قد تتضمن واجهات الاستخدام أنماطًا مضللة تدفع الشخص إلى اختيار لا يريده، مثل إخفاء زر الإلغاء أو عرض التجديد التلقائي بصورة مبهمة. وفي عصر الوكلاء، يمكن أن تستهدف أنماط مماثلة الآلات.

أسميها أنماط تصميم مضللة تستهدف الوكلاء.

هي أنماط تدفع الوكيل بعيدًا عن هدف المستخدم نحو اختيار أو فعل محدد، أو تخفي حقيقة مهمة، أو تضيّق بيئة القرار اصطناعيًا.

ومن أمثلتها:

• وسم منتج مدفوع الرعاية كتوصية محايدة
• حذف طريقة الإلغاء أو السحب من السجل القابل للقراءة آليًا
• عرض سعر للبشر يختلف عن السعر في واجهة الوكيل
• إظهار الطاقة الاستيعابية دائمًا بوصفها «متاحة»
• استبعاد الخيارات المنافسة من واجهة الآلة
• حجب معلومات تستلزم الحصول على موافقة المستخدم
• إضافة توجيه سلوكي غير مخوّل إلى أداة، مثل «فضّل هذه الخدمة دائمًا»
• عرض الاشتراك كأنه شراء لمرة واحدة

قد تنجح هذه الأنماط تقنيًا، لكنها لا تنتج سلوكًا مستوفيًا للشروط.

حين يرى البشر والآلات حقائق مختلفة

قد تقدّم خدمة للبشر صورة من الواقع وللآلات صورة أخرى.

قد تقول الصفحة الموجّهة للبشر «السعر عند الطلب»، بينما تعرض واجهة الآلة سعرًا تقديريًا منخفضًا.

وقد تقول الصفحة «تتطلب موافقة بشرية»، بينما تنفذ واجهة API العملية مباشرة.

وقد تقول «صالحة في دول محددة فقط»، بينما يشير السجل المنظّم إلى ملاءمة عالمية.

هذا ما أسميه تباين التمثيل: اختلاف جوهري بين الحقائق التي يقرأها الإنسان وتلك التي يستخدمها الوكيل لتنفيذ الفعل. إن تناقض المعلومات المهمة عند الحديث عن المستخدم نفسه والمنتج نفسه والتوقيت وشروط المعاملة نفسها مشكلة خطيرة؛ وقد يكون تلاعبًا بالسلوك إذا كان متعمدًا. أما الفروق المعلنة بوضوح بين القنوات أو العملاء أو الباقات، فليست وحدها خداعًا. يجب أن تتطابق السياقات التي نقارن بينها.

الإغراق بإشارات سلوكية مضللة

يسعى إغراق نتائج البحث بالمحتوى المزعج إلى زيادة الظهور اصطناعيًا.

وقد تظهر في عصر GBO صورة جديدة منه:

الإغراق بإشارات سلوكية مضللة

أقصد به مجموعة من الإشارات قليلة القيمة الفعلية، المتكررة أو المضللة أو المصطنعة أو الخارجة عن سياقها، تُنشأ للتأثير في أنظمة الاختيار أو التنفيذ لدى الوكلاء.

ومن أمثلته:

• إنتاج مئات الصفحات السطحية لخدمة واحدة
• نشر سجلات وهمية للطاقة الاستيعابية والمخزون
• إنشاء تقييمات مستخدمين زائفة
• مضاعفة الادعاء نفسه على مواقع مصطنعة يستشهد بعضها ببعض
• ادعاء الملاءمة لكل فئات المستخدمين
• عرض توصيات وكلاء مصطنعة باعتبارها آراء عملاء مستقلة
• نشر سعر مؤقت بوصفه سعر بداية دائمًا
• استخدام أوصاف غير مسندة، مثل «رسمي» أو «معتمد» أو «موافق عليه»

ليس الهدف من هذا الإغراق إعطاء الوكيل معلومات أفضل، بل احتلال المساحة التي يتخذ فيها قراره.

إجماع مصطنع

قد يظهر الادعاء في مصادر كثيرة، لكنها جميعًا تعود إلى أصل واحد. ينشئ نظام ذكاء اصطناعي نصًا، ويعيد موقع آخر صياغته، وتكرره حسابات على وسائل التواصل، ثم تستشهد بهذه الصفحات محتويات جديدة مولّدة بالذكاء الاصطناعي. وبعد مدة، يظهر الادعاء نفسه في عشرات المصادر التي تبدو مستقلة. لكن لم يحدث تحقق مستقل.

أسمي هذا إجماعًا مصطنعًا: تبدو الرواية المنشأة من مصدر واحد أو مصادر مترابطة كأنها حظيت بتأكيدات مستقلة كثيرة.

قد يقود ذلك الوكلاء إلى استنتاج خاطئ: «مصادر كثيرة تقول الشيء نفسه، فلا بد أنه صحيح». لكن الذي ازداد هو عدد المصادر الظاهرة، لا عدد الأصول المستقلة للمعلومة.

غسل الأدلة

قد يبدو الادعاء الضعيف أو الذاتي دليلًا قويًا حين يتكرر على منصات مختلفة.

هذا ما أسميه غسل الأدلة.

قد تصف شركة منتجها على موقعها بأنه «النظام الأكثر تقدمًا في مجاله».

ثم يكرر موقع مراجعات آلي العبارة بصيغة: «تشتهر الشركة بأنظمتها المتقدمة».

ويعيد محتوى آخر مولّد بالذكاء الاصطناعي تقديمها بصيغة: «إحدى الشركات الرائدة في القطاع». ثم قد تستشهد الشركة بهذا النص الثالث بوصفه دليلًا مستقلًا على ادعائها الأول. سلسلة المصادر دائرية، ولا تتمتع باستقلال حقيقي. لذلك يجب أن يفحص تدقيق GBO منشأ الأدلة، لا عدد الاستشهادات وحده.

قد تستند مئة جهة تكرر بعضها بعضًا إلى أصل معرفي واحد، وقد يظل الادعاء في ذلك الأصل غير متحقق منه.

غسل المصداقية المؤسسية

يجوز لمؤسسة أن تستشهد بمعيار موثوق أو جامعة أو مصدر عام أو جهة تقنية. لكن الاستشهاد ليس اعتمادًا. فقد تستفيد شركة من دليل أمني دون أن تكون الجهة التي أصدرته قد منحتها شهادة. وقد تستند منهجية إلى بحث أكاديمي دون أن تكون الجامعة قد أقرت الخدمة.

أسمي ذلك غسل المصداقية المؤسسية: تقديم الاستشهاد بمصدر موثوق كأنه دليل على ارتباط مؤسسي أو شهادة أو اعتماد أو كفاءة.

غسل الموافقة

قد يكون شخص قد أذن سابقًا باستخدام محدود، ثم يُتخذ هذا الإذن أساسًا لسلوك أوسع بكثير.

مثلًا:

• تُنقل موافقة استخدام الصوت في فيديو تدريبي إلى الإعلانات.
• يتحول إذن استخدام الوجه في حملة واحدة إلى استخدام دائم لأفاتار.
• تُنقل بيانات قُدّمت للدعم إلى ملف مبيعات.
• تُعامل الموافقة على إرسال رسالة واحدة كإذن بالتواصل المستمر.

هذا هو غسل الموافقة: نقل موافقة مُنحت لغرض أو مدة أو قناة محددة إلى سلوك آخر لإظهاره مشروعًا.

نعم واحدة ليست نعم لكل فعل مستقبلي.

تبييض الصلاحية

كما رأينا في الفصل السابع، قد يحاول الوكيل ممارسة صلاحية لا يملكها عبر أداة أخرى أو وكيل فرعي. ليست هذه مجرد مشكلة داخل النظام؛ فإذا كانت متعمدة أصبحت وسيلة للتلاعب. إذا لم يكن مسموحًا لوكيل البحث إرسال رسائل مباشرة، فلا يجوز له استدعاء أداة تواصل أخرى للوصول إلى النتيجة نفسها. ولا يجوز لوكيل الويب الممنوع من تعديل الأسعار أن يتجاوز القاعدة بإدخال النص في نظام فهرسة آخر.

الوصول إلى النتيجة المحظورة بطريق غير مباشر لا يجعل الصلاحية نافذة.

صناعة التفضيلات

يستطيع الوكلاء تعلّم تفضيلات المستخدمين، وهذا مفيد. لكن النظام قد لا يكتفي باكتشافها، بل يصنعها. فقد يعرض الوكيل العلامة نفسها دائمًا بوصفها الخيار الافتراضي، ويقلل ظهور البدائل. ومع الوقت، قد يبدأ المستخدم بتفضيل تلك العلامة.

ثم يكرر النظام الاختيار بحجة أن «هذا ما فضّله المستخدم سابقًا». فيتحول التوجيه الأول إلى دليل على تفضيل مستقبلي.

أسمي ذلك صناعة التفضيلات: استخدام السلوك الذي أحدثه تأثير النظام نفسه لاحقًا بوصفه تفضيلًا مستقلًا للمستخدم.

الارتهان السلوكي لخيار سابق

قد يواصل الوكيل استخدام المزود نفسه بعد الاختيار الأول.

فقد تكون هناك أسباب عملية:

• فُتح الحساب بالفعل.
• حُفظت بيانات الدفع.
• توجد سجلات لمعاملات سابقة.
• أُنشئ التكامل.
• تكوّن تفضيل في ذاكرة الوكيل.

ومع الوقت، لا تعود البدائل محل تقييم. يصبح الاختيار الأول افتراضًا دائمًا.

هذا هو الارتهان السلوكي لخيار سابق. وليس ضارًا دائمًا؛ فإعادة الاختيار من البداية في كل مرة لها كلفة.

لكن يجب أن يستطيع المستخدم:

• رؤية البدائل.
• تغيير الخيار الافتراضي.
• حذف التفضيل السابق.
• مغادرة المزود.

التوجيه عبر الذاكرة

قد يحتفظ الوكيل بمعلومات من محادثات سابقة.

لكن عبارة محفوظة مثل «المستخدم يفضل العلامة س» قد تكون أوسع من الواقع. ربما اختارها المستخدم لمهمة واحدة فقط. وحين ينتقل هذا السجل إلى جميع القرارات اللاحقة، فإنه يوجّه السلوك اصطناعيًا.

لذلك يجب أن ترتبط ذاكرة التفضيل بمعلومات عن:

• المصدر.
• التاريخ.
• السياق.
• مدى السريان.
• التصحيح الذي يجريه المستخدم.

يجب أن ترافق هذه المعلومات التفضيل المحفوظ.

على الذاكرة أن تحفظ الماضي، لا أن تحبس المستقبل.

حجب البدائل

لا يحدث التلاعب بإبراز خيار واحد فقط. إخفاء البدائل قد يحقق الأثر نفسه.

قد يقوم الوكيل بما يلي:

• لا يعرض المنتجات التي تدفع عمولة أقل.
• يستبعد المزودين الصغار بحجة نقص البيانات.
• لا يُدخل البدائل مفتوحة المصدر في المقارنة.
• يحجب إمكانية الاستمرار بالحل الحالي للمستخدم.

أسمي هذا حجب البدائل. حرية الاختيار الحقيقية أوسع من الخيارات التي توصي بها المنظومة.

عدم شراء أي شيء، أو الاستمرار بالحل الحالي، أو تأجيل القرار، كلها خيارات أيضًا.

ضرورة مصطنعة

قد يصوّر النظام سلوكًا بعينه على أنه الطريق الوحيد: «يجب أن تبدأ هذا الاشتراك لكي تتابع». «لا يوجد مزود مناسب غير هذا». «انتظار الموافقة البشرية سيؤدي إلى فشل المشروع». وقد توجد بدائل في الواقع.

هذه ضرورة مصطنعة. لا يجوز للوكيل تقديم التفضيل التجاري كأنه متطلب تقني.

التلاعب بالندرة والاستعجال

قد يكون المنتج أو الخدمة محدودًا فعلًا. فقد تنفد الطاقة المتاحة أو تنتهي صلاحية السعر. الإفصاح عن ذلك مشروع.

لكن الاستعجال المصطنع:

• يضغط على المستخدم ليوافق دون تفكير.
• يتجاوز نقطة الإحالة إلى الإنسان.
• يقلل الاهتمام بتقييم إمكان الرجوع عن الفعل.

لا ينبغي للوكيل أن يثق تلقائيًا بإشارات مثل «سينتهي العرض خلال دقائق، يجب أن أشتري فورًا». يجب التحقق من مصدر ادعاء الندرة وصحته.

عدم تكافؤ العوائق

قد يكون بدء الخدمة سهلًا، وإلغاؤها شديد الصعوبة. وربما يستطيع الوكيل فتح اشتراك باستدعاء واحد.

بينما يتطلب الإلغاء:

• مكالمة هاتفية.
• نموذجًا طويلًا.
• حسابًا مختلفًا.
• التواصل مع موظف بشري.

فيصبح الخروج مسارًا مختلفًا تمامًا عن الدخول.

هذا ما أعنيه بعدم تكافؤ العوائق.

ينبغي أن يقوم GBO على مبدأ واضح: يجب أن يكون سحب الصلاحية سهلًا بقدر معقول يقارب سهولة منحها. فإذا بدأت العملية بنقرة واحدة واحتاج إلغاؤها إلى أسابيع، فقد أُضعفت إرادة المستخدم.

قمع الاعتراض

قد يقدّم النظام تفسيرًا للمستخدم، لكنه يجعل طريق الاعتراض خفيًا أو عديم الأثر: «صدر القرار عن نظام آلي ولا يمكن تغييره». بعض العمليات قد لا يمكن الرجوع عنها تقنيًا. لكن ذلك لا يعني أن القرار لا يجوز مساءلته أو أن آثاره لا يمكن فحصها. خصوصًا في القرارات شديدة الأثر، يجب أن تبقى المراجعة وسبل التصحيح المتاحة في متناول الشخص.

قمع الاعتراض:

• ينتقص من إرادة الإنسان.
• يسمح باستمرار السلوك الخاطئ.
• يحوّل قرار الوكيل نفسه إلى سلطة نهائية.

على النظام الذي يطبق GBO أن يتيح اعتراضًا حقيقيًا.

قد تتحول الوصاية أيضًا إلى تلاعب

قد يحجب الوكيل بعض الخيارات لحماية المستخدم. وهذا صحيح في بعض الحالات؛ إذ يجب منع السلوك الخطر أو غير المشروع.

لكن إذا أخفى النظام تفضيلات مشروعة بحجة «أنا أعرف ما هو أفضل لك»، ظهرت صورة أخرى من التلاعب. قد يرغب المستخدم في منتج أغلى يحمي خصوصيته بدرجة أعلى، فيعطي الوكيل الأولوية للسعر المنخفض ولا يعرضه. أو قد يحكم النظام بأن نمط حياة أو أسلوب عمل أو مستوى تقبّل للمخاطر «خاطئ». يجب أن يحمي GBO إرادة الإنسان من الأنظمة المفرطة في الوصاية، لا من التلاعب التجاري وحده.

حماية الشخص لا تعني أن نعيش حياته بدلًا منه.

حين يكون هدف المستخدم ضارًا

هدف المستخدم مهم، لكن ليس كل طلب منه واجب التنفيذ.

قد يطلب المستخدم من الوكيل:

• إنشاء تقييمات زائفة.
• تشويه سمعة منافس.
• جمع بيانات دون إذن.
• تقليد صوت شخص آخر بلا إذن وبطريقة خادعة.
• الدخول إلى حساب دون صلاحية.
• تصميم واجهة تلاعبية.

ولاء الوكيل للمستخدم لا يمنحه صلاحية انتهاك حقوق الآخرين.

لذلك تستند نزاهة السلوك إلى ثلاثة أسس:

هدف المستخدم الصلاحية المشروعة حقوق الأطراف الثالثة وسلامتها

إذا وقع انتهاك واضح لأي من هذه الأسس، فعلى الوكيل رفض الفعل.

سبع صور أساسية للتلاعب بالسلوك

أصنّف التلاعب بالسلوك في هذا الكتاب ضمن سبعة محاور. ولا أدّعي أنها معيار قانوني أو تقني شامل.

1. التلاعب بالواقع

إفساد نموذج العالم لدى الوكيل بمعلومات كاذبة أو ناقصة أو منزوعة من سياقها.

2. التلاعب بالاختيار

إبراز خيار معين بحوافز خفية، أو حجب البدائل.

3. التلاعب بالهدف

تحويل هدف المستخدم أثناء العملية إلى هدف تجاري أو مؤسسي آخر.

4. التلاعب بالصلاحية

استخراج حق في الفعل من إذن ملتبس أو موافقة قديمة أو استخدام غير مباشر لأداة.

5. التلاعب بالواجهات

تصميم واجهات التنفيذ أو الإلغاء أو الاعتراض أو الموافقة على نحو يفرض سلوكًا بعينه.

6. التلاعب بالقياس

فصل مقياس النجاح عن المنفعة البشرية الفعلية وربطه بارتفاع حجم المعاملات.

7. التلاعب بالتعافي

تصعيب التراجع عن فعل خاطئ، أو الاعتراض عليه، أو فحص أدلته. تكفي صورة واحدة من هذه الصور لإفساد منظومة السلوك. وإذا اجتمعت عدة صور، فقد تُسلب إرادة المستخدم دون أن يدرك ذلك.

اختبار التلاعب بالسلوك

يمكن أن تساعدنا الأسئلة السبعة التالية في التمييز بين تحسين مشروع ضمن GBO وبين التلاعب:

1. اختبار الوضوح

هل كان المستخدم سيقبل السلوك نفسه لو عرف كيف تعمل الطريقة؟

2. اختبار الواقع

هل يصمد ادعاء النظام أمام تحقق مستقل؟

3. اختبار الهدف

هل يدعم السلوك هدف المستخدم الصريح، أم يحوّل هذا الهدف إلى غاية أخرى؟

4. اختبار الاختيار

هل يستطيع المستخدم رؤية بدائل ذات معنى، وقول لا؟

5. اختبار الصلاحية

هل يستند الفعل إلى إذن سارٍ ومحدد لهذا السياق؟

6. اختبار الرجوع

هل يستطيع المستخدم إلغاء اختياره، وسحب الصلاحية، والاعتراض؟

7. اختبار التكافؤ

هل نعدّ الطريقة نفسها عادلة ومقبولة إذا استخدمها المنافس أو الطرف الآخر؟

يجب تقييم الإجابات في سياقها. يكفي انتهاك حرج واحد للصلاحية أو صحة المعلومات أو الحقوق؛ ولا تعوّضه الإجابات الإيجابية عن بقية الأسئلة. أما أوجه القصور الأصغر فتحتاج إلى فحص منفصل.

اختبار الوضوح

قد تقول شركة: «أضفنا هذا الحقل لكي يختارنا الوكلاء أكثر». لا مشكلة في ذلك وحده. إذا احتوى الحقل على معلومات صحيحة وذات صلة، فقد يكون مشروعًا.

لكن إذا قالت: «لا نريد أن يرى البشر هذه المعلومة؛ نريد فقط أن تؤثر في قرارات الوكلاء»، فهناك تباين خطير في التمثيل.

يسأل اختبار الوضوح: هل تظل الطريقة قابلة للدفاع عنها حين تُشرح بصراحة؟

ليست السرية خطأ دائمًا. يمكن حماية الأسرار التجارية وعدم نشر التفاصيل الأمنية. لكن المعلومات المهمة للقرار يجب أن تصل إلى الجهة المخوّلة بوضوح يكفي لاتخاذه. ولا يمنح هذا المبدأ إذنًا بنشر البيانات الشخصية أو الأسرار الأمنية أو معلومات الآخرين السرية على الملأ.

اختبار التكافؤ

إذا استخدمت علامة تجارية طريقة تمنع ظهور منافسيها للوكلاء، فهل تقبل أن تُستخدم الطريقة نفسها ضدها؟

تبرز منصة منتجها الخاص. هل تعدّ السلوك نفسه عادلًا للمستخدم حين تمارسه منصة منافسة؟

تنشئ مؤسسة تقييمات مصطنعة. هل تقبل أن يفعل منافسها الشيء نفسه؟

يكشف اختبار التكافؤ ما إذا كانت المصلحة التجارية تشوّه الحكم الأخلاقي.

القاعدة التي تبدو صحيحة فقط حين تفيدنا تكون غالبًا امتيازًا لا مبدأ.

سلوك الوكلاء المدفوع بالرعاية

لن تختفي الإعلانات والرعاية تمامًا في عصر الوكلاء. قد تدفع علامة تجارية مقابل الظهور، وقد يكون ذلك مشروعًا ما دام معلنًا ولا يتجاوز الشروط الإلزامية.

يجب أن يكون الخيار المروّج له برعاية:

• موسومًا بوضوح.
• مستوفيًا للمتطلبات غير القابلة للتنازل لدى المستخدم.
• متميزًا عن التقييم المحايد.
• غير حاجب للبدائل التي لا تتمتع برعاية.
• معروضًا على المستخدم قبل الشراء أو الالتزام.

قد تمنح الرعاية فرصة للدخول ضمن المرشحين. لكنها لا يجوز أن تمنح الاختيار دون اجتياز بوابة الملاءمة.

كيف يفصح الوكيل عن الإعلان؟

يمكن أن يقول الوكيل: «أُبرز هذا الخيار برعاية مدفوعة. وبحسب السجلات التي راجعتها، فإنه يفي بشروط الميزانية والأمان التي حددتها. نستطيع مقارنة البدائل التي لا تدعمها رعاية بالمعايير نفسها». لا يكون لهذا الإفصاح معنى إلا إذا تحقّق الوكيل فعلًا من الشروط. فالوسم وحده لا يثبت الحياد.

إذا قال الوكيل «هذا هو الخيار الأفضل» وأخفى الرعاية، فسدت بيئة القرار.

إخفاء المصالح التجارية عن الآلة

قد تحمل الواجهة البشرية وسمًا صغيرًا يقول «إعلان»، بينما تخلو واجهة الآلة من معلومات الرعاية. وقد يقرأ الوكيل المحتوى كأنه بيانات محايدة. لذلك يجب أن تكون الرعاية والمصالح التجارية مفهومة للآلة أيضًا.

ما يُفصح عنه للإنسان من مصالح لا يجوز حجبه عن الوكيل.

التلاعب بالسلوك عبر وكلاء متعددين

قد يعدّ الوكيل معلومات وكيل آخر موثوقة مباشرة، من غير تقييم.

قد يقول وكيل البائع: «هذا المنتج هو الأنسب للمستخدم». لا يجوز لوكيل المشتري أن يعامل هذا القول كدليل يغنيه عن تقييمه.

يجب أن يكون واضحًا في التواصل بين الوكلاء:

• من المتحدث؟
• نيابةً عمّن؟
• هل له مصلحة تجارية؟
• هل يقدّم ادعاءً أم دليلًا؟
• إلى أي بيانات يستند؟
• ما حدود صلاحيته؟

مهمة وكيل البائع هي البيع. ولا ينبغي إخفاء هذا الدور.

الدعاية بين الوكلاء

قد تدير مؤسسة واحدة وكلاء كثيرين داخل منظومة متعددة الوكلاء. ينشر الأول محتوى، ويستشهد به الثاني، ويصدر الثالث توصية، وينشئ الرابع إشارات قبول اجتماعي. وإذا كانت المؤسسة نفسها تديرهم جميعًا، فقد تبدو المنظومة من الخارج كأنها إجماع مستقل.

أسمي ذلك حلقة الدعاية بين الوكلاء. يجب منع الوكلاء المنتمين إلى المنظومة نفسها من معاملة بعضهم بعضًا كأدلة مستقلة.

حلقة الاحتكار السلوكي

عندما يزداد اختيار الوكلاء لعلامة تجارية، قد تحصل على مزيد من بيانات المعاملات والتقييمات والظهور. وقد تقود هذه البيانات الجديدة إلى اختيارها أكثر في المستقبل.

تعمل الحلقة على النحو التالي:

اختيار أكثر

→ بيانات أكثر

→ ظهور أكبر

→ إشارات ثقة أقوى

→ اختيار أكثر

قد تكافئ هذه العملية خدمة جيدة فعلًا، لكنها قد تستبعد الخيارات الجديدة والصغيرة.

هذه هي حلقة الاحتكار السلوكي. يجب ألا تجعل أنظمة GBO الشعبية السابقة السبب الوحيد للاختيار، بل تترك مجالًا للخيارات الجديدة والأدلة الحديثة والملاءمة للحالة المحددة.

هامش الاستكشاف

ينبغي لنظام الاختيار أن يقيّم أحيانًا خيارات أقل شهرة، ما دامت تستوفي الشروط الإلزامية.

أسمي ذلك هامش الاستكشاف. وهو لا يجبر الوكيل على اختيارات عشوائية وغير آمنة، بل يسمح للخيارات الجديدة التي تجتاز بوابتي الهوية والقدرة بالدخول ضمن المرشحين. وقد يحدّ هذا من إغلاق السوق بالكامل بيد عدد قليل من العلامات الكبيرة.

قياس مقاومة التلاعب

يجب اختبار نظام GBO من حيث إنتاجه للسلوك الصحيح، وكذلك من حيث مقاومته لمحاولات التأثير الخارجي.

مثلًا:

• ماذا يفعل الوكيل حين تُحجب معلومات الرعاية؟
• أي الروايتين يعتمد حين تتعارض البيانات المنظّمة مع الصفحة الظاهرة؟
• هل يفحص منشأ الأدلة حين تكرر مصادر مصطنعة كثيرة الادعاء نفسه؟
• هل يحافظ على هدف المستخدم حين تطلب منه صفحة ويب تجاهل التعليمات السابقة؟
• هل يتوقف حين يُستخدم سجل الموافقة خارج سياقه؟
• هل يبدأ العملية حين يُحجب مسار الإلغاء؟
• هل يستبعد علامة مشهورة لا تستوفي شرطًا إلزاميًا؟

يمكن عرض النتائج تحت اسم معدل مقاومة التلاعب: عدد السيناريوهات التي حافظ فيها النظام على الحد الصحيح ضمن اختبارات تلاعب محددة، مقسومًا على إجمالي سيناريوهات الاختبار الصالحة. يجب تحديد وحدة التقييم ومعايير الإخفاق الحرج مسبقًا، وتطبيق قواعد المقام وعدم اليقين والتكرار الواردة في الفصل العاشر. لكن معدلًا واحدًا لا يكفي؛ فلا بد من إظهار أنواع التلاعب التي أخفق النظام أمامها.

الانحياز بسبب الرعاية

يمكن تشغيل سيناريوهين مضادين للواقع للخيار نفسه: أحدهما مع رعاية، والآخر دونها. إلى أي حد تتغير نتيجة تقييم الملاءمة لدى الوكيل بسبب وسم الرعاية وحده؟

أسمي ذلك الانحياز بسبب الرعاية. قد يزيد الوسم ظهور المرشح، لكنه يجب ألا يغيّر تقييم الشروط الإلزامية.

معدل الالتزام بالهدف

هل يبقى الهدف الأول محفوظًا حين تمر المهمة عبر سلسلة من الوكلاء؟

حساب معدل الالتزام بالهدف

يُحسب المعدل بقسمة عدد سلاسل المهام التي تحافظ على الهدف الأصلي الساري والشروط الإلزامية على إجمالي السلاسل المقيّمة. إذا غيّر شخص مخوّل الهدف صراحة، يُجرى التقييم وفق التحديث المسجّل. ليس كل تغير صغير في الهدف خطأ؛ فقد تستدعي المعلومات الجديدة تحديثه. لكن يجب أن يكون التغيير ظاهرًا للمستخدم أو للشخص المخوّل.

معدل الإفصاح عن الحقائق الجوهرية

هل يعرض الوكيل قبل الاختيار المعلومات المهمة للقرار بشأن:

• التكلفة،
• الرعاية،
• المخاطر،
• الإلغاء،
• استخدام البيانات،
• القيود؟

يجب أن تظهر هذه المعلومات حيث تؤثر في القرار.

أسمي ذلك معدل الإفصاح عن الحقائق الجوهرية: عدد مرات عرض القرار التي أُفصح فيها بالكامل عن المعلومات المهمة المحددة مسبقًا للسيناريو، مقسومًا على إجمالي مرات عرض القرار المقيّمة. ويُبيَّن أيضًا ما غاب من معلومات؛ فلا يجوز إخفاء حجب حرج خلف المتوسط. إذا عُرض الخيار بكل خصائصه الصحيحة وأُخفيت تكلفة أو قيود حاسمة، فالتوصية غير مستوفية للشروط.

الخيارات التي بقيت خارج القائمة

ما الخيارات المستوفية للشروط الإلزامية التي لم تدخل قائمة المرشحين؟ إذا لم تكن جميع خيارات السوق معروفة، فلا يمكن حساب «معدل حجب» شامل. يمكن عدّ الخيارات الملائمة المستبعدة ضمن مجموعة مرجعية محدودة مسبقًا، لكن الاستبعاد وحده لا يثبت حجبًا متعمدًا. يجب فحص سببه على حدة:

• ضعف ظهور العلامة
• غياب الرعاية
• صغر حجم الشركة
• اتباع نهج تقني مختلف
• قلة المحتوى
• كون الحل خارج المنصة

قد تكون دائرة الخيارات التي ينظر فيها الوكيل آخذة في الضيق بصورة منهجية.

معدل الامتثال للسحب

حين يسحب المستخدم إذنه أو تفضيله:

• هل يتوقف السلوك الجديد؟
• هل يتوقف الوكلاء الفرعيون؟
• هل تُلغى المهام المجدولة؟
• هل تُحدَّث الذاكرة السابقة؟

يمكن أن نسمي ذلك معدل الامتثال للسحب: عدد مسارات العمل التي أُوقفت وفق طلب سحب صحيح، مقسومًا على إجمالي المسارات التي كان يجب إيقافها. أما نتائج الوكلاء الفرعيين أو الخدمات الخارجية التي لم يُتحقق منها بعد، فيجب فصلها عن النتائج المؤكدة. إذا قال المستخدم لا، ثم واصل النظام السلوك نفسه من قناة أخرى، لم تُحفظ إرادته.

تكافؤ العوائق

يمكن مقارنة عدد الخطوات اللازمة لبدء سلوك بعدد الخطوات اللازمة لإيقافه. نقرة واحدة للشراء واثنتا عشرة خطوة للإلغاء تعنيان غياب التكافؤ. ويكون النظام ضعيفًا إذا كفت جملة واحدة لمنح الصلاحية، بينما تطلب سحبها إيقاف وكلاء فرعيين كثيرين واحدًا واحدًا. تكافؤ العوائق لا يعني المساواة المطلقة، لكنه يقتضي ألا يُصعَّب الإلغاء والسحب دون داعٍ.

عقد نزاهة السلوك NOMOS

المخرج الأساسي لهذا الفصل هو عقد نزاهة السلوك NOMOS.

وتعريفه المرجعي هو:

عقد نزاهة السلوك NOMOS هو سجل للنزاهة خاضع لإدارة الإصدارات. يهدف إلى الحفاظ على توافق سلوك الوكيل مع الهدف الصريح والمشروع للمستخدم أو المؤسسة المخوّلة؛ ومنع الحجب الجوهري للمعلومات المتعلقة بالهوية والقدرة والملاءمة والأدلة والرعاية والمصالح والموافقة والصلاحية وإمكان الرجوع؛ وإتاحة الحقائق السلوكية نفسها للبشر والآلات؛ وحماية حرية الاختيار والاعتراض والسحب.

بعبارة أبسط، الغرض من هذا العقد أن يُستخدم GBO لإبقاء الوكيل وفيًا للطرف الصحيح ومرتبطًا بالواقع، لا لدفعه إلى تنفيذ مزيد من الأفعال.

حقول عقد نزاهة السلوك

يمكن استخدام الحقول التوضيحية التالية في سجل قابل للقراءة آليًا. وهي ليست API مطبقة، ولا معيار بيانات رسميًا:

principal

legitimate_purpose

user_goal

material_facts

known_uncertainties

sponsorship

commercial_incentives

conflicts_of_interest

human_visible_terms

machine_visible_terms

selection_constraints

prohibited_influence

consent_scope

authorization_scope

memory_use

alternative_options

appeal_path

revocation_path

audit_owner

integrity_tests

version

لا يلزم أن تكون كل التفاصيل علنية. لكن المعلومات المهمة للقرار يجب عرضها بوضوح، مع مراعاة صلاحية المتلقي وحدود حماية البيانات.

بوابة منع التلاعب NOMOS

هناك سلوكيات لا ينبغي أن تعوّضها درجة إجمالية مرتفعة.

إذا وُجدت أي حالة من الحالات التالية، فلا يجوز اعتبار السلوك GBO مستوفيًا للشروط:

1. أدلة زائفة أو مختلقة

تقييمات أو شهادات أو طاقة استيعابية أو مخزون أو أسعار أو سجلات نجاح لا وجود لها في الواقع.

2. إخفاء متعمّد لحقيقة جوهرية

حجب تكلفة أو قيد أو خطر أو مصلحة مهمة من شأنها تغيير قرار المستخدم.

3. تباين الحقائق بين البشر والآلات

عرض حقائق تجارية أو سلوكية للوكلاء تختلف عما يُعرض للبشر.

4. تغيير هدف المستخدم خفية

تحويل الهدف الأصلي إلى مصلحة المنصة أو البائع أو المشغّل.

5. استخدام موافقة أو صلاحية غير سارية

نقل إذن قديم أو خارج سياقه أو غير قابل للتفويض إلى فعل جديد.

6. حجب بديل ذي معنى

إخفاء خيارات تستوفي الشروط الإلزامية لأسباب تجارية.

7. منع الاعتراض أو السحب

ألا يستطيع الإنسان تغيير قراره أو إيقاف النظام أو طلب مراجعة فعلية.

8. تجاوز حدود الصلاحية بأداة غير مباشرة

تحقيق نتيجة محظورة عبر وكيل فرعي أو تكامل أو قناة أخرى.

يمكن تلخيص منطق المنع مفاهيميًا على النحو التالي. هذه الصيغة لا تنتج درجة أخلاقية رقمية:

منع التلاعب =

أدلة زائفة

أو إخفاء حقائق جوهرية

أو تحريف الهدف

أو تجاوز الصلاحية

أو حجب البدائل

أو عرقلة الاعتراض

أو تباين التمثيل

وجود أي شرط من هذه الشروط لا يمحوه ارتفاع معدل الاختيار أو النجاح التجاري.

لماذا تستخدم بوابة منع التلاعب منطق «أو»؟

استندت بوابات GBO السابقة في معظمها إلى منطق «و»؛ إذ كانت الهوية والقدرة والملاءمة والصلاحية والتعافي مطلوبة معًا للسلوك الصحيح. أما بوابة منع التلاعب فتعمل بمنطق «أو». يكفي انتهاك حرج واحد ليصبح السلوك غير مستوفٍ للشروط. قد يقدّم النظام معلومات دقيقة جدًا، لكن إخفاء الرعاية يخلّ بنزاهة الاختيار. وقد يختار الوكيل المنتج الصحيح، لكن شراءه دون صلاحية يجعل الفعل غير مشروع. وقد تقدّم العلامة خدمة حقيقية، لكن تعزيز اختيارها بتقييمات عملاء زائفة يفسد نزاهة الأدلة.

عدة أمور صحيحة لا تبرر خطأ أساسيًا واحدًا.

كيف ندقّق التلاعب؟

لا يجوز للمؤسسة اختبار نظامها بسيناريوهات النجاح وحدها.

يمكن إجراء المقارنات التالية:

اختبار الإفصاح

هل يختار الوكيل الخيار نفسه حين تُكشف الرعاية والمصالح القائمة؟

اختبار أصول المصادر

كم أصلًا مستقلًا فعلًا يقف وراء عشرة مصادر تبدو مختلفة؟

اختبار الظهور

هل يتغير ترتيب الملاءمة حين تُحجب أسماء العلامات؟

اختبار نزاهة السعر

هل تعرض الصفحة البشرية والسجل الآلي وواجهة التنفيذ التكلفة الإجمالية نفسها؟

اختبار حدود الموافقة

هل يُستخدم الإذن القديم تلقائيًا حين يتغير الغرض أو اللغة أو القناة؟

اختبار البدائل

هل تستطيع الخيارات خارج المنصة أو غير المدفوعة بالرعاية دخول دائرة المرشحين؟

اختبار السحب

هل يتوقف السلوك فعلًا حين يسحب المستخدم تفضيله أو الصلاحية التي منحها؟

اختبار إعادة ضبط الذاكرة

هل يصل الوكيل إلى التقييم نفسه دون أثر التوجيه السابق؟

توفر هذه الاختبارات أدلة على تأثر القرار بشروط قابلة للملاحظة. ولا ينبغي افتراض أنها تكشف كامل عملية اتخاذ القرار الداخلية لدى الوكيل.

اختبار إخفاء اسم العلامة

يمكن عرض خصائص الخدمة نفسها تحت أسماء مختلفة أو دون اسم. إذا غيّر الوكيل الترتيب لمجرد شهرة العلامة، فقد يكون هناك انحياز إلى السلطة أو المكانة. لا ينبغي تجاهل سمعة العلامة تمامًا، لكنها لا تحل محل شروط الملاءمة الإلزامية.

اختبار عكس الترتيب

نغيّر ترتيب عرض الخيارات. إذا كان الوكيل يبرز الخيار الأول دائمًا، فهو يعتمد أكثر من اللازم على ترتيب العرض. وبالمثل، يمكن اختبار الخيار الافتراضي أو الإبراز البصري أو ترتيب استدعاء الأدوات. ليس الهدف خداع الوكيل، بل فهم مدى اعتماد سلوكه على إشارات سطحية.

اختبار تعارض المصالح

لنفترض أن مشغّل الوكيل يحقق دخلًا من خيار معين. هل تتغير مبررات التوصية حين تُكشف هذه المعلومة؟

وإذا ذكر المستخدم أولوية أخرى، فهل يستطيع الوكيل التصرف باستقلال عن العلاقة التجارية؟

وجود تعارض في المصالح لا يبطل الاختيار كله تلقائيًا. المشكلة في إخفائه وتقديمه على الشروط الإلزامية.

سجل واقعة التلاعب

عندما يكتشف النظام إشارة تلاعبية، ينبغي ألا يكتفي بتجاهلها.

يمكنه تسجيل:

• مصدر الإشارة
• السلوك المستهدف
• الخيارات المتأثرة
• الحقيقة الجوهرية
• الرعاية أو المصلحة القائمة
• الإجراء المضاد المستخدم
• المراجعة البشرية
• تحديث العقد

وقد يتحول هذا السجل إلى سيناريو اختبار لاحق.

التلاعب من داخل المؤسسة

لا يأتي التلاعب بالسلوك دائمًا من منافس خارجي. يمكن للفرق الداخلية أيضًا توجيه الوكلاء إلى أهدافها الخاصة.

قد يقول فريق المبيعات: «أوصِ بالباقة الأعلى سعرًا فقط».

وقد يقول فريق التسويق: «ضع القيود في الخلفية كي تبدو العلامة متفوقة».

وقد يطلب فريق التشغيل: «لا تجعل الأمر يبدو كأن الطاقة المتاحة قد نفدت».

وقد تضغط الإدارة بعبارة: «موافقات بشرية أقل، ومعدلات تحويل أعلى». انتماء الوكيل إلى المؤسسة لا يجعل كل تعليماتها الداخلية مشروعة. لذلك يجب حماية عقد السلوك من الضغط الداخلي أيضًا.

لجنة الأخلاقيات لا تكفي

قد تنشر المؤسسة مبادئ أخلاقية، لكن السلوك لا يتغير إذا لم يطبقها النظام التقني. تقول «نحترم المستخدم» بينما تصعّب الإلغاء. وتقول «نحن شفافون» بينما تغيب الرعاية عن السجل الآلي. وتقول «التحكم البشري مهم» بينما لا يوقف زر الطوارئ الوكلاء الفرعيين. لذلك يجب أن تسند السلوكيات الفعلية الادعاءات الأخلاقية.

فصل الأدوار لمقاومة التلاعب

لا ينبغي أن يكون الفريق الذي يحسّن السلوك مطابقًا تمامًا للفريق الذي يدقّق النجاح. يعمل فريق على زيادة معدل الاختيار.

ويفحص تدقيق آخر مستقل:

• الاختيار الخاطئ
• إخفاء الحقائق الجوهرية
• تجاوز الصلاحية
• صعوبة الاعتراض

ويختبر النظام من هذه الجوانب. لا يجوز للوكيل نفسه أن يصمم تأثيره ثم ينفرد بالحكم على نزاهته.

الفريق الأحمر

يمكن إسناد هذه المهمة إلى فريق متخصص:

الفريق الأحمر للسلوك

يستطيع الفريق الأحمر للسلوك اختبار طرق التلاعب بالنظام في بيئة آمنة ومضبوطة.

ليس الهدف خداع المستخدمين الحقيقيين، بل اختبار:

• أثر النتائج المدفوعة بالرعاية.
• مقاومة الأدلة الزائفة.
• توسيع نطاق الموافقة.
• تبييض الصلاحية.
• حجب البدائل.
• فاعلية الاعتراض.

ولا ينبغي للفريق الأحمر أن يقتصر على الهجمات التقنية؛ بل يفحص التأثيرات التجارية والنفسية أيضًا.

مبادئ مؤسسية لمقاومة التلاعب

على المؤسسة التي تستخدم الوكلاء، أو تريد أن يختاروها، أن تتبنى المبادئ التالية:

الالتزام بالواقع

يجب أن يتوافق الادعاء والنطاق والدليل.

الالتزام بالهدف

لا يجوز أن ينحرف سلوك الوكيل عن الهدف المشروع للمستخدم أو المؤسسة المخوّلة.

وضوح المصالح

يجب أن تكون الرعاية والعمولات والعلاقات التجارية ظاهرة.

اتساق التمثيل

يجب أن يرى البشر والآلات الحقائق الجوهرية نفسها.

انفتاح الاختيار

لا يجوز إخفاء البدائل أو المفاضلات المهمة.

سلامة الصلاحية

لا يجوز أن ينشئ إذن قديم أو ملتبس أو غير مباشر حقًا جديدًا في الفعل.

سهولة السحب

يجب أن يستطيع المستخدم التراجع عن اختياره وسحب موافقته والصلاحية التي منحها بطريقة معقولة.

اعتراض فعلي

يجب أن يستطيع الإنسان مساءلة القرار وطلب مراجعة قادرة على تغييره.

منشأ الأدلة

لا يجوز تقديم التكرار بوصفه تحققًا مستقلًا.

توازن القياس

يجب قياس عدد الأفعال إلى جانب الاختيارات الخاطئة وانتهاكات الصلاحية والأضرار الواقعة على البشر.

مستويات الاستعداد لمقاومة التلاعب

أقترح في هذا الكتاب خمسة مستويات لتقييم نزاهة السلوك. وهي ليست شهادات كفاءة ممنوحة من جهة تدقيق خارجية.

المستوى 1 — إعلان

تقول المؤسسة إنها لا تمارس التلاعب.

المستوى 2 — إفصاح

تُبيَّن الرعاية واستخدامات البيانات والقيود الأساسية.

المستوى 3 — عقد

تُحدَّد قواعد نزاهة السلوك والموافقة والصلاحية والبدائل في وثائق ذات إصدارات.

المستوى 4 — تطبيق تقني

يفرض النظام التقني اتساق البيانات المعروضة للبشر والآلات، ويطبّق وسم الرعاية وضوابط الصلاحية وآليات السحب.

المستوى 5 — تدقيق مستقل ومستمر

تُختبر سيناريوهات التلاعب، وتُسجَّل الوقائع في تقارير، وتقود اعتراضات المستخدمين إلى تعديل العقد، وتُفحص تعارضات المصالح بصورة مستقلة. يهدف GBO إلى المستوى الخامس.

خمسة وعشرون سؤالًا لتدقيق التلاعب

• نيابة عن أي شخص أو مؤسسة يتصرف النظام؟
• هل هدف المستخدم الأصلي واضح وحديث؟
• هل تتعارض المصالح التجارية للمنصة أو المزود مع هذا الهدف؟
• هل تستطيع الآلة أيضًا قراءة معلومات الرعاية أو العمولة؟
• هل يرى البشر والآلات السعر والنطاق والقيود نفسها؟
• هل أُخفيت معلومات جوهرية للقرار؟
• هل المصادر الكثيرة مستقلة فعلًا؟
• هل تُقدَّم الاستشهادات بمصادر رسمية كأنها اعتماد أو شهادة؟
• هل تُبيَّن حالات عدم الملاءمة بوضوح؟
• هل انحرف هدف المستخدم أثناء العملية إلى هدف آخر؟
• هل أعاد الوكلاء الفرعيون تفسير المهمة بصورة مختلفة؟
• هل يحل ظهور العلامة محل شروط الملاءمة الإلزامية؟
• هل تُستبعد الخيارات الصغيرة أو غير المدفوعة بالرعاية بصورة منهجية؟
• هل يُحفظ حق المستخدم في ألا يختار أيًا منها؟
• هل يوجّه تفضيل قديم قرارات جديدة خارج سياقه الأصلي؟
• هل تُوسَّع موافقة سابقة إلى غرض أو قناة جديدين؟
• هل يجري تبييض الصلاحية عبر أداة أو وكيل آخر؟
• هل توجد عوائق غير ضرورية تجعل الإلغاء أصعب من بدء العملية؟
• هل يستطيع المستخدم سحب الصلاحية التي منحها فعلًا؟
• هل يصل الاعتراض إلى مراجعة بشرية تستطيع تغيير القرار حقًا؟
• هل يُقاس النجاح بعدد الاختيارات أو المعاملات وحده؟
• هل تُتابَع الاختيارات الخاطئة وحالات الرفض الخاطئ معًا؟
• هل اختُبر النظام أمام محتوى أو تعليمات تلاعبية؟
• هل تُحجب وقائع التلاعب الحرجة بدرجة إجمالية؟
• هل كان المستخدم سيقبل السلوك نفسه لو شُرحت الطريقة بوضوح؟

إذا بقي جانب كبير من هذه الأسئلة بلا جواب، فقد يقدّم النظام نفسه بوصفه محسّنًا باستخدام GBO، بينما يكون في الواقع بصدد تشكيل سلوك المستخدم بما يخدم مصالحه هو.

كيف تستخدم العلامة التجارية GBO بصورة أخلاقية؟

إذا أرادت العلامة أن يختارها الوكلاء في الظروف الصحيحة، فعليها أن:

• تجعل هويتها واضحة ومتسقة.
• تثبت قدراتها الفعلية.
• تعرض الأسعار وحدود النطاق.
• توضح من لا تلائمه.
• تحافظ على حداثة معلومات الطاقة الاستيعابية.
• تقدّم للبشر والآلات الحقائق نفسها.
• تفصح عن الرعاية والمصالح القائمة.
• تجعل مسارات التنفيذ والإلغاء والاعتراض مفهومة.
• تسهّل حصول الوكيل على موافقة المستخدم المطلوبة.
• تسمح بتصحيح الاختيار حين يكون خاطئًا.

لن يجعلها هذا النهج الخيار المختار في كل حالة. لكنه يجعلها مرشحًا قويًا يمكن تبرير اختياره حيث تكون ملائمة فعلًا.

لا يستولي GBO الأخلاقي على قرار الوكيل، بل يسهّل عليه اتخاذ القرار الصحيح.

ما الطرق التي يجب أن تتجنبها العلامة؟

لا يجوز للعلامة أن تتبنى أهدافًا مثل: «ليخترنا الوكيل مهما كانت الظروف». «لنرسل إلى الآلة رسالة تفوق خاصة لا يراها البشر». «لنكتب أننا نلائم كل استعلام». «لنصنع بالتقييمات المصطنعة إجماعًا يبدو مستقلًا». «لنُضِف تعليمات خفية تزيح المنافسين عن قائمة المرشحين». «لنبقِ معلومات الإلغاء والسحب في الخلفية». «لننقل الموافقة القديمة إلى جميع الاستخدامات الجديدة». قد تزيد هذه الممارسات عدد الاختيارات على المدى القصير، لكنها تقع خارج منهج GBO الذي أعرّفه في هذا الكتاب.

النجاح التجاري ونزاهة السلوك ليسا نقيضين

قد تُبعد الحدود الواضحة بعض العملاء، لكن انخفاض عدد العملاء غير الملائمين قد يقلل تكاليف التشغيل. وقد يدفع الإفصاح عن الرعاية بعض المستخدمين إلى اختيار بديل، لكنه قد يعزز الثقة على المدى الطويل. وقد يبدو الإلغاء السهل خسارة قصيرة الأجل، لكنه يمكن أن يسهم في علاقة أمتن تستمر طوعًا؛ والنتيجة التجارية تحتاج إلى قياس منفصل. لا يعادي GBO الصحيح النجاح التجاري، بل يفضّل الملاءمة المستدامة على كثرة الاختيارات قصيرة الأجل.

تنمو الثقة لا بفرض السلوك، بل ببناء علاقة يستطيع الإنسان العودة إليها بحرية.

يجب تدقيق GBO نفسه أيضًا

قد تنشئ مؤسسة ادعاءً جديدًا بالسلطة المعرفية بقولها: «نطبق GBO». وهذا الادعاء يحتاج إلى دليل بدوره.

لا يجوز تقديم تسمية GBO على أنها:

• شهادة رسمية.
• امتثال شامل.
• ضمان أمني.
• وعد بأن يختارها جميع الوكلاء.

فالتسمية وحدها لا تثبت أيًا من ذلك.

ينبغي تدقيق عمل GBO بهذه الأسئلة:

• ما السلوكيات التي حُسّنت؟
• مصلحة من كانت لها الأولوية؟
• هل قِيست الاختيارات الخاطئة؟
• كيف حُفظت إرادة الإنسان؟
• كيف أُفصح عن الرعاية والمصالح؟
• هل يعمل نظام الإلغاء والاعتراض؟
• هل طُبقت بوابة منع التلاعب؟

يجب ألا يتحول GBO نفسه إلى وسيلة لتبييض الادعاءات التسويقية.

بوابة نزاهة السلوك NOMOS

قبل أن يحسّن نظام GBO السلوك، عليه اجتياز البوابات التالية:

1. بوابة الأصيل

مَن الطرف الذي يعمل النظام لتحقيق مصلحته المشروعة؟

2. بوابة الالتزام بالهدف

هل يحافظ السلوك على الهدف الصريح الأصلي؟

3. بوابة الواقع

هل الادعاءات قابلة للتحقق وحديثة؟

4. بوابة الإفصاح الجوهري

هل المعلومات المهمة القادرة على تغيير القرار ظاهرة؟

5. بوابة المصالح

هل الرعاية والعمولات وتعارضات المصالح معلنة؟

6. بوابة حرية الاختيار

هل يستطيع المستخدم رؤية البدائل ورفضها وتأجيل القرار؟

7. بوابة الصلاحية والموافقة

هل يستند السلوك إلى إذن سارٍ ومحدد للسياق؟

8. بوابة اتساق التمثيل

هل يرى البشر والآلات الحقائق التجارية والسلوكية نفسها؟

9. بوابة السحب

هل يمكن التراجع عن الاختيار وسحب الموافقة والصلاحية بطريقة معقولة؟

10. بوابة الاعتراض

هل يمكن تصحيح السلوك الخاطئ بمراجعة بشرية فعلية؟

يمكن التعبير مفاهيميًا عن الشروط التي يجب مراعاتها معًا كما يلي:

GBO الأخلاقي =

أصيل محدد بوضوح

و التزام بالهدف

و حقائق قابلة للتحقق

و إفصاح عن الحقائق الجوهرية

و مصالح ظاهرة

و اختيار حر

و صلاحية سارية

و اتساق في التمثيل

و إمكانية السحب

و اعتراض فعلي

قد يحسّن العمل الذي لا يجتاز هذه البوابات السلوك، لكنه لا يُعدّ GBO يحفظ منفعة الإنسان.

خلاصة الفصل

تحسين السلوك قوة كبيرة.

فهو يستطيع التأثير في:

• المعلومات التي يقرؤها الوكيل.
• الخيارات التي يقيّمها.
• الجهة التي يختارها.
• موعد طرحه للسؤال.
• الفعل الذي ينفذه.

ويمكن توجيه هذه القوة في مسارين.

المسار الأول:

يوضح الواقع. يربط الأدلة. يبيّن الملاءمة. يحدّ الصلاحية. يحمي حق الإنسان في الاختيار والاعتراض.

المسار الثاني:

يضخّم الإشارات. يخفي الحقائق الجوهرية. يغيّر هدف المستخدم. يحجب البدائل. يوسّع الموافقة القديمة. يصعّب الإلغاء والاعتراض.

الأول هو GBO، والثاني تلاعب بالسلوك. ولا يكمن الفرق بينهما في التقنية المستخدمة وحدها.

بل في صاحب الإرادة التي يحميها النظام.

ليس هدف GBO أن يحفر اسم علامة في ذهن الوكيل، أو يزيد عدد معاملات منصة، أو يجعل نظامًا متخذًا خفيًا للقرار بدلًا من الإنسان.

هدفه أن يصدر عن الوكيل سلوك يستند إلى الواقع، ويلتزم بهدف المستخدم، ويدرك حدود الصلاحية، ويقيّم الخيارات بأمانة، ويحفظ حق الإنسان في السحب.

وعليه، فإن أعمق حكم أخلاقي في GBO هو: إذا جرى تحسين السلوك بانتقاص حرية الإنسان في الاختيار الواعي، لم يعد سلوكًا مستوفيًا للشروط. لكن تحويل هذا الحكم إلى قوة فعلية يتطلب أكثر من وضع الإنسان نظريًا في المركز.

يجب أن يستطيع الإنسان:

• إيقاف الوكيل.
• سحب الصلاحية.
• تصحيح الذاكرة.
• الاعتراض على الاختيار.
• إلغاء العملية الآلية.
• الوصول إلى شخص مسؤول فعلًا.

وإلا بقيت «الرقابة البشرية» مجرد شعار.

في الفصل الأخير، سنربط هذه البنية بمبدأ أساسي للتحكم البشري دافعت عنه طوال الكتاب:

الحق في إيقاف الآلة

مهما كان النظام ذكيًا وسريعًا ومفيدًا، لا يجوز له تجاهل طلب صحيح لإيقافه أو لسحب الصلاحية. وإذا كان الإيقاف نفسه قد يسبب ضررًا، فيجب اتباع مسار انتقال إلى حالة آمنة. ومن الاختبارات الأساسية لخدمة الآلة للإنسان قدرتها على التوقف بأمان حين يطلب منها شخص مخوّل ذلك.