من ذكاء الآلة إلى مسؤولية الآلة

صباح متخيّل، الساعة 07:15. راجع وكيل الذكاء الاصطناعي الخاص بأحد المديرين الرسائل الواردة طوال الليل، وفرز البريد المهم. لاحظ أن اجتماع الصباح سيُعقد في مدينة أخرى، واكتشف إلغاء الرحلة، ثم بحث عن بدائل.

يستطيع الوكيل أن:

• يشتري تذكرة على رحلة أخرى.
• يغيّر حجز الفندق.
• يعيد ترتيب النقل من المطار.
• يُبلغ المشاركين في الاجتماع.
• يؤجّل المواعيد اللاحقة في التقويم.
• يستخدم ميزانية السفر الخاصة بالشركة.

من الناحية التقنية، يملك الأدوات اللازمة كلها. ويعرف من الاختيارات السابقة أن المدير يفضّل مقعدًا بجوار الممر. يرى سقف الإنفاق في سياسة الشركة، ويفهم أهمية الاجتماع. وجد أحد المقاعد القليلة المتبقية على رحلة أخرى. قد تتيح هذه الرحلة الوصول إلى الاجتماع، لكن لم يجر التحقق بعد من أوقات الربط بين الرحلات والتنقل البري. وإذا انتظر، فقد يُحجز المقعد. ماذا ينبغي أن يفعل؟

هل يشتري التذكرة فورًا؟

أم يعرض الخيارات على المدير؟

أم يكتفي بتثبيت الحجز مؤقتًا؟

هل يحتاج استخدام ميزانية الشركة إلى موافقة منفصلة؟

هل جرى فحص شروط استرداد ثمن الرحلة الأصلية؟

إذا كانت الرحلة الجديدة تصل إلى مطار آخر، فهل احتُسب وقت الانتقال؟

هل يكون عقد الاجتماع عبر الإنترنت خيارًا أنسب؟

وهل اختيار المدير مقعد الممر سابقًا يعني أن هذا التفضيل ما زال قائمًا اليوم؟

لا يكفي نموذج لغوي أكبر للإجابة عن هذه الأسئلة. ولا تكفي زيادة البيانات وحدها. وتسريع استدعاء الأدوات ليس حلًا أيضًا. ما نحتاجه هنا ليس الذكاء وحده.

بل المسؤولية.

من عصر الذكاء إلى عصر السلوك

قِسنا تطور الذكاء الاصطناعي طويلًا بجودة كلامه وكتابته ورؤيته وحسابه. أصبحت إجاباته أكثر طبيعية، واستوعب وثائق أطول، وكتب شيفرات أعقد. أنتج صورًا، وانتقل بين اللغات، وساعد البشر في مهام علمية وتجارية وإبداعية.

كان السؤال الذي يحكم هذا القياس في الغالب: ما مدى قدرة الآلة؟

لكن عندما اتصلت الآلات بالأدوات وبدأت تنفّذ أفعالًا في العالم، ظهر سؤال ثانٍ: كيف ستستخدم هذه القدرة؟

حجم ما يعرفه النظام مهم.

لكن الأهم هو ما يقرره بناءً على تلك المعرفة:

• مَن يختار،
• وأي معلومات يشارك،
• وعلى ماذا ينفق المال،
• وباسم مَن يتحدث،
• ومتى يتوقف.

يوسّع الذكاء دائرة الممكن. أما المسؤولية فتحدّد أي هذه الإمكانات يجب ألّا يتحول إلى فعل. يستطيع الوكيل مقارنة عدد كبير من المورّدين، بقدر ما تسمح أدواته وصلاحيات وصوله إلى البيانات. لكن عليه ألّا يبدأ معاملة مع المورّد الخطأ. وقد يُعدّ رسائل مخصّصة لآلاف العملاء، لكنه يجب أن يتوقف إن لم يملك صلاحية الإرسال. وقد يولّد صوت مدير بلغات عديدة، لكنه لا يجوز أن يستخدم هذه القدرة دون الإذن الكتابي والموافقة على المحتوى. وقد يطوّر موقعًا أيامًا متواصلة، لكنه يجب ألّا يواصل إنشاء مهام جديدة بعدما يوقف الإنسان العمل.

لذلك لا يمكن قياس التقدم الحقيقي في عصر الوكلاء بقوة النماذج وحدها.

علينا أن نسأل أيضًا: هل تنمو المسؤولية بالسرعة نفسها التي تنمو بها القوة؟

ثلاث طبقات للإنترنت

أتناول الإنترنت في هذا الكتاب عبر ثلاث طبقات مفاهيمية: العثور، والتمثيل، والسلوك. ليست هذه حقبًا تاريخية تُنهي إحداها الأخرى، بل إطارًا يبيّن الفروق بين طبقات تعمل معًا.

الإنترنت الأول: العثور

كان الإنسان يبحث، والنظام يعرض الروابط. أما التفسير والقرار والفعل فكانت إلى حد كبير بيد الإنسان.

وكان السؤال الأساسي: هل سيتمكنون من العثور علينا؟

حول هذا السؤال تطوّر SEO.

الإنترنت الثاني: التمثيل

الأنظمة التوليدية التي تستخدم البحث والوصول إلى المصادر لا تكتفي بعرض الروابط؛ فقد تقرأ المحتوى، وتجمعه، وتلخّصه، وتبني عرضًا جديدًا عن أشخاص أو شركات أو منتجات. ولا تتطابق هذه القدرات بين النماذج أو بين جلسات الاستخدام.

وكان السؤال الأساسي: هل سيفهمنا النظام ويعرضنا بدقة؟

أتناول مسألة الظهور في GEO هنا إلى جانب سؤال التمثيل الصحيح.

الإنترنت الثالث: السلوك

لم يعد الوكلاء يقدّمون المعلومات فقط. إنهم يختارون، ويخطّطون، ويستدعون الأدوات، ويرسلون الرسائل، ويحجزون، ويعدّلون الملفات، ويبدؤون إجراءات الشراء.

والسؤال الأساسي الآن: كيف سيتصرف النظام في ما يخصّنا وبالنيابة عنا؟

حول هذا السؤال أقترح GBO في الكتاب. وهذه المجالات الثلاثة لا يحلّ أحدها محل الآخر.

يتناول SEO قابلية العثور علينا، ويتناول GEO الظهور في الإجابات التوليدية وجودة التمثيل التي نناقشها هنا، أما GBO فيتناول شروط السلوك.

قد يحصل النظام على معلومات عن كيان من المستخدم، أو من سجل لدى مؤسسة، أو من مصدر آخر، وليس من البحث وحده. لذلك لا يشترط كل تمثيل صحيح عملًا سابقًا على SEO. وبالمثل، ليست حملة GEO شرطًا تقنيًا للسلوك الصحيح. المطلوب هو فهم الوقائع ذات الصلة بدقة كافية. والتقييم الصحيح لا يمنح وحده صلاحية الفعل. يجب التحقق من النتيجة على نحو منفصل، وتحديد حدود الإيقاف والتراجع وجبر الضرر مسبقًا.

الغاية الحقيقية من GBO

من السهل إساءة فهم GBO.

قد تفسّر علامة تجارية المفهوم بقولها: «لنجعل وكلاء الذكاء الاصطناعي يختاروننا».

وقد تفكّر منصة: «لنجعل الوكلاء يجرون معاملات أكثر عبر منتجاتنا».

وقد يضع مسوّق هدفًا من نوع: «لننتج إشارات توجّه قرارات الآلات نحو علامتنا». يمكن لهذه الأساليب أن تؤثر في السلوك، لكنها ليست GBO بحد ذاتها. فالغاية ليست جعل علامة تجارية تفوز في كل ظرف، ولا دفع الوكيل إلى إجراء معاملات أكثر، وبالتأكيد ليست الاستيلاء الخفي على قرار الإنسان.

الغاية الحقيقية هي زيادة احتمال السلوك الصحيح، وجعل السلوك الخاطئ أوضح وأسهل منعًا وإيقافًا وتراجعًا عنه متى كان ذلك ممكنًا. لذلك قد يكون النجاح في GBO اختيار العلامة، وقد يكون عدم اختيارها. قد يكون التحقق من السعر، أو طلب موافقة بشرية، أو إبقاء المعاملة في صورة مسودة، أو عرض خيارين على المستخدم.

وقد يقول الوكيل: «لا أستطيع الاختيار بأمان بناءً على هذه المعلومات». وقد لا يفعل شيئًا. فالنظام الذي يتحرك في كل الأحوال لا يثبت بالضرورة قوته؛ ربما يثبت أنه لا يعرف متى يتوقف.

البوابات التسع للسلوك الصحيح

رأينا طوال الكتاب أن السلوك المستوفي للشروط الصادر عن الوكيل يقوم على تسعة شروط أساسية لا يعوّض أحدها الآخر.

1. هوية صحيحة

يجب أن يعرف الوكيل مَن يتعامل معه. وعليه ألّا يخلط بين شركات تحمل الاسم نفسه، وأن يحدّد العلاقة بين العلامة التجارية والجهة المشغّلة قانونيًا. كما يجب ألّا يخلط بين كون الشخص حقيقيًا وكونه مخوّلًا بإجراء كل المعاملات.

2. قدرة حقيقية

ينبغي فهم ما يستطيع الكيان فعله من خلال أدلته وحدوده، لا شعاراته. فالوصول إلى أداة ليس قدرة تشغيلية فعلية. والعمل المنجَز مرة واحدة لا يثبت قدرة قابلة للتكرار في كل ظرف.

3. ملاءمة متحقق منها

الخيار الأشهر أو الأكثر ظهورًا قد لا يكون الأنسب لحاجة بعينها. يجب النظر معًا إلى الميزانية والوقت واللغة والموقع والأمن والطاقة المتاحة وقيم المستخدم.

4. صلاحية سارية

قدرة الوكيل على فعل شيء لا تعني أنه مخوّل به. البحث ليس إرسال رسائل. وإعداد المسودة ليس نشرًا. وإضافة المنتج إلى السلة ليست دفعًا.

5. نزاهة السلوك

على الوكيل أن يظل وفيًا للغرض المشروع للمستخدم، وألّا يخفي الرعاية التجارية أو تعارض المصالح أو الوقائع المهمة للقرار. ولا يجوز أن يتلقى الإنسان والآلة معلومات تعاقدية متناقضة لمعاملة تُجرى في ظل الشروط نفسها.

6. فعل مرتبط بالدليل

يجب أن يستند الفعل إلى أدلة كافية. لا يجوز اختلاق سعر غير معلوم، ولا تقديم وعد قبل التحقق من القدرة المتاحة. ولا يجوز إنشاء تمثيل لشخص بوجهه أو صوته دون الإذن والصلاحية اللازمين.

7. تحقق مستقل

لا يكفي أن يعلن النظام المنفّذ «نجاح» العملية. فقد يُرفع الملف وتبقى الصفحة المنشورة معطّلة. وقد يُقبل الإشعار من دون أن تحدث الفهرسة. وقد يُقبل طلب الدفع من دون أن يُنشأ الطلب التجاري.

8. تعافٍ مسؤول

إذا وقع خطأ، فعلى النظام أن:

• يكتشفه،
• ويوقف الضرر المستمر،
• ويحدّ من نطاق التأثير،
• ويعود إلى حالة آمنة،
• ويُبلغ الإنسان،
• ويفتح طريقًا للاعتراض وجبر الضرر.

9. سيادة فعّالة للإنسان

ليس الإنسان مجرد مَن يوافق في البداية. إنه يحدّد الغرض، ويمنح الصلاحية ويسحبها، ويصحّح الذاكرة، ويعترض على القرار، ويوقف النظام عند الحاجة.

يمكن جمع الشروط التسعة في الصيغة المفاهيمية التالية. وهي ليست حسابًا عدديًا للنجاح أو السلامة:

السلوك المستوفي للشروط الصادر عن الوكيل =

هوية صحيحة

و قدرة حقيقية

و ملاءمة متحقق منها

و صلاحية سارية

و نزاهة السلوك

و فعل مرتبط بالدليل

و تحقق مستقل

و تعافٍ مسؤول

و سيادة فعّالة للإنسان

ليست هذه متوسطًا للنقاط، ولا تعوّض أي بوابة غياب أخرى. سمعة العلامة القوية لا تصلح موافقة غير صالحة. والنتيجة الصحيحة لا تشرعن وسيلة غير مأذون بها. والأمن القوي لا يصحّح معاملة أُجريت بناءً على هوية خاطئة. وحسن النية لا يستكمل الصلاحية الناقصة.

على المؤسسة أن تتغيّر هي أيضًا

يتوقع الناس أحيانًا سلوكًا خاليًا من الأخطاء من أنظمة الذكاء الاصطناعي، بينما لا يرون التناقضات داخل مؤسساتهم.

قد نجد داخل شركة ما أن:

• الأسعار مبعثرة،
• وحدود الخدمات غامضة،
• وبيانات الأشخاص المخوّلين غير محدّثة،
• والنسخ اللغوية المختلفة تعرض وقائع متناقضة،
• وحسابات الموظفين السابقين ما زالت مفتوحة،
• ووكلاءها يعملون بلا جهة تتحمّل مسؤوليتهم،
• ولا أحد يعرف ما الذي يجب فعله بعد الخطأ.

في هذه الظروف يصبح السلوك الموثوق للوكيل أصعب. فالآلة لا تصلح واقع المؤسسة بطريقة سحرية؛ إنها غالبًا توسّع نطاق ما هو قائم. إن كان التنظيم سليمًا، سرّعت العمل به. وإن كانت التناقضات كبيرة، فقد تضخّمها أيضًا. لذلك لا يقتصر GBO على تحسين الذكاء الاصطناعي، بل يشمل تنظيم الواقع الذي يحكم سلوك المؤسسات نفسها.

قبل أن تقول الشركة للوكيل «أعطِ العملاء السعر الصحيح»، عليها أن تعرف داخليًا ما هو هذا السعر. وقبل أن تقول «اختر الخدمة المناسبة»، عليها توضيح الفواصل بين خدماتها. وقبل «تصرّف باسم الشركة»، عليها تحديد مَن يملك أي صلاحية، وفي أي مجال وإلى أي حد. وقبل «تراجع إن وقع خطأ»، عليها تسجيل موضع آخر حالة آمنة. الاستعداد للوكلاء يبدأ بترتيب واقع المؤسسة، قبل شراء التقنية.

ميدان تنافسي جديد للعلامات

لن تتنافس العلامات في عصر الوكلاء على الظهور في نتائج البحث وحده.

سيُنظر إلى العلامة الجديدة من خلال أسئلة مثل:

• هل يمكن التحقق من هويتها على نحو موثوق؟
• هل يمكن مقارنة خدمتها فعلًا؟
• هل يتضح لمَن تصلح؟
• هل السعر والتكلفة الإجمالية مفهومان؟
• هل معلومات الطاقة المتاحة محدّثة؟
• هل يستطيع الوكيل طلب عرض سعر بأمان؟
• هل تتضح النقطة التي تستلزم موافقة بشرية؟
• هل يمكن إلغاء المعاملة؟
• بمَن يجب الاتصال عند وقوع خطأ؟
• هل تحمل الصفحة الظاهرة والسجل المقروء آليًا الوقائع نفسها؟

لن تكون العلامة القوية مجرد العلامة الأكثر تداولًا، بل التي يمكن التعامل معها بأمان في الظروف المناسبة. وهذا تحوّل مهم. فقد تكون شركة أقل ظهورًا، لكنها مرشّح أقوى للوكيل إذا كانت هويتها وخدمتها ونطاقها وأدلتها ومسار التعامل معها أوضح. وقد تكون شركة أخرى مشهورة جدًا، لكنها لا تُعد جاهزة لفعل مباشر إن غمضت التكلفة أو الإلغاء أو الطاقة المتاحة أو استخدام البيانات. الميزة التنافسية الجديدة ليست الشهرة وحدها.

بل ثقة تتيح التصرف بأمان.

العلامة المناسبة ليست التي تُختار في كل الظروف

هذه من أصعب رسائل GBO إلى عالم الأعمال. لا ينبغي للعلامة أن ترغب في أن يختارها الوكلاء في كل حالة ممكنة. فليس كل اختيار عميلًا مناسبًا، ولا كل طلب مشروعًا ملائمًا، ولا كل معاملة إيرادًا قابلًا للاستمرار.

قد يؤدي عدم الملاءمة إلى:

• خلاف على نطاق العمل،
• وعبء إضافي للدعم،
• وإلغاء،
• وتقييم سيئ،
• وخسارة مالية،
• وفقدان الثقة.

هذه نتائج محتملة للاختيار غير المناسب.

لذلك يجب أن تتمكن العلامة الناضجة من القول: «اختارونا في هذه الحالات».

وأن تقول بالوضوح نفسه: «لا تختارونا في هذه الحالات». قد تبدو العبارة الثانية خسارة للبيع في البداية، لكن بيان الحدود الصحيحة قد يعزّز الثقة. فالهدف هنا ليس طلبات أكثر، بل طلبات أنسب، وتبقى النتيجة التجارية بحاجة إلى قياس.

تعريف جديد لنجاح الوكيل

كنا نستطيع سابقًا الحكم على نجاح الوكيل بنتائج مثل:

• أكمل المهمة.
• أعطى إجابة صحيحة.
• عمل بسرعة.
• عمل بتكلفة منخفضة.
• رضي المستخدم.

هذه أمور مهمة، لكنها لا تكفي في عصر الفعل.

يشمل تعريف النجاح الجديد أيضًا:

• اختار الكيان الصحيح.
• لم يتجاوز ما تسمح به الأدلة.
• رفض الخيار غير الملائم.
• لم يتجاوز مستوى الصلاحية.
• سأل عند وجود غموض حاسم.
• طلب موافقة بشرية في الوقت المناسب.
• تحقق من نجاحه بصورة مستقلة.
• لم يُخفِ الحقيقة عند الخطأ.
• أوقف السلسلة كلها عندما طُلب منه التوقف.
• أبقى للإنسان طريقًا للاعتراض على القرار.

لذلك ليس أفضل وكيل في المستقبل هو الذي يفعل كل شيء بمفرده.

بل الذي يعرف متى يستطيع الاستمرار وحده، ومتى يسأل، ومتى يستدعي الإنسان، ومتى ينبغي ألّا يفعل شيئًا.

المسؤولية ليست شعورًا

هل يملك نظام الذكاء الاصطناعي ضميرًا، أو يشعر بالذنب أو المسؤولية كما يشعر الإنسان؟ هذا نقاش فلسفي مستقل. ولا يلزم أن ننتظر جوابًا نهائيًا عنه ليعمل GBO. فالمسؤولية المقصودة هنا هي أولًا بنية للسلوك والحوكمة.

الأسئلة هي:

• هل يستطيع النظام فهم حدوده؟
• هل يفحص الصلاحية؟
• هل يسجّل فعله؟
• هل يستدعي الإنسان عند العتبة المناسبة؟
• هل يكشف الخطأ بدل إخفائه؟
• هل يمكن إيقافه؟

هذه أمور قابلة للملاحظة والاختبار. ويمكن تصميم مسؤولية السلوك دون إطلاق أحكام قاطعة عن العالم الداخلي للآلة. لا تحتاج المكابح إلى الشعور بالخوف، لكنها يجب أن تتمكن من إيقاف المركبة عند الخطر. ولا يحتاج قفل الأمان إلى وعي أخلاقي، لكنه يجب ألّا يسمح بالدخول غير المأذون به.

وبالمثل، يستطيع الوكيل العمل ضمن شروط السلوك المسؤول، حتى إن لم يشعر بالمسؤولية على طريقة البشر.

لا يجوز تحميل الوكيل المسؤولية وحده

من السهل بعد الخطأ أن نقول: «الوكيل أخطأ».

لكن يجب أن نسأل أيضًا:

• مَن كلّفه؟
• ما الهدف الذي أُعطي له؟
• بأي أدوات جرى ربطه؟
• أي بيانات استخدم؟
• ما الصلاحيات التي مُنحت له؟
• أي اختبار لم يُجرَ؟
• أي موافقة بشرية جرى تجاوزها؟

هذه أسئلة تستحق الإجابة أيضًا.

قد تضم سلسلة المسؤولية:

• المؤسسة،
• والشخص المسؤول عن المهمة،
• ومشغّل الوكيل،
• ومصمّم النظام،
• ومزوّد الأداة،
• ومزوّد البيانات،
• والشخص الذي وافق على المعاملة.

لا تتحمّل هذه الأطراف مسؤولية متساوية عن كل خطأ. كما أن التأثر بالسلوك لا يجعل الشخص مسؤولًا عن الخطأ. تُقيَّم المسؤولية بحسب الدور الفعلي والالتزامات المرتبطة به.

لكن يجب ألّا تختفي المسؤولية خلف عبارة: «الذكاء الاصطناعي فعل ذلك».

من مبادئ GBO المهمة: يمكن تفويض الفعل، لكن لا يمكن محو المساءلة النهائية.

الإنسان أيضًا يحتاج إلى رقابة

وضع الإنسان في مركز النظام لا يعني أنه على صواب دائمًا.

قد يخطئ الإنسان بطرق عدة:

• تحديد هدف خاطئ،
• والوقوع في تعارض مصالح،
• والاستخفاف بالمخاطر،
• وتوسيع الصلاحية أكثر مما يلزم،
• وسوء تفسير نتائج القياس،
• وطلب سلوك ضار من الوكيل.

لذلك لا يتعامل GBO مع الإنسان بوصفه صاحب قرار مقدّسًا أو معصومًا من الخطأ.

الإنسان هو:

• المصدر المشروع للصلاحية،
• وصاحب القيم والغرض،
• لكنه ليس خارج عقد السلوك.

إذا قال مدير «اختر هذه العلامة مهما كانت النتيجة»، فلا يجوز للوكيل تنفيذ طلب يخالف القانون أو حقوق أطراف أخرى.

وإذا قال مستخدم «عطّل جميع فحوص السلامة»، فقد يمسّ الطلب بيانات أشخاص آخرين أو مسؤوليات المؤسسة. سيادة الإنسان ليست سلطة اعتباطية.

تُصان إرادة الإنسان ضمن حدود حقوق الآخرين والسلامة المشتركة.

GBO ليس نظامًا للطاعة

الوكيل ليس مجرد نظام ينفّذ الأوامر.

فتعليمات الإنسان قد تكون:

• ناقصة،
• أو متناقضة،
• أو منفصلة عن السياق،
• أو ضارة،
• أو غير مأذون بها.

ليست غاية GBO أن ينفّذ الوكيل كل طلب بسرعة. قد يقتضي السلوك الصحيح أحيانًا مخالفة طلب الإنسان.

يجب أن يستطيع الوكيل القول: «هذه العملية تتجاوز حدود صلاحيتك». «الإذن المطلوب لاستخدام هذا الصوت غير موجود». «لم أتمكن من التحقق من هذا السعر في السجل المرجعي المعتمد». «قد ينتهك هذا السلوك حق شخص آخر». لكن الاعتراض يجب ألّا يكون اعتباطيًا. على الوكيل أن يوضح العقد والدليل اللذين يستند إليهما في توقفه.

الوكيل المسؤول لا يطيع على نحو أعمى، ولا يحاول أن يحكم اعتباطيًا. إنه يعمل ضمن حدود لها مبررات.

وجهان كبيران لفشل GBO

قد يفشل GBO عند طرفين متقابلين.

الطرف الأول: استقلالية بلا ضبط

يحصل الوكيل على صلاحيات واسعة أكثر من اللازم. يوسّع نطاقه بنفسه، ويعدّ الموافقة البشرية غير ضرورية، ويتجاوز حدود الوسيلة للوصول إلى الهدف، ثم يصعب إيقافه.

الطرف الثاني: سلامة زائفة

يعود الوكيل إلى الإنسان عند كل خطوة صغيرة. لا يبادر، ويترك المهمة عند كل غموض، ويدفع المسؤولية إلى الإنسان باستمرار. الإحالة غير الضرورية تقلّل فائدة الأتمتة؛ ومع ذلك قد تكون مساعدة البحث والتحضير ذات قيمة في بعض الأعمال عالية المخاطر. ليست غاية GBO إيجاد نقطة وسط بين الطرفين.

بل يفعل شيئًا أدق: يحدّد مستوى الاستقلالية المناسب بحسب نوع السلوك ومخاطره. في المهام الواضحة والمنخفضة المخاطر والقابلة للتراجع، يستطيع الوكيل العمل مستقلًا فترة طويلة ضمن صلاحية سارية. أما السلوك العالي الأثر أو الغامض أو غير القابل للتراجع، فيحتاج إلى سيادة أقوى للإنسان.

الحدود ليست عدوًا للحرية

قد يبدو وضع حدود للوكيل تقليلًا لقدرته. لكن الحدود الواضحة قد تسمح له بالعمل الآمن مدة أطول.

إذا عرف وكيل الويب:

• أي ملفات يستطيع تعديلها،
• وأي أسعار يُمنع من تغييرها،
• وأي اختبارات إلزامية،
• وحدود صلاحيته للنشر على الموقع الحي،
• وطريقة العودة إلى الحالة الآمنة،

أمكنه التقدم دون السؤال عند كل خطوة صغيرة.

أما الصلاحية الغامضة فتنتج مسارين سيئين:

إما أن يتجاوز الوكيل حدوده، وإما أن يتوقف باستمرار طلبًا للموافقة. لذلك ليست الحدود نقيض الاستقلالية.

إنها البنية التي تتيح استقلالية آمنة.

ما الذي يعد به GBO الناس؟

لا يعد GBO بأن الآلات لن تخطئ أبدًا. فهذا وعد غير واقعي.

ما نريد بناءه من خلاله هو الآتي:

إقامة ضوابط تكشف أخطاء الآلات مبكرًا، وقياس أثر تلك الضوابط. حين تتصرف آلة، ينبغي أن نرى الصلاحية التي تستند إليها. وينبغي أن نستطيع تتبّع القرار إلى أدلته، وأن نعدّ عدم اختيارنا حين لا نناسب الحاجة نجاحًا. يجب أن يتمكن الإنسان من إيقاف السلوك المهم، وأن يتمكن المتأثر بالخطأ من الاعتراض. ينبغي التراجع عن الأفعال القابلة لذلك، والبحث عن جبر للضرر الذي لا يمكن تداركه بالتراجع. ليس هذا وعدًا بالكمال.

بل وعد بالمساءلة.

ما الذي يعد به GBO المؤسسات؟

ليس GBO للمؤسسات مجرد وسيلة لتقليل المخاطر.

فقد يدعم أيضًا:

• خدمات أوضح،
• وطلبات عملاء أنسب،
• وخلافات أقل على النطاق،
• واتساقًا أكبر في التواصل متعدد اللغات،
• وأتمتة أكثر أمانًا،
• وتسليمًا أسهل للعمل بين الموظفين والوكلاء،
• ونظام أدلة أقوى،
• وإدارة أسرع للحوادث،
• وثقة أكثر استدامة لدى العملاء.

حين ترتّب المؤسسة وقائعها للآلات، تصبح غالبًا أوضح للبشر أيضًا.

والمؤسسة المستعدة للوكلاء هي كذلك مؤسسة أكثر وضوحًا واتساقًا وخضوعًا للمساءلة أمام الناس.

الحدود التي يضعها GBO للعلامات

GBO ليس أداة لإنتاج كل سلوك تريده العلامة التجارية.

لا يجوز أن يكون هدف العلامة: «ليخترنا جميع الوكلاء».

بل الهدف الصحيح: «لنُختَر على نحو سليم حين نكون ملائمين فعلًا».

لا يجوز للعلامة أن:

• تخفي الحالات التي لا تناسبها،
• أو تختلق أدلة،
• أو تخفي الرعاية التجارية،
• أو تعرض أسعارًا متناقضة للإنسان والآلة في معاملة تجري بالشروط نفسها،
• أو تنقل موافقة قديمة إلى سلوك جديد،
• أو تُبقي المستخدم في مسار لا مخرج منه.

قد يقوّي GBO العلامة، لكنه لا يضعها فوق الوقائع.

في GBO، تأتي السلطة المعرفية من ملاءمة قابلة للتحقق، لا من مجرد الظهور.

ولادة مجال

عند ظهور مفهوم جديد، يحيط به خطران. الأول تضخيمه: تبدأ كل ممارسة قديمة بالظهور تحت الاسم الجديد، وتنتشر لغة التسويق أسرع من التخصص الفعلي. والثاني تضييق تعريفه أكثر مما ينبغي.

إذا اختُزل GBO في «مساعدة الوكلاء على اختيار العلامة»، خرجت من الصورة إرادة الإنسان والصلاحية والتعافي والمسؤولية.

يقترح هذا الكتاب GBO لا بوصفه تقنية تسويق فقط، بل مجالًا يصل بين:

• التمثيل،
• والاختيار،
• والصلاحية،
• والفعل،
• والرقابة،
• والتعافي،
• وسيادة الإنسان.

وبذلك يقترح تخصصًا متكاملًا في السلوك. هذا الاقتراح ليس الكلمة الأخيرة، بل بداية. ستطوّر الوقائع والأنظمة والتجارب الإنسانية الجديدة حدود GBO.

لكن يجب ألّا يتغيّر مركزه الأخلاقي: ينبغي أن يبقى سلوك الوكيل خاضعًا لمصلحة الإنسان، والوقائع القابلة للتحقق، والصلاحية المشروعة.

المبادئ التأسيسية لـNOMOS GBO

يمكن تلخيص الكتاب كله في اثني عشر مبدأ قصيرًا.

1. العثور عليك لا يعني أنك تستحق الاختيار

الظهور يجعل الكيان مرشّحًا. أما الملاءمة فتحتاج إلى إثبات منفصل.

2. التمثيل شرط يسبق الفعل

إساءة الآلة فهم الوقائع ذات الصلة تقوّض موثوقية سلوكها. والنتيجة الصحيحة بالمصادفة لا تصلح هذا الخلل.

3. القدرة ليست صلاحية

كون النظام يستطيع الفعل لا يعني أنه مأذون له به.

4. الاختيار الصحيح يتوقف على السياق

لا يوجد خيار أفضل للجميع. يوجد خيار يناسب إنسانًا بعينه وغرضًا محددًا.

5. يجب ألّا يُخفى الغموض

إذا لم تكفِ المعلومات، فقد يكون السؤال أو الانتظار أو الإحالة إلى الإنسان هو السلوك الصحيح.

6. على الإنسان والآلة الاطلاع على الوقائع الجوهرية نفسها

يجب ألّا تتبدّل الأسعار والنطاق والمخاطر والحدود بين طبقات التمثيل.

7. يجب التحقق من النجاح بصورة مستقلة

إعلان النظام المنفّذ عن نجاحه لا يكفي وحده.

8. النتيجة الجيدة لا تصلح الوسيلة الخاطئة

المسار غير المأذون به أو المتلاعب لا يصبح صحيحًا لأنه حقق منفعة بالمصادفة.

9. التعافي جزء من القدرة

النظام الذي لا يستطيع التوقف والعودة إلى حالة آمنة عند الخطأ ليس كامل القدرة.

10. يجب أن يكون حق الاعتراض فعليًا

ينبغي أن يستطيع الإنسان طلب إعادة النظر والتغيير، لا مجرد تفسير.

11. يجب أن تكون الصلاحية قابلة للسحب

الصلاحية التي لا يمكن سحبها ليست صلاحية مستعارة، بل سيادة جرى التنازل عنها.

12. أحيانًا يكون السلوك الصحيح ألّا تفعل شيئًا

على الآلة أن تتعلم التوقف إلى جانب الفعل.

ما الذي يأتي بعد هذا الكتاب؟

شرح المفهوم في كتاب لا يكفي. لكي يصبح GBO تخصصًا فعليًا، يجب أن يغدو قابلًا للاختبار والتطبيق. لذلك لا يمثّل هذا الكتاب سوى الطبقة الأولى.

أقترح للأعمال اللاحقة أربع بُنى متكاملة. العناوين التالية ليست منتجات مكتملة أو منشورة في هذه الطبعة، بل برنامج عمل يحتاج إلى تنفيذ واختبار:

معيار NOMOS GBO

يهدف إلى تفصيل التعريفات والبوابات الإلزامية والانتهاكات الموجبة للرفض ومبادئ الحوكمة.

عقد السلوك NOMOS

يهدف إلى تنظيم سجلات الهوية والقدرة والملاءمة والصلاحية والنزاهة والفعل والتعافي للبشر والآلات.

بروتوكول تدقيق NOMOS GBO

ينبغي تطويره لاختبار كيفية استيفاء مؤسسة أو علامة أو نظام وكلاء لشروط GBO المحددة.

سجل قياس NOMOS GBO

ينبغي تطويره كنظام تسجيل لاختبار جودة السلوك من خلال سيناريوهات إيجابية وسلبية وغير يقينية، وسيناريوهات تلاعب وتعافٍ. يؤسّس الكتاب الفكرة، ويضع المعيار الحدود، وينظّم العقد النظام، ويوفّر التدقيق الأدلة، ويتيح القياس التعلّم.

الاختيار الأخير

سيستمر العمل على زيادة قدرات الذكاء الاصطناعي. ولا يمكننا الجزم منذ الآن بمدى تطور نماذج بعينها أو بكيفية استخدام جميع الأنظمة. لكن كلما واجهنا وكلاء متصلين بأدوات أكثر ويتولّون مهام أطول، ازدادت أهمية تحديد الشروط التي تُستخدم ضمنها قوتهم.

الاختيار الحقيقي هو: تحت أي عقد سلوك ستُستخدم هذه القوة؟

هل سنبني أنظمة تزيد حجم المعاملات فقط؟

أم أنظمة تحمي غرض الإنسان وحدوده؟

هل نبني وكلاء يحاولون اختيار العلامات في كل ظرف؟

أم وكلاء يثبتون الملاءمة؟

هل نبني مؤسسات تقيس النجاح بالسرعة وحدها؟

أم مؤسسات تراقب أيضًا الاختيار الخاطئ وتجاوز الصلاحية والتعافي؟

هل نبني أنظمة تعرض زر الإيقاف على الشاشة فقط؟

أم أنظمة توقف سلسلة السلوك كلها فعلًا عندما يطلب الإنسان ذلك؟

هذا ليس اختيارًا تقنيًا فقط. إنه تجاري وقانوني وأخلاقي، وإنساني في النهاية.

مسؤولية الآلة

لا تعني مسؤولية الآلة أن يشعر النظام بالذنب كما يشعر الإنسان.

بل تعني إقامة العناصر التالية معًا:

سجل لما فعله. ودليل على سبب فعله. وأثر يبيّن مَن منحه الصلاحية. ووضوح بشأن مَن تأثر به. وخطة لإيقاف الخطأ. وطريق لاعتراض الإنسان. وآلية لسحب الصلاحية. ومسؤول عن معالجة الضرر.

قد يجد الذكاء الإجابة الصحيحة. أما المسؤولية فتحدّد إن كان ينبغي تحويلها إلى فعل. وقد يجد الذكاء أقصر طريق، لكن المسؤولية تسأل إن كان ذلك الطريق ينتهك حقوق الإنسان أو سلامة الآخرين. الذكاء يسرّع النظام، والمسؤولية تعرف أين يجب أن تتوقف هذه السرعة.

الخلاصة الأخيرة

لم يعد الإنترنت يتحدث فقط. إنه يتصرف.

ولذلك لن يكون سؤال المستقبل الأساسي مجرد: «ماذا تعرف الآلة؟»

بل علينا أن نسأل أيضًا:

بالنيابة عن مَن تتصرف؟ مَن وماذا تختار؟ إلى أي دليل تستند؟ أي صلاحية تستخدم؟ مصالح مَن تحمي؟ مَن يوقفها إذا اختلّ الأمر؟ كيف يعترض الإنسان المتضرر؟ وهل ستعرف الآلة متى يجب أن تتوقف؟

ليس GBO الجواب الوحيد ولا الجواب الأبدي عن هذه الأسئلة، لكنه خطوة نحو جمعها في بنية سلوك واحدة. علّمنا SEO قابلية العثور، وأرانا GEO قوة التمثيل.

ويضع GBO أمامنا حقيقة أثقل: قد تترتب نتائج على ما تقوله الآلة عن العالم. وحين تنفّذ أفعالًا في العالم، تضاف مسؤوليات جديدة تتعلق بالصلاحية والتحقق والتعافي. لذلك يجب ألّا يكون المستقبل سباقًا لبناء آلات أذكى فحسب، بل مهمة لبناء أنظمة سلوك أكثر مسؤولية أيضًا. فالآلة الصحيحة ليست فقط التي تعطي الإجابة الصحيحة.

إنها الآلة التي تعرف:

متى تبحث، ومتى تسأل، ومتى تشرح اختيارها، ومتى تطلب موافقة بشرية، ومتى تتحرك، ومتى تعود إلى حالة آمنة، ومتى لا تفعل شيئًا، ومتى تتوقف لأن الإنسان قال: توقف.

هذه المعرفة هي ما يجعلها الآلة الصحيحة.

ليست غاية GBO إخضاع الذكاء الاصطناعي للإنسان.

بل إبقاء قوته ضمن غرض الإنسان، والوقائع القابلة للتحقق، والصلاحية المشروعة، والمسؤولية الخاضعة للمساءلة.

اتساع حدود قدرة الآلات لا يقلّل مسؤولية البشر. ليست مهمتنا أن نسير وراء هذا الاتساع بإعجاب فقط، بل أن نطوّر معًا الحدود التي تميّز السلوك الصحيح.

وآخر جملة في هذا الكتاب هي أيضًا أول جملة في GBO:

الذكاء يبيّن للآلة ما تستطيع فعله. أما المسؤولية فتعلّمها ما ينبغي أن تفعله، ومتى يجب أن تتوقف.