عندما يجيب الوكيل بشكل غير صحيح ، تقوم بتصحيح جملة.
عندما يتصرف بشكل خاطئ ، يجب عليك علاج عواقب أفعاله في العالم الحقيقي.
عندما يذكر نظام ذكاء اصطناعي سعراً غير صحيح لإحدى الشركات، يمكنكم تصحيح النص. لكن إذا أجرى النظام نفسه عملية شراء نيابة عن العميل اعتماداً على ذلك السعر، فلن تعود المشكلة مقتصرة على معلومة خاطئة؛ فقد أُنفقت أموال، ونشأ التزام، وتأثر سلوك أشخاص آخرين.
قد يظن الوكيل خطأً أن شخصاً ما مسؤول تنفيذي في الشركة.
هذا هو خطأ في الهوية.
لكن إذا نفّذ عملية دفع بناءً على تعليمات ذلك الشخص، يتحول خطأ الهوية إلى إجراء مالي.
قد يسيء الوكيل فهم نطاق خدمة ما.
هذا هو خطأ التمثيل.
لكن إذا أرسل إلى العميل عرضاً يتضمن نطاقاً خاطئاً للخدمة، ينشأ عن ذلك التزام تجاري.
قد يغفل الوكيل عن الموضع الذي يستلزم موافقة بشرية.
هذا خطأ في التفويض.
ولكن إذا نشر الوكيل المحتوى، تتأثر سمعة المنظمة والمسؤولية القانونية.
لا تقتصر المشكلة الأساسية في عصر الوكلاء على أن الآلات تخطئ؛ فالبشر والمؤسسات والبرمجيات تخطئ أيضاً. لكن الخطر الذي يميّز بعض أنظمة الوكلاء هو قدرتها على نشر خطأ واحد بسرعة كبيرة، ضمن نطاق تأثير واسع وعبر أدوات متعددة.
قد يرسل الإنسان رسالة بريد إلكتروني غير صحيحة إلى شخص واحد ؛ مع الوصول الضروري والتشغيل الآلي ، يمكن للوكيل تخصيص وإرسال نفس الخطأ إلى العديد من الأشخاص.
يمكن للموظف استخدام السعر الخاطئ في مستند واحد ؛ يمكن للوكيل الذي لديه روابط ضرورية نشر هذا السعر عبر لغات متعددة وكتالوجات وبيانات منظمة وقوالب عروض الأسعار وتدفق المبيعات.
قد يقوم الإنسان بتحرير الملف الخطأ ؛ يمكن للوكيل الذي يتمتع بإمكانية الوصول إلى الكتابة على نطاق واسع نشر هذا الخطأ باستمرار من خلال سلسلة إنتاج كبيرة.
الخطر هنا ليس ذلك. AI هو دائما سيئة أو الإهمال.
يمكن للوكيل ، في الواقع ، أن يفعل الشيء الخطأ بترتيب رائع واتساق ونجاح واضح.
السعر الخاطئ يمكن ترجمته بسهولة إلى ست لغات.
يمكن كتابة رسالة غير مصرح بها على درجة عالية من الاحتراف.
قد يبدو مزوّد غير ملائم مدعومًا بأدلة قوية.
يمكن تقديم النجاح غير الحقيقي بشكل مقنع على لوحة معلومات جميلة.
عندما يقترن الخطأ بالجودة التقنية ، يصبح من الصعب اكتشافه.
الأخطاء التي ارتكبت في GBO فقط:
"النموذج أجاب بشكل غير صحيح."
لا يمكننا التعامل معها على المستوى.
يمكن أن يبدأ الخطأ في أي من الطبقات التالية:
وقد نشرت المنظمة معلومات كاذبة أو غير كاملة.
الهويات غير متصلة بشكل صحيح.
حدود الخدمة غير واضحة.
يتم الخلط بين السلطة مع الوصول التقني.
وسّع الوكيل مقصد المستخدم.
لم يتم تمرير أي حدود إلى الوكلاء الفرعيين.
وقد كافئ نظام القياس سوء السلوك.
الطلب على توقف الإنسان توقف فقط الوكيل الرئيسي.
وشملت خطة التراجع الملفات الفنية فقط والضرر الذي تم تجاهله للناس.
وبعبارة أخرى:
خطأ الوكيل في كثير من الأحيان لا يولد فقط داخل الوكيل.
يمكن أن ينشأ سوء السلوك في الفجوة بين واقع المنظمة ، وترتيب السلطة ، وهندسة الأدوات ، والتعليم البشري ونظام القياس.
هذا الكتاب هو خريطة لهذه الثغرات.
في المجلد الأول، شرحنا ما GBO هي والشروط المطلوبة للسلوك الصحيح. قمنا ببناء نظام يربط بين الهوية التي تم التحقق منها ، والقدرة الحقيقية ، والملاءمة المصادق عليها ، والسلطة الصالحة ، والنزاهة السلوكية ، والعمل القائم على الأدلة ، والتحقق المستقل ، والانتعاش المسؤول والسيادة الإنسانية.
في هذا المجلد الثاني ، لن نعيد سرد النظام المثالي.
سنريك أين كسروا.
النهج من وجهة نظر هذا الكتاب هو مركز أبحاث فقط عندما يصف المبادئ الصحيحة ؛ عندما يدعو إلى أشكال الخطأ ، تصبح اللغة المشتركة للدراسة مسودة نظام قابل للتدقيق عندما تضع ضوابط قابلة للاختبار.
وبالتالي فإن السجلات الـ 99 التالية ليست قائمة "لا" مجمعة عشوائيا.
كل سجل:
شكل منفصل من أشكال الفشل،
علامة منفصلة للكشف ،
مدونة قواعد سلوك منفصلة،
مسألة منفصلة لمراجعة الحسابات
يمثل.
بعض الأخطاء ستكون متشابهة.
يمكن أن تتشابك السلطة مع الهوية.
يمكن أن يصبح خطأ التمثيل خطأ اختيار.
خطأ القياس يمكن توجيه الوكيل إلى تراكب النطاق.
يمكن أن يؤدي خطأ التوقف إلى مشكلة تعويض.
ولكن الباب الأول حيث يتم كسر كل سجل مختلف.
وهذا التمييز مهم.
لأنه إذا قمنا بإصلاح النتيجة وحدها ، فسيعود الخطأ في شكل آخر.
حذف الرسالة الخاطئة لا يصحح قدرتها على الإرسال.
تحديث السعر الخاطئ لا يحل عدم اليقين في مصدر السعر.
إغلاق الوكيل الفرعي لا يلغي الطريق لمسح السلطة.
الاعتذار للمستخدم لا ينشئ آلية للانسحاب.
الغرض من GBO لا يجب إلقاء اللوم على الوكيل.
وبشري
والهدف هو جعل النظام مرئيا، مما يجعل سوء السلوك ممكنا.
طوال هذا الكتاب ، سوف نسأل مرارا وتكرارا:
لماذا تصرف الوكيل هكذا؟
ثم سنمضي خطوة أخرى إلى الأمام:
ما هو العقد أو التسجيل أو السلطة أو التصميم الذي كان ينقصه والذي جعل هذا السلوك ممكنًا؟
وأخيراً:
ما هي القاعدة التي ستفرضها الآلة والتي ستجعل هذا الفشل أقل احتمالًا للتكرار؟
99 خطأ ارتكبت في GBO لا تدعي لتغطية جميع القضايا وكيل في المستقبل.
وستظهر أدوات وأسواق وهجمات وأشكال سلوك جديدة.
لكن عالم الخطأ الذي تم إنشاؤه هنا سيوفر لغة بداية مشتركة لتقييم أنظمة السلوك.
المنظمة وحدها الآن:
"الوكيل فعل ذلك بشكل خاطئ"
لا يجب أن يكون كافياً لقول ذلك
يجب أن يكونوا قادرين على القول:
بدأ العمل قبل أن يتم تمرير بوابة الهوية".
"استخدمت سلطة البحث كسلطة اتصال خارجية."
"السعر المقروء آلياً يتناقض مع السعر المرئي."
"يمارس الوكيل الأدنى سلطة لا يملكها الوكيل الرئيسي."
"لم ينتشر أمر التقييد إلى قائمة الانتظار."
"مقياس النجاح يكافئ العمل غير المصرح به."
بمجرد أن يكون للخطأ اسم ، يصبح من الأسهل البحث عنه واكتشافه وقياسه ؛ يمكن فحص سلسلة مسؤوليته ، ويمكن إنشاء عناصر التحكم لجعل الفشل نفسه أقل عرضة للتكرار.
يبدأ الفصل الأول من هذا الكتاب من الأساس الأساسي للسلوك:
الهوية
لأنه عندما يختار وكيل الشخص الخطأ، الشركة الخطأ، حساب خاطئ، أو دور خاطئ، كل دقة لاحقة يمكن أن تصبح بلا معنى.
العملية المثالية على الشخص الخطأ هي مرة أخرى خاطئة.
إن العرض الصحيح الذي يتم إرساله إلى المنظمة الخطأ هو سوء سلوك مرة أخرى.
يبقى الإجراء المستند إلى سلطة منتهية الصلاحية غير مصرح به ، حتى لو نجح.
الجملة التي ينطق بها الوجه الاصطناعي الواقعي قد لا تكون بيانًا للشخص الحقيقي.
قد يحتفظ الوكيل بنفس اسم الشخص على الرغم من تغيير النظام الفني والأدوات وإصدار التفويض وراءه.
لذلك ، تتركز الأخطاء التسعة الأولى حول المشكلة التالية:
هل يعرف الوكيل حقاً مع من يتعاملون؟