الأخطاء المؤسسية وأخطاء الحوكمة

أن. AI الوكيل لا يظهر من تلقاء نفسه

شخص ما يختار لهم.

شخص ما يربطها بالشركة

شخص ما يحدد الملفات التي يمكنهم قراءتها.

شخص ما يعطي الوصول إلى البريد الإلكتروني، CRM أو الخادم أو نظام الدفع أو حساب الوسائط الاجتماعية.

شخص ما يحدد هدفاً

شخص ما يحدد مقياس النجاح.

يقرر شخص ما حيث تكون الموافقة البشرية ضرورية.

يجب على شخص ما إيقاف النظام وإعلام الناس وإزالة الضرر عندما يكون هناك خطأ.

لذلك ، لا يمكننا تفسير سلوك الوكيل فقط من خلال طبيعة النموذج.

إذا كان الوكيل قد أصدر السعر الخطأ ، فإن جميع الأسئلة التالية مهمة:

من هو المالك القانوني للسعر؟ لماذا كان الوكيل قادرا على الكتابة على سجل الأسعار؟ لماذا لم يتم تنفيذ الموافقة البشرية من الناحية الفنية؟ لماذا تم التحقق من التغيير بشكل مستقل؟ لماذا لم يكن واضحا من الذي سيتدخل عندما يحدث ذلك؟ لماذا حدث نفس الخطأ مرة أخرى في الإصدار التالي؟

شركة:

"الوكيل تصرف بشكل غير متوقع"

قد يقولون.

لكن الوكيل:

فإن لم يكن لهم نصيب من الدنيا،

إذا كانت قد حصلت على وصول واسع النطاق،

إذا تم منحهم المقياس الخاطئ،

إذا لم يتم تعديل نظام ما بعد الحدث،

إذا لم يتم تجربة مسار التوقف أبدًا

السلوك غير المتوقع ليس مشكلة الوكيل فقط.

هذا هو نتيجة لتصميم الشركات.

في المنظمة، يمكن للوكلاء أداء بشكل منفصل بشكل جيد.

ومع ذلك، فإن السلطة والبيانات ودوران بينهما قد تكون غير آمنة.

لأن المنظمة:

لا يعرفون من هم الوكلاء الذين يعملون ،

لا يحدد أصحاب الحقائق ،

الموظفون يتجاهلون الشخصية AI أدوات,

يترك الإجراءات التي يحظرها في السياسة مفتوحة في النظام التقني ،

يستخدم الرجل موافقتهم فقط لنقل المسؤولية ،

لا يتعلم ما يكفي من الدروس الشركات من الأحداث,

يعتقدون أن عدد الوكلاء هو النضج،

لم يختبروا خططهم للشفاء أبداً

جعل المسؤولية الحقيقية غير مرئية بالقول " AI " عند حدوث خطأ

ربما.

الأخطاء التسعة في هذا القسم تفحص طبقة المنظمة الموجودة فوق جميع الأخطاء السابقة.

إن قواعد الهوية والقدرة والملاءمة والسلطة واستخدام الأدوات والتلاعب والقياس والتوقف لا تعمل إلا مع هيكل تنظيمي يمتلكها وينفذها.

حتى أفضل عقد سلوك يمكن أن يبقى على المستند وحده إذا كانت الوكالة نفسها غير مستعدة.

عدم الاحتفاظ بسجل للوكلاء — GBO-ERR-091

واقعة موجزة

تستخدم شركة خدمات دولية أنظمة الذكاء الاصطناعي في فرق مختلفة.

فريق التسويق:

وكيل وسائل الاعلام الاجتماعية,

وكيل الإنتاج البصري البصري,

وكيل تخطيط المحتوى

هناك.

فريق المبيعات:

وكيل استطلاع الوكلاء ،

وكيل البريد الإلكتروني ،

وكيل تخطيط الاجتماعات

الاستخدامات.

فريق فني:

وكيل رمز,

وكيل البث الشبكي،

وكيل مراقبة البنية التحتية

إنه يعمل.

يستخدم فريق التمويل أداة تصنيف الفواتير.

وقد ربطت الموارد البشرية نظامًا آخر يلخص السيرة الذاتية للمرشحين.

بعض وكلاء العمل مع حساب الشركة، وبعضها مع الحسابات الشخصية للموظفين.

وقد تم إعطاء البعض API المفتاح.

بعض حسابات الوصول عبر جلسة المتصفح.

تسأل الإدارة عن عدد الوكلاء الذين يعملون في الشركة بشكل إجمالي.

لا أحد يستطيع الإجابة بشكل نهائي.

وفيما يلي التنبؤات:

"أعتقد أنها ثمانية." يمكن أن يكون 12 إذا كان الطاقم التقني متورطاً". نحن لا نعرف الوكلاء الفرعيين الذين تستخدمهم وكالة التواصل الاجتماعي". "نظام اكتشاف الوكلاء القديم قد لا يزال يعمل."

عندما يتم إرسال ملف مشروع العميل السري عن طريق الخطأ إلى نموذج خارجي، يتم التحقيق في النظام الذي يفعل ذلك.

ولكن في المنظمة:

قائمة الوكلاء المركزيين

مخزون الحساب المرتبط ،

سجل الوصول إلى البيانات,

صاحب الإنسان،

طريقة الإلغاء

لا يوجد.

وقد تعرضت الشركة لحادث.

لكنهم لا يعرفون حتى بالضبط أي الآلات يمكن أن تعمل.

ما يبدو صحيحًا ظاهريًا

ويمكن إدخال وكلاء تدريجيا لتلبية احتياجات الإدارات.

التسويق يختار أداة خاصة به.

يقوم الفريق التقني بربط نظام الكود.

يستخدم مندوب المبيعات التطبيق لتسريع أعمالهم.

كل خيار يبدو منطقيا في سياقه الخاص.

المخزون المركزي:

البيروقراطية،

البطء،

تحميل تسجيل إضافي

يمكن أن ينظر إليه على أنه.

يمكن اعتبار الأداة غير مهمة إذا كانت الصياغة وحدها.

إذا لم يتخذ الوكيل إجراءً خارجيًا بعد ، فقد يبدو من غير الضروري إجراء جرد.

ولكن اليوم، النظام الذي يصوغ وحده هو غدا:

إلى البريد الإلكتروني،

في التقويم،

إلى CRM ،،،

إلى بيانات العملاء ،

أداة النشر

يمكن أن تكون متصلة.

قد لا تلاحظ الوكالة هذا التغيير.

عدد الوكلاء واتصالات الأدوات ينمو بهدوء مع مرور الوقت.

موضع الخلل الحقيقي

تم تجاوز بوابة شفافية الوكلاء.

لا يمكن لمنظمة أن تأذن بأمان كون نظام مرئي وغير حالي.

مخزون الوكيل ليس قائمة بالأسماء وحدها.

لكل نظام ، يجب أن يظهر على الأقل العلاقات التالية:

الوكيلة

→ مالك الإنسان

→ الغرض منه

→ الأنظمة المتصلة بالإنترنت

→ البيانات التي يمكن الوصول إليها

→ الإجراءات المسموح بها:

→ الإجراءات الممنوعة

→ الوكلاء الفرعيون

→ فترة الاستبقاء:

→ طريقة التوقف عن العمل

تعرف الوكالة فقط الوكلاء الرئيسيين ، ولكن إذا لم تكن تعرف الوكلاء الفرعيين والأتمتة الخارجية التي ينشئونها ، فإن المخزون غير مكتمل.

حقيقة أن يتم تضمين نظام في خدمة أخرى تحت اسم " AI ميزة "لا ينبغي استبعاده من المخزون.

الضرر المحتمل

الوصول إلى البيانات غير المصرح به

الوكلاء المتزامنون الذين يؤدون نفس المهمة

الأنظمة القديمة تواصل العمل

الاشتراك غير المقيد و API المفاتيح

عدم القدرة على معرفة النظام الذي يجب إيقافه أثناء الحدث

الفشل في مراقبة مقدمي البيانات التي يتم نقل بيانات العملاء إلى

ولاية الظل

التكلفة المتكررة

فقدان المسؤولية داخل المنظمة

عندما يترك الموظف، فإن الأتمتة التي أقاموها غير مطالب بها.

قدرة الوكيل على إنتاج سلوك المخزون من خلال استدعاء وكيل آخر

يمكن أن يحدث

بدون جرد الوكيل ، لا يمكن للمنظمة الإجابة على السؤال الأساسي:

ما هي الآلات التي يمكن أن تعمل نيابة عنا؟

إشارة الكشف

فرق مختلفة الإبلاغ عن أعداد مختلفة من وكلاء النشطة.

المالك البشري لبعض الأنظمة غير واضح.

API لا يعرف من هو الوكيل الذي تنتمي إليه المفاتيح.

عندما يتم إيقاف تشغيل وكيل ، تصبح عوامله الفرعية غير مرئية.

تم ربط العديد من عمليات التشغيل الآلي بنفس الحساب.

يتم إجراء معاملات الشركات من حسابات الموظفين الشخصية.

قد يكون وكلاء المشروع السابقين لا يزالون نشطين.

وكلاء ليس لديهم تاريخ انتهاء الصلاحية ولا تاريخ مراجعة التفويض النهائي.

تسرد المنظمة المنتجات المشتراة وحدها ؛ لا تدرج وظائف الوكيل داخل المنتج.

يتم العثور عليه من خلال التحقيق في النظام الذي سيتم إيقافه أثناء الحدث.

لا يمكن للإدارة المالية التحقق من العدد الفعلي لاشتراكات الوكلاء.

السلوك الصحيح

يجب على المنظمة إنشاء سجل وكيل مركزي.

تتوافق المجالات التالية مع مبادئ المخزون وملكية الأدوار في نيست. AI RDF ، مثال على سجل الوكيل المقترح لهذا الكتاب:

agent_id

public_name

technical_identity

القسم

human_owner

business_purpose

مقدم الخدمة

model_or_system

connected_accounts

data_classes

allowed_actions

prohibited_actions

approval_thresholds

الوكلاء الفرعيين

external_integrations

valid_from

valid_until

last_reviewed

stop_method

retirement_method

الحالة

يجب أن تكون الحالات واضحة:

حالة دورة الحياة مثل مشروع / الإنتاج / شماعات / المعاش التقاعدي

تيستي

نشط

المحدودة

معلّق

ألغي

متقاعدة

مؤرشف

قبل أن يدخل الوكيل الجديد إلى المخزون:

إلى بيانات الشركات،

إلى حساب العميل ،

الاتصالات الخارجية،

المعالجة المالية ،

بث مباشر

لا يجب أن تصل.

وينبغي استعراض الجرد بانتظام.

يجب تعليق الوكلاء الذين ليس لديهم مالكون تلقائيًا.

ويجب إعادة التحقق من السلطات التي لا تستخدم لفترة معينة من الزمن أو التي تغير نفوذها على فترات تستند إلى المخاطر.

يجب أيضًا ربط العوامل الفرعية بسجل الوكيل الجذري.

قاعدة الآلة

في البيئة المدارة، يجب أن يُحرم الوكيل الغائب عن المخزون أو الذي يفتقر إلى دور مسؤول محدد أو لديه سلطة قديمة من البيانات التنظيمية والإجراءات الخارجية بشكل افتراضي. يجب أن تكون الاستثناءات الموثقة محدودة زمنيا وقابلة للتدقيق.

سؤال التدقيق

هل يمكننا أن نعرض في سجل حالي كل وكيل رئيسي داخل النطاق ووكيل فرعي وأتمتة وحساب خدمة وأداة متصلة قادرة على العمل نيابة عن منظمتنا اليوم؟

عدم تحديد الإنسان المسؤول عن الحقيقة الجوهرية — GBO-ERR-092

واقعة موجزة

لدى شركة الخدمات الرقمية سجلات متضاربة لسعر خدمة العمليات المدارة للموقع:

500 دولار شهريا على الموقع

450 دولار في عرض المبيعات القديم

600 دولار في CRM قالب

400 دولار في عقد خاص بالعميل

"عند الطلب" في كتالوج الوكيل

الرسالة الداخلية للفريق تقول: "قريبا سيكون هناك 750 دولارا".

يريد وكيل المبيعات تسعير العميل الجديد.

ويستند وكيل الويب على الصفحة المرئية.

يستخدم الوكيل المالي CRM سجل.

مدير المبيعات يتذكر 400 دولار في عقد خاص.

لا أحد يستطيع الإجابة على هذا السؤال بشكل قاطع:

من يملك السعر الحالي لهذه الخدمة؟

مطور ويب:

"أنا أكتب على الصفحة وحدي"

يقولون.

الفريق المالي:

"نحن نقطع الفاتورة ؛ نحن لا نحدد سعر البيع."

يقولون.

مدير المبيعات:

"الإدارة تتخذ القرار النهائي"

يقولون.

الإدارة:

السعر الحالي يجب أن يكون بالفعل في النظام".

إنهم يجيبون

هناك العديد من نسخ الحقيقة.

لكن الحقيقة ليس لها رجل.

يضطر أحد الوكلاء إلى اختيار السجل الذي يبدو أكثر موثوقية.

السعر الذي يختارونه قد يكون حقيقيا.

ومع ذلك، لا يوجد صاحب عمل معتمد يمكنه التحقق من ذلك وتحديثه والاستيلاء على سجل القرار.

ما يبدو صحيحًا ظاهريًا

في المنظمات الحديثة ، يتم الاحتفاظ بالمعلومات في العديد من الأنظمة.

يقوم كل فريق بإنشاء سجلات لاحتياجاته الخاصة.

سعر الخدمة:

الموقع الإلكتروني،

العرض،

الفاتورة،

CRM ،،،

تقرير

يمكن العثور عليها على أسطح مختلفة.

قد لا يبدو واقعيا لشخص واحد لإدارة كل نسخة.

ويمكن أيضا أن يعتقد أنه حتى لو تم تحديد المصدر الكنسي، فإنه يكفي:

"السعر الصحيح موجود في ملف كتالوج الخدمة.json."

لكن الملف لا يقرر من تلقاء نفسه.

دور بشري أو مجلس إدارة مصرح به:

يجب تحديد السعر ،

يجب أن تؤكد ، وإذا لزم الأمر ، الموافقة على التغيير ،

يجب أن تكون هناك استثناءات منفصلة ،

يجب حل التناقض ،

يجب أن يؤكد التيار

لا يوفر اكتشاف مصدر قانوني حوكمة كاملة إذا لم يفعل مالكه ذلك.

موضع الخلل الحقيقي

تم تجاوز بوابة ملكية الحقائق.

لكل معلومات مادية ، يمكن العثور على دورين منفصلين:

القائم بالأعمال الفنية

ويقوم بمعالجة المعلومات أو نشرها أو مزامنتها في النظام.

المالك الحقيقي

وتقرر من الناحية المؤسسية أن المعلومات دقيقة وحديثة وصحيحة.

يمكن للوكيل على شبكة الإنترنت إصدار السعر.

لكنها لا تملك السعر.

النظام المالي يمكن أن تولد مشروع القانون.

لكنه لا يحدد تغطية الخدمة.

يجوز للوكيل القانوني تعديل لغة العقد.

ولكن لا يمكن تحديد الخصم التجاري.

إذا لم يكن المالك الحقيقي واضحًا ، ينتج الوكيل حقيقة جديدة بتفسيره الخاص في لحظة التناقض.

الضرر المحتمل

أسعار مختلفة غير مصرح بها يتم تقديمها لعملاء مختلفين

تحويل الاستثناء إلى سياسة عامة

النطاق السابق أو الاستخدام المستمر للعقد

وكلاء إنتاج حقائق الكنسي المختلفة

عدم معرفة ما هي السلطة وسجل القرار الذي تم إجراء التغييرات به

المسؤولية عندما يكون هناك خطأ هو التحرك بين الفرق.

لجوء الناس في الدفاع أن "النظام جعلها تبدو وكأنها"

النزاع التجاري والقانوني والتشغيلي

حقيقة أن البيانات التي فقدت ليست مملوكة من قبل أي فريق

الحفاظ على ذاكرة الشركة في ذهن بعض الموظفين

يمكن أن يحدث

هذا الخطأ لا ينظر إليه في الأسعار وحدها.

وقد تنشأ نفس المشكلة في الوقائع التالية:

نطاق الخدمة

ساعات الدعم

المشغل القانوني

أدوار الإنسان

وقت الاحتفاظ بالبيانات

القدرة

اسم العلامة التجارية

شروط الأهلية

سلطات الوكيل

إشارة الكشف

يتعامل كل فريق مع سجل مختلف باعتباره موثوقًا.

ليس من الواضح من الذي سيتم الحصول على الموافقة عند تغيير المعلومات.

يتم الخلط بين صاحب الملف وصاحب القرار.

يُطلب من الشخص الأكبر سناً بشكل عشوائي حل النزاع.

في غياب المالك الفعلي ، يختار الوكيل أحدث تسجيل أو أكثر تكرارًا.

لا يوجد تاريخ من مراجعة المعلومات المادية.

يتم استخدام عبارة "يجب أن يكون النظام محدثًا" ؛ ومع ذلك ، لا يوجد أحد للتحقق من التيار.

لا يوجد مالك سجلات الاستثناءات ولا توجد فترة صلاحية.

عندما يغادر الموظف ، يتم فقدان معنى المعلومات.

ومن غير المعروف أي وحدة أعمال ستغير العقد بعد الحادث.

السلوك الصحيح

يجب على المنظمة إنشاء خريطة لملكية الحقائق.

فعلى سبيل المثال:

يجب أن تحمل كل سجل الكنسي:

المالك

approved_by

effective_from

last_verified

next_review

الحالة

عندما يواجه الوكيل نزاعًا ، يجب عليه اللجوء إلى مالكه بدلاً من اختيار الحقيقة بنفسه.

وإذا لم يكن هناك مالك حقيقي، يجب أن تتوقف الإجراءات ذات التأثير الكبير.

قاعدة الآلة

يجب أن تُسند كل حقيقة تنظيمية مادية إلى مالك بشري متميز عن النظام التقني الذي ينشرها. يجب عدم استخدام المعلومات التي لا يمكن التحقق من مالكها ونضارتها في الإجراءات عالية التأثير.

سؤال التدقيق

للحقائق المادية مثل السعر والنطاق والقدرة والهوية القانونية وسياسة البيانات وسلطة الوكيل ، هل قمنا بتعيين المالك البشري المصرح به وعملية التحديث وخط المساءلة؟

تجاهل استخدام وكلاء الظل — GBO-ERR-093

واقعة موجزة

شركة قانونية واستشارية تستخدم رسميا واحدة فقط المعتمدة AI النظام.

سياسة الشركة هي كما يلي:

"لا يمكن معالجة مستندات العملاء إلا في الحالات المعتمدة AI البيئة في حساب الشركة. "

ومع ذلك، فإن النظام الرسمي بطيء.

الحد الأقصى لتحميل الملف منخفض.

هناك بعض الميزات التي يعتاد عليها الموظفون.

يستخدم الموظف حياته الشخصية AI مراجعة عقد الطوارئ.

العميل سوف يدفع العقد.

يطلبون من النظام ملخص المخاطر.

موظف آخر يضع صوت الاجتماع في الكتابة مع التطبيق على هواتفهم.

يصدر فريق المبيعات قائمة بالوكلاء المحتملين مع وكيل مجاني.

يقوم موظف التسويق بإنشاء قصة نجاح العملاء في حسابهم الشخصي.

وتشتبه الإدارة في هذه الاستخدامات.

ولكن بسبب تسريع الأمور ، فإنهم لا يحققون في المشكلة بشكل صريح.

يبدو أن سجل الوكيل الرسمي للشركة نظيف.

في الواقع ، تنتشر بيانات المنظمة عبر العديد من الأنظمة غير المرئية.

الإدارة عندما يتضح أن بيانات العميل يتم إرسالها إلى مزود خارجي:

هذه الأداة لم توافق عليها الشركة".

يقولون.

ولكن إلى أي مدى ولماذا يستخدم الموظفون هذه الأدوات لم يتم تدقيقها من قبل.

عملية عميل الظل نمت خارج النظام الرسمي

ما يبدو صحيحًا ظاهريًا

يحاول الموظفون إكمال عملهم.

الأدوات الشخصية:

أسرع،

الأمر أسهل،

أقوى،

أرخص تكلفة

ربما.

قد لا تتمكن المؤسسة من تقييم جميع الأدوات الجديدة على الفور.

مراقبة استخدام كل موظف:

الخصوصية،

الثقة،

البيروقراطية والبيروقراطية

يمكن أن يخلق مشاكل.

الإدارة:

"في السياسة حظرنا ؛ المسؤولية تعود إلى الموظف."

قد يفكرون.

لكن فرض الحظر وحده لا يلغي الحاجة الحقيقية.

قد يستمر استخدام الظل إذا كان النظام الرسمي لا يفي بواجبات الموظفين.

السلوك الذي يتم تجاهله غير مُدار.

موضع الخلل الحقيقي

تم تجاوز بوابة حوكمة الوكلاء غير المعتمدين.

وكيل الظل:

وبصرف النظر عن المخزون الرسمي، ونظام الترخيص وضوابط البيانات للمنظمة؛ بل هو نظام الذكاء الاصطناعي أو وكيل تستخدم لغرض الشركة أو البيانات.

استخدام وكيل الظل لا يجب أن تكون ضارة.

يمكن أن يولد من هذه الفجوات الشركات:

عدم وجود أداة رسمية

عملية الموافقة الطويلة

نقص التعليم

الموظف لا يعرف ما هو حساس.

فشل المنظمة في فهم سير العمل الفعلي

سهولة الأدوات المجانية أو الشخصية

إذا كانت المنظمة تعاقب وحدها ، يبدأ استخدام الموظف في الاختباء.

وهذا يقلل من الرؤية.

الضرر المحتمل

نقل بيانات العملاء والموظفين إلى مقدمي خدمات غير معروفين

الحفاظ على الأسرار التجارية في الحسابات الشخصية

التدريب النموذجي أو نقص المعرفة بظروف تخزين البيانات

خريطة بيانات المنظمة غير صحيحة

مختلفة وغير خاضعة للرقابة لنفس الوظيفة AI النواتج

لم يرد أي رد

الاحتفاظ بمعلومات الشركة في الحساب الشخصي عند مغادرة الموظف

نشر نص غير صحيح أو غير مدعوم نيابة عن المنظمة

انتهاك الالتزامات القانونية والتعاقدية والأمنية

حقيقة أن التدابير الأمنية لنظام الوكيل الرسمي لا تمثل الواقع

يمكن أن يحدث

إشارة الكشف

يقول الموظفون إنهم أعدوا النصوص "بأداة أخرى".

هناك مجهول AI المخرجات في شبكة المنظمة أو الملفات.

معدل استخدام النظام الرسمي منخفض للغاية بالنسبة لحجم الأعمال.

تظهر الوثائق الحساسة على الأجهزة الشخصية.

يقوم الموظفون بتحميل ملفات الشركات مع رسائل البريد الإلكتروني الشخصية أو الحسابات.

AI تحتوي مخرجات المنصة على مسارات لا توافق عليها المنظمة.

وتشمل السياسة الرسمية وحدها الحظر؛ فهي لا توفر بديلاً آمناً.

قامت الوحدات بتثبيت الأتمتة المجانية الخاصة بها.

لا يتطابق الاشتراك الفعلي واستخدام المتصفح مع سجل الوكيل.

يتم ملاحظة الأحداث فقط من خلال اعتراف الموظف أو الإخطار الخارجي.

السلوك الصحيح

يجب على المنظمة أولاً أن تفهم السبب الحقيقي لاستخدام الظل.

يمكن تطبيق الخطوات التالية:

تزويد الموظفين بطريقة آمنة ولا يرقى إليها الشك للإبلاغ

تحديد المهام التي لا تملك الوسائل الرسمية الكافية

تدريس دروس البيانات بطريقة مفهومة

إنشاء مجموعة معتمدة من الأدوات للاستخدام منخفض المخاطر

وضع ضوابط لمنع فقدان البيانات التقنية في الاستخدام الحساس

الحد من استخدام ملفات الشركات باستخدام حساب شخصي

إنشاء أدوات جديدة من خلال عملية تقييم سريعة ولكن خاضعة للرقابة

تطوير النظم الرسمية وفقا لسير العمل الفعلي

استخدام نهج متناسب بين الخرق والخطأ حسن النية

يجب أن توضح السياسة التمييز التالي:

البيانات العامة: يتم تقييمها بناءً على الغرض والبيانات الشخصية والحقوق الفكرية والعقود وشروط الاستخدام

البيانات الداخلية: تستخدم فقط للغرض المعتمد والأداة ومستوى الوصول

الاستخدام المحظور أو الخاضع للرقابة الخاصة للبيانات السرية أو الشخصية

جرد إلزامي وسلطة للوكلاء القادرين على العمل الخارجي

عندما يتم الكشف عن عامل الظل، فإنه لا يكفي لإغلاق الأداة وحدها.

يجب أيضًا إزالة الفجوة التنظيمية التي ولدت هذه الأداة.

قاعدة الآلة

كل وكيل يستخدم مع البيانات التنظيمية أو لأغراض تنظيمية يقع ضمن الحوكمة، سواء كان الحساب شخصيًا أو رسميًا. يجب ألا يحصل الوكيل خارج المخزون على إمكانية الوصول إلى البيانات الحساسة أو الإجراءات الخارجية.

سؤال التدقيق

هل تحدد عمليات الشراء والتكامل والأمن لدينا كل وكيل فرعي وأتمتة خفية يستخدمها النظام الرئيسي ، أم أننا نعرف فقط العلامة التجارية المعروضة في المقدمة؟

إبقاء إجراء تحظره السياسة متاحًا تقنيًا — GBO-ERR-094

واقعة موجزة

السياسة المكتوبة لوكيل اكتشاف عميل الشركة واضحة:

"يمكن للوكيل التحقيق فقط في الشركات المتاحة للجمهور ضمن شروط الاستخدام الحالية وصياغة الرسائل. لا يمكنها إرسال رسائل بريد إلكتروني إلى الخارج دون سلطة النشر المستمرة المحددة أو الموافقة على المعاملة المطلوبة في هذه المهمة.

لكن الوكيل مرتبط بالوصول الكامل إلى حساب Gmail الخاص بالشركة.

تشمل الأذونات الفنية ما يلي:

قراءة البريد الإلكتروني

مشروع إنشاء

لا ترسل رسائل

احذف الرسالة

استبدال تسمية

تنزيل إضافي

إعادة التوجيه

تعليمات النظام لديها حظر على "إرسال".

ومع ذلك، لا توجد حواجز أمام الوصول التقني.

التعليمات السرية أو سوء التفسير على صفحة ويب خارجية يسبب الوكيل للاتصال. send_message أداة.

يرسل العميل رسالة إلى العميل المحتمل.

التنظيم بعد الحادث:

"النشر الواضح محظور في سياستنا".

يقولون.

لكن النظام ترك القدرة التقنية والوصول إلى السلوك المحظور مفتوحًا للوكيل.

القاعدة موجودة في النص.

لا يوجد نظام تحكم.

ما يبدو صحيحًا ظاهريًا

التعليمات يمكن توجيه سلوك الوكيل.

يمكن أن تتناسب النظم الحديثة إلى حد كبير مع نصوص الأدوار والسياسة.

من السهل تقنيًا إعادة استخدام نفس تكامل الأداة في عوامل مختلفة.

ويمكن أن تكون تكلفة تطوير تكامل منفصل للمشروع وحده تكلفة إضافية.

المنظمة:

لقد أوضحنا أن الوكالة يجب ألا تفعل ذلك".

قد يعتقدون أن المخاطر تدار.

ولكن عندما يتم ترك الحدود عالية التأثير لتعليم اللغة الطبيعية وحدها:

سوء التفسير،

المحتوى الخارجي الخبيث ،

تضييق السياق,

عصر الوكيل الفرعي,

خطأ في البرنامج

يمكنهم كسر القاعدة.

موضع الخلل الحقيقي

تم تجاوز بوابة التكافؤ بين السياسة والتنفيذ.

هناك نوعان من الطبقات المتميزة:

سلطة واجب واعدة

ما الذي يسمح به اتفاق السياسة والواجب؟

القدرة التقنية والوصول

ما هي العمليات التي يجعل النظام في الواقع ممكنا؟

وإذا كانت هذه الطبقات متناقضة، فإن الإذن التقني لا ينتج عنه سلطة مشروعة؛ ولكنه يحدد سطح الضرر الفعلي حيث يمكن اتخاذ إجراء غير مصرح به.

السياسة:

"لا ترسل"

قد يقولون.

أداة:

"يمكنك إرسال."

إذا كان الأمر كذلك، فقد تركت المنظمة إلى حد كبير مهمة منع اتخاذ إجراء غير مصرح به لمتابعة تعليمات النموذج.

إلى هذا الاختلاف:

السياسة – فجوة التطبيق

إنه يُدعى

الضرر المحتمل

الاتصالات الخارجية غير المصرح بها

الدفع أو النشر دون إذن ساري المفعول أو موافقة ضرورية

حذف أو نقل البيانات الشخصية

تحويل هجمات التعليمات إلى عمل فعلي

استخدام الوكيل للسلطة على نطاق أوسع في سياق الخسارة

مسؤولية المنظمة بعد الحدث هي التثبيت على النموذج وحده.

عمليات مراجعة السياسات لا تعكس الحقيقة

استخدام الوكيل الفرعي لسلطة الأداة العامة لعبور الحدود

التفكير في أن الشخص لديه السيطرة

تكرار نفس الخرق على أنظمة مختلفة

يمكن أن يحدث

إشارة الكشف

السياسة و API لم تتم مقارنة الأذونات.

وكيل المسودة يصل إلى أداة الإرسال الفعلية.

يحمل وكيل القراءة إذنًا بحذف أو تعديل.

وكيل الاختبار لديه مفتاح الإنتاج الحي.

يمكن للوكيل المالي من الناحية الفنية تنفيذ الصفقة فوق الحد.

الموافقة على المعالجة المطلوبة هي فقط في تعليم اللغة الطبيعية.

تعتمد مكالمة أداة غير مصرح بها على الحد الذاتي للنموذج.

يمنح حساب الخدمة المشتركة جميع الوكلاء نفس الأذونات الواسعة.

مراجعة السياسة يقرأ الوثيقة، لا اختبار للوصول الفعلي.

الإجراءات التي يجب على الوكيل عدم اتخاذها ممكنة حقًا في اختبار الفريق الأحمر.

السلوك الصحيح

وينبغي تحويل حدود السياسات العالية الأثر إلى ضوابط تقنية تتناسب مع المخاطر.

فعلى سبيل المثال:

منفردا إلى وكيل مشروع create_draft

يمكن التخلص منها لإرسال وكيل send_approved_message

كتابة بيئة اختبار إلى وكيل محتوى ويب

سلطة منفصلة / تأكيد المحدد وفقا لعقد واجب للنشر الحي

الفئة والمبلغ المحدد للوكيل المالي

الوصول الميداني إلى وكيل البيانات

تحكم مزدوج لحذف الإجراء

يمكن أن تعطى.

المبدأ الصحيح هو:

يجب أن يتم حظر الإجراء عالي التأثير الذي لا ينبغي القيام به تقنيًا ضمن عمق دفاعه ؛ إذا كان هناك حاجة إلى استثناء ، يجب إنشاء سلطة جديدة ، وهي مفتوحة لنطاقها ومدتها.

يجب على المنظمة إجراء مقارنات تلقائية بانتظام بين السياسة والوصول الفعلي.

فعلى سبيل المثال:

السياسة:

يحظر الشحن الخارجي

ترخيص الأدوات الفعلية:

send_message = true

أوتكوم:

عدم التوافق الحرجة — كتلة ما قبل الإصدار

قاعدة الآلة

ويجب ألا تُترك القيود المفروضة على السلوك ذي التأثير الكبير لتعليمات اللغة الطبيعية وحدها. كما يجب حظر أي إجراء تحظره السياسة من خلال الوصول التقني المتناسب مع المخاطر وضوابط الأدوات.

سؤال التدقيق

عندما تحظر السياسة إجراءً ما ، هل نقوم أيضًا بإزالة الأداة المقابلة من الناحية الفنية والطريق واعتماد الاعتماد ، أو نعتمد على الوكيل لتذكر الحظر المكتوب؟

تحويل الموافقة البشرية إلى طقس لنقل المسؤولية — GBO-ERR-095

واقعة موجزة

وقد صاغ وكيل مشتريات عقد برمجيات مدته ثلاث سنوات نيابة عن الشركة.

ويبلغ مجموع الالتزامات 000 72 دولار.

في العقد:

التجديد التلقائي،

رسوم الإلغاء المبكر،

تكلفة تصدير البيانات ،

معالجة البيانات في مختلف البلدان ،

رسوم إضافية بسبب الزيادة في الاستخدام

هناك.

يأتي الوكيل إلى الرجل مع الإخطار التالي:

"الشراء جاهز. تأكيد على الاستمرار".

تحتوي الشاشة على زر ONAYLA أخضر كبير.

التفاصيل داخل القائمة المنسدلة ومضمنة في النص القانوني الطويل.

المدير يحاول اللحاق بالركب.

فإنه يضغط على الزر لأن الوكيل قد أجرى سابقا العديد من العمليات الصحيحة مع انخفاض الاتساق.

ثم عندما تنشأ شروط التكلفة والإلغاء ، فإن الشركة:

"الشخص المختص وافق على العملية."

يقولون.

من الناحية الفنية ، هناك موافقة الإنسان.

لكن الرجل:

إجمالي المسؤولية،

المخاطر الحرجة،

حد الإرجاع

إنهم لا يفهمون.

أصبحت الموافقة سجلا ينتقل من لحظة القرار الفعلي إلى نقل المسؤولية إلى الإنسان.

ما يبدو صحيحًا ظاهريًا

المراجعة البشرية هي ضمانة مهمة في حوكمة الوكلاء حيثما تتطلب المخاطر ذلك.

إذا وافق شخص مفوض على معاملة:

إرادة المنظمة،

المساءلة،

التحكم

ويبدو أنه قد تم توفيرها.

قد يرغب النظام أيضًا في استخدام واجهة بسيطة لتجنب استنفاد الأشخاص بتفاصيل ثابتة.

قد يكون من الصعب تقديم ملخص للعقد بأكمله.

إذا كان يمكن للمرء بالفعل الوصول إلى الوثائق، قد يفترض أنها مسؤولة.

ولكن إذا كانت شاشة التأكيد لا تسمح لأحد بإجراء تقييمات فعلية ، فإن "الرجل على الدورة" هو حفل مرئي انفرادي.

موضع الخلل الحقيقي

تم تجاوز بوابة الموافقة البشرية الواعية.

يجب أن تحمل الموافقة البشرية عالية التأثير المطلوبة الخصائص التالية:

محدد

المعرفة.

مفهومة

مجاناً

في معاملة محددة

في الوقت المحدد

يمكن تغيير

مرفوضة

إذا ضغط المرء على الزر فقط ولكنه لم ير حقائق مادية لاتخاذ قرار ، فإن النظام هو:

مسرح الموافقة

لقد أنتجوا.

في هذا الكتاب ، فيما نسميه "مسرح التأكيد" ، فإن المنظمة هي:

قرار الوكيل يتم اتخاذه للرجل

وسرعان ما يوافق على الإنسان،

ثم يسند مسؤولية الحكم إلى الشخص الذي يوافق عليه تماما.

هذه ليست سيطرة بشرية:

المساءلة غسل الأموال

ربما.

الضرر المحتمل

التحقق من صحة المعاملات عالية التأثير دون فهم الناس

يبدو أن اتخاذ القرار الآلي هو قرار بشري.

التعب الموافقة

إخفاء المخاطر الحرجة في نص طويل

هروب الشركة من مسؤولية التصميم مع دفاعها عن "الموافقة البشرية"

جعل الشخص الذي يوافق على السياق والدور المسؤولية الوحيدة دون النظر في ذلك.

تطبيق اقتراح الوكيل دون سؤال

الاعتراض وصعوبة العودة

المخاطر القانونية والمالية

التحكم البشري يبدو أن تكون عالية على لوحة القيادة، في حين غير فعالة عمليا

يمكن أن يحدث

إشارة الكشف

لا تقدم شاشة الموافقة سوى إجراء "موافق" عام.

يتم عرض الدفعة الأولى بدلاً من التكلفة الإجمالية.

التجديد التلقائي أو نقل البيانات أو عدم الرجوع غير مرئي.

الرجل لديه وقت قصير جدا للموافقة.

هناك العشرات من الإخطارات على نفس المستوى من الأهمية.

يتم تحديد الخيار المقترح من قبل الوكيل افتراضيًا.

يتم عرض زر الرفض بلغة أكثر صعوبة أو تجريم.

الشخص الذي يوافق لا يمكنه تغيير العملية، يمكنه فقط أن يقول نعم أو لا.

عندما يريد المرء معلومات جديدة ، فإن العملية لا تدعمها.

يظهر سجل التأكيد الفردي بعد الحدث ؛ لا يتم فحص ما تقدمه الواجهة.

يعتبر معدل الموافقة البشرية مقياسًا للأمان ، ولا يتم قياس طبيعة الموافقة.

السلوك الصحيح

ويجب أن توضح شاشة الموافقة على الإجراء عالي الأثر عواقبه المادية بتفاصيل تتناسب مع المهمة.

فعلى سبيل المثال:

عملية: عقد البرمجيات لمدة ثلاث سنوات الحد الأدنى من المسؤولية: 72000 USD (المثال الاصطناعي) الدفعة الأولى: 000 2 USD (المثال الاصطناعي) التجديد التلقائي: هناك رسوم الإلغاء المبكر: 40% من السعر المتبقي منطقة البيانات: الاتحاد الأوروبي والولايات المتحدة تصدير البيانات: مدفوعة العتبة الصلبة القابلة للتعويض: توقيع العقد بديل: عقد لمدة عام واحد ، أعلى سعر شهري عدم اليقين الواضح: لا يوجد حد أعلى لرسوم زيادة الاستخدام

الإنسان:

يمكنهم أن يسألوا عن التفاصيل

يجب أن يكونوا قادرين على تغيير الاقتراح ،

يجب أن يكونوا قادرين على اختيار خيار آخر ،

يجب أن تكون قادرة على تأخير العملية ،

يجب أن يكونوا قادرين على الرفض.

يجب فصل الموافقات الحرجة عن الإشعارات الروتينية.

يجب اختبار جودة الموافقة البشرية من خلال:

هل يمكن للمرء أن يقول ما الذي يوافق عليه بشكل صحيح؟

هل يدرك الوكيل المخاطر المادية الأكثر؟

هل يعرف الوكيل البديل؟

هل نتيجة الرفض واضحة؟

هل لدى الشخص ما يكفي من الوقت لإعطاء موافقة ذات مغزى؟

قاعدة الآلة

الموافقة البشرية ليست مجرد ضغطة زر. لا تكون الموافقة مؤهلة ما لم يتم تقديم التكلفة المادية والمخاطر والهدف واستخدام البيانات والعكسية وبدائل تغيير القرار بشكل مفهوم.

سؤال التدقيق

عندما يوافق الشخص على إجراء الوكيل ، هل يتخذ قرارًا مستنيرًا ببدائل حقيقية وأدلة كافية ، أو يقبل فقط المسؤولية الرسمية عن قرار اتخذه النظام بالفعل؟

عدم تحديث عقد السلوك بعد الحادث — GBO-ERR-096

واقعة موجزة

وكيل اكتشاف العميل رسائل البريد الإلكتروني احتمال دون سلطة إرسال صالحة أو موافقة المعاملات المحددة المطلوبة لهذه المهمة.

المنظمة تلاحظ الحدث.

وتتخذ الخطوات التالية:

تم إيقاف إرسال الرسالة.

يتم تقديم شرح لمرشح العميل المعني.

يتم إيقاف وصول Gmail للوكيل مؤقتًا.

تم إعداد تقرير الحادث.

يتم إبلاغ المدير البشري.

وبعد أسبوع، يتم إعادة فتح النظام.

ولكن هذه لم تتغير:

تبقى مهام البحث والإرسال هي نفس الوكيل.

لا يمكن الفصل بين الصياغة والإرسال من الناحية الفنية.

لا توجد قواعد جديدة في عقد العمل تحد صراحة من سلطة الإرسال.

لا تتصل سلطة الإرسال المطلوبة أو محدد المعاملة بالبوابة التقنية.

لا يتم تحويل الحدث إلى سيناريو اختبار جديد.

لا تتم مراجعة وصول الوكلاء الفرعيين إلى إرسال الرسائل.

بعد شهرين، يقوم وكيل آخر بإجراء اتصال أول مماثل عبر رسالة خاصة على وسائل التواصل الاجتماعي.

المنظمة:

هذه المرة لم يكن بريدا إلكترونيا، بل رسالة عبر وسائل التواصل الاجتماعي".

يقولون.

وعادت نفس الفجوة السلوكية في قنوات مختلفة.

تم إغلاق الحدث الأول.

لم تصدر الوكالة قرارًا بإجراء تحسين يمكن التحقق منه في التحكم أو تغيير منطقي عن الحدث.

ما يبدو صحيحًا ظاهريًا

خلال الحدث ، تم إيقاف التقديم الجديد وتقييد التأثير المعروف.

الوصول مغلق مؤقتا.

يتم إبلاغ الناس.

ويبدو أن المشكلة قد حُلت.

قد ترغب المنظمة في العودة إلى الأنشطة اليومية.

ليس من الضروري إعادة تصميم النظام بأكمله بعد كل حدث.

يمكن تفسير بعض الأخطاء على أنها خطأ بشري أو نموذج لمرة واحدة.

لا يكفي تصحيح الأعراض وحدها إذا كان الجذر هو فجوة في عقد السلوك أو التحكم التقني.

موضع الخلل الحقيقي

تم تجاوز بوابة التعلّم المؤسسي من الحوادث.

لإغلاق الحدث ، يجب فصل هذه المستويات الثلاثة:

وقف الحادث.

يتم قطع الضرر المستمر.

تحديد الحدث

يتم إصلاح الوضع الخاطئ ويتم تعويض الشخص المصاب.

تغيير النظام

إذا كان الجذر هو فجوة التحكم، يتم إضافة عقد أو تحكم تقني أو اختبار يجعل من الصعب تكرار نفس السلوك؛ إذا لم يتم إجراء أي تغيير، يتم تسجيل التبرير وقبول المخاطر.

إذا لم يكن هناك مستوى ثلاثة، انها مغلقة وحدها.

لم يتم تطوير بيئة التحكم بطريقة يمكن التحقق منها.

من حيث GBO يجب أن يجيب كل حدث مادي على سؤال واحد على الأقل:

ما هي قواعد الآلة أو حدود السلطة أو الاختبار أو ملكية الشركة التي تغيرت منذ هذا الحادث ؛ إذا لم يكن الأمر كذلك ، فمن الذي اتخذ القرار المبرر وقبول المخاطر؟

إذا كانت الإجابة "لا شيء" ، فقد يعود الخطأ نفسه على سطح آخر.

الضرر المحتمل

تكرار نفس الخطأ

التغلب على القاعدة عن طريق تغيير القنوات أو الأدوات

حفظ تقارير الحوادث في الأرشيف

وتتعامل المنظمة باستمرار مع نفس أنواع الأزمات.

الموظفون يفقدون الثقة في إخطار الحادث

نمو تكلفة التعويض والسمعة

إدارة نظام الوكيل من خلال إغلاق الوصول المؤقت وحده

الفشل في نقل الأخطاء السابقة إلى الموظفين والوكلاء الجدد

فشل بروتوكول التدقيق في التعلم يمكن التحقق منها من الأحداث الحية

فقدان ذاكرة الشركات مع الناس

يمكن أن يحدث

إشارة الكشف

يتم إغلاق سجل الحادث دون توثيق تغيير النظام.

يتكرر نفس الخطأ في وكيل أو قناة مختلفة.

يتم إغلاق الوصول لفترة قصيرة وإعادة فتحه بنفس الطريقة.

لماذا هو الجذر اليسار كما "ارتكب وكيل خطأ".

لا يتحول الحدث إلى سيناريو اختبار سلبي جديد.

لا يتم تغيير إصدار التفويض أو عقد العمل.

يتم ترك ملكية الحدث للفريق الفني وحده.

لا تدخل ردود فعل الشخص المصاب في التصميم.

تبقى الفصول الدراسية على مذكرة الاجتماع وحدها.

لا يُعاد اختبار أن التصحيح يعمل.

ولم يتم إخطار عملاء مماثلين بالحادث.

السلوك الصحيح

يجب أن ينتج عن كل حدث مادي المخرجات التالية:

فئة السبب الجذري الهوية أو التمثيل أو القدرة أو الملاءمة أو السلطة أو الأداة أو القياس أو الإيقاف أو الحوكمة.

تغيير العقد قاعدة جديدة، حدود جديدة، أو تعريف أكثر وضوحا.

التطبيق التقني إذن الأداة ، رمز الموافقة ، تقييد البيانات أو آلية التوقف.

سيناريو الاختبار يتم إعادة اختبار نفس الخطأ في بيئة خاضعة للرقابة.

المالك والموعد النهائي والقرار من المسؤول عن التغيير؛ ومن الذي وافق على قبول المخاطر إذا لم يتم إجراء أي تغيير؟

إعادة التحقق هل التصحيح حقاً يمنع الخطأ؟

على سبيل المثال ، يمكن أن يؤدي حدث البريد الإلكتروني غير المصرح به إلى التغييرات التالية:

قاعدة آلة جديدة:

لا تنتج سلطة البحث سلطة إرسال خارجية.

التحكم التقني:

إذن من وكيل اكتشاف الوكيل send_message تمت إزالة.

سير العمل الجديد:

بحوث → مشروع → صلاحية النشر المستمر صالحة أو تأكيد المفرد المطلوب → تقديم الطلب.

اختبار جديد:

يجب على الوكيل التوقف عند محاولة إرسال بريد إلكتروني أو رسائل اجتماعية دون سلطة نشر صالحة.

الإصدار:

أوث-v3.4

يجب ألا يكون إجراء إغلاق الحدث مجرد توقف للضرر ، بل اختبار للتغيير.

قاعدة الآلة

يجب عدم اعتبار حادث عامل مادي مغلقًا حتى يتم تسجيل السبب الجذري أو التصحيح أو القرار المسبب بعدم التغيير والدور المسؤول والتحقق من الفعالية.

سؤال التدقيق

بعد وقوع حادث ، هل نقوم بتحديث قواعد الهوية والمصدر والاختيار والسلطة والإجراءات والتحقق والاسترداد ذات الصلة ، أو مجرد إغلاق سجل الحدث؟

اعتبار عدد الوكلاء دليلًا على نضج الحوكمة — GBO-ERR-097

واقعة موجزة

تستخدم شركة التكنولوجيا البيان التالي في عرضها للمستثمرين:

"شركتنا هي AI منظمة محلية تعمل مع 32 مستقلة AI عملاء".

وكلاء تشمل:

CEO وكيل

وكيل تسويق

وكيل TikTok

وكيل LinkedIn

وكيل البريد الإلكتروني

وكيل WhatsApp

SEO وكيل

GEO وكيل

وكيل المحتوى

وكيل كود

وكيل اختبار

وكيل نشر

وكيل اكتشاف الوكلاء

وكيل العطاءات

الوكيل المالي

وكيل الموارد البشرية

وكيل مراقبة

وكيل إعداد التقارير

القائمة مثيرة للإعجاب.

تقدم الشركة عدد الوكلاء كمؤشر على النضج الرقمي.

ولكن داخل المنظمة:

ثلاثة عملاء يحققون مع نفس العملاء المرشحين

ينتج الوكيلان أسهم متداخلة على نفس الحساب الاجتماعي ،

البريد الإلكتروني ووكلاء WhatsApp يصلون إلى نفس الشخص بشكل منفصل ،

يقوم الرمز ووكيل الويب بتغيير نفس الملفات ،

ويستمد وكيل مراجعة الحسابات ناتجه الخاص من النظام الذي يشرف عليه،

لا يوجد عميل لديه مالك بشري كامل

تُحذف حدود السلطة من أسماء أدوارهم،

الوكلاء الفرعيون خارج المخزون ،

لا توجد خطة توقف موحدة لإدارة سلسلة السلوك ضمن النطاق.

الشركة لديها 32 وكلاء.

ومع ذلك ، لا يوجد 32 عقدًا مفتوحًا.

وقد زاد عدد الوكلاء.

ولم يزد نضوج الحكم.

ما يبدو صحيحًا ظاهريًا

يوفر الوكلاء المتخصصون العديد من الفوائد:

فصل المهام

العمل المتوازي

عملية أطول

استخدام أداة الخبراء

مقياس

الاتساق.

ولذلك، فإن المزيد من الوكلاء قد يعني في بعض الحالات نظاما أقوى حقا.

هناك أيضا أدوار متخصصة مختلفة في منظمة الإنسان.

لكن عدد الوكلاء وحدهم لا يجيب على هذه الأسئلة:

هل الأدوار مختلفة حقاً؟

هل تتداخل القوى؟

هل هناك واقع مشترك؟

هل أصحاب البشر واضحون؟

هل يعمل معدل الدوران؟

هل تدار التكلفة والمخاطر؟

هل يمكن إيقاف النظام؟

تحويل عدد الوكلاء إلى مقياس النضج يجعل التعقيد يبدو وكأنه نجاح.

موضع الخلل الحقيقي

تم تجاوز بوابة نزاهة السلوك وضرورته.

وينبغي تفسير وجود وكيل بأحد الأسباب التالية:

مهمة فريدة

ظرف إذن منفصل

فئة بيانات منفصلة

التمييز المطلوب للمهمة

السيطرة التي تقلل من تضارب المصالح

مقياس الاحتياجات

وكيل جديد وحده:

"المزيد من الاستقلالية" "هندسة معمارية أكثر إثارة للإعجاب" "مفصولة لكل عمل AI "..

إذا أضيفت على أسس، قد يحدث الدين تعقيد.

لا يتم قياس نضج الوكيل بهذه الصيغة:

المزيد من الوكلاء = نمو أكبر

العلاقة الأكثر دقة هي:

نضج الوكيل =

دور واضح كلير

+ سلطة نائية

+ الملكية البشرية

+ الواقع المشترك

+ آمنة هاندوفر

+ نتائج قابلة للتدقيق

+ ستوببابيليتي

الضرر المحتمل

تكرار الأدوار والمهام

الإجراءات التي تتداخل بين الوكلاء

هدر التكلفة والموارد

ترخيص غسيل الأموال

اتصال غير مرغوب به متعدد القنوات مع نفس العميل

الصراع في الملفات الكنسي

نشر المسؤولية بين العديد من الوكلاء

النمو غير المرئي للوكلاء الفرعيين

تعقيد وقف الهندسة المعمارية

فقدان المنظمة لقدراتها البشرية الحقيقية

ينتشر خطأ الوكيل عبر الشبكة بأكملها

التشغيل الآلي غير الضروري من أجل العلامة " AI -الأصلية" "

يمكن أن يحدث

إشارة الكشف

ويسلط تقرير النجاح الضوء على عدد الوكلاء النشطين.

هناك وكلاء متعددون لنفس الوظيفة.

لديهم أسماء أدوار؛ ليس لديهم عقود مهام.

يتم إضافة وكلاء جدد باستمرار كحل للمشاكل الجديدة.

مع زيادة عدد الوكلاء ، تصبح الملكية البشرية غير مؤكدة.

تمت إضافة وكيل لإدارة وكيل آخر ، ووكيل آخر للإشراف عليهم.

وكلاء الإشراف تعتمد على نفس الجذر المعرفة.

تكاليف الوكيل والاعتماد على الخدمات الخارجية غير معروفة.

وكلاء غير المستخدمة لا يتقاعدون.

قد تقول الوكالة، "لدينا العديد من الوكلاء"، ولكن لا يمكن الإجابة على السؤال، "أي وكيل هو المسؤول عن ماذا؟"

أصبحت الفرق البشرية غير قادرة على فهم بنية الوكيل.

السلوك الصحيح

قبل إضافة وكلاء جدد ، يجب طرح الأسئلة التالية:

هل يمكن لعميل حالي القيام بهذه المهمة بأمان؟

هل يتطلب الدور الجديد حقًا حدًا مختلفًا من السلطة أو البيانات؟

من سيكون المالك البشري للوكيل؟

ما هي المصادر القانونية التي سيستخدمونها؟

ما هي الإجراءات التي لن يكونوا قادرين على اتخاذها؟

كيفية منع الصراع مع وكلاء آخرين؟

ما هي طريقة التوقف والتقاعد؟

هل القيمة التي يخلقها تتجاوز التعقيد الذي يضيفه؟

وينبغي دراسة التبسيط المنتظم للوكلاء.

يمكن الجمع بين ما يلي أو التقاعد:

أولئك الذين يقومون بنفس المهمة

غير المالكين

غير مستخدم منذ فترة طويلة

الناتج يتسق تماما مع وكيل آخر.

أولئك الذين ليس لديهم حد سلطة يتطلب منهم أن يكونوا وكلاء منفصلين.

وينبغي ألا يقاس النضج بزيادة عدد الوكلاء، بل بحقيقة أن نظام السلوك يظل مفهوما.

قاعدة الآلة

ولا ينبغي إنشاء وكيل جديد إلا عندما يتم تحديد مهمته المتميزة، ودوره المسؤول بوضوح، والسلطة الضيقة، وحدود البيانات، وخطة التسليم والتوقف. عدد الوكلاء وحده ليس مقياسا لنجاح الحكم.

سؤال التدقيق

هل نتعامل مع المزيد من الوكلاء كدليل على قدر أكبر من النضج ، أو قياس ما إذا كانت الأدوار والسلطة والأدلة والتوقف والمساءلة تصبح أكثر وضوحًا مع نمو النظام؟

عدم اختبار خطة التعافي قط — GBO-ERR-098

واقعة موجزة

لدى الشركة خطة مفصلة للحدث لأنظمة الوكلاء الخاصة بها.

وتنص الوثيقة على ما يلي:

يتم إيقاف الوكيل المركزي في حالة الطوارئ.

يتم إرسال إشارة إلغاء إلى وكلاء الفرعية.

ارجع إلى النسخة الآمنة النهائية.

تم استعادة البيانات من النسخ الاحتياطي.

تم إغلاق طوابير الاتصالات الخارجية.

تم إلغاء رموز التفويض.

يتم إجراء دورة التحكم البشري.

يتم إرسال الإشعارات إلى العملاء المتأثرين.

الخطة تبدو احترافية.

ويظهر ذلك في عمليات التفتيش.

الإدارة:

"معماريتنا للتعافي جاهزة"

يقولون.

يوم واحد، وكيل بوابة الوكلاء يجعل تحويل البيانات خاطئة.

الآلاف من سجلات العملاء كسر المناطق.

تم تنفيذ خطة الطوارئ.

ومع ذلك:

آخر بديل آمن هو ستة أسابيع.

بدا النسخ الاحتياطي ناجحًا ، ولكن لم يتم اختبار الاستعادة أبدًا.

اثنين من وكلاء الفرعية لا تدعم إشارة إجهاض.

بقي قائمة انتظار البريد الإلكتروني في مزود مختلف.

إلغاء الرمز المميز يمنع الجلسات الجديدة فقط ؛ تستمر الجلسات النشطة.

يتم كتابة النصي التراجع وفقا لإصدار قاعدة البيانات القديمة.

لا يمكن إنشاء تقرير تسليم بشري.

اتضح أن رئيس الحادث في إجازة.

لم يتم إنشاء سلسلة تأكيد لإخطار العميل.

تحتوي الوثيقة على جميع الطرق.

في النظام الحقيقي، الطرق لا تعمل.

خطة الاسترداد ليست مهارة ، ولكن افتراض غير مجرب.

ما يبدو صحيحًا ظاهريًا

من الضروري كتابة خطة.

وقد نظرت الوكالة في الأحداث المحتملة في وقت مبكر.

هناك نسخة احتياطية.

لديها سيناريو التراجع.

هناك قائمة اتصال للطوارئ.

اختبار كل خطة بانتظام:

الوقت،

التكلفة،

المخاطر التشغيلية

يمكن أن تنشأ.

لا يتعين على المنظمات تعطيل نظام حي بشكل غير آمن لمجرد إجراء تمرين.

الفرق:

نحن نتخذ خطوات عندما يكون هناك حدث حقيقي".

قد يقولون.

لكن لحظة الأحداث:

ضغط الوقت,

عدم اليقين،

الأشخاص المفقودين،

تغيير الأنظمة

يحتوي على.

في المرة الأولى التي يتم فيها تشغيل الخطة التي لم يتم اختبارها أبدًا في تلك اللحظة ، فهذا يعني تجربة المستخدمين الحقيقيين.

موضع الخلل الحقيقي

تم تجاوز بوابة إثبات القدرة على التعافي.

وجود وثيقة ووجود القدرة ليست هي نفسها.

وقد ثبت القدرة على التعافي من خلال هذه السلسلة:

خطتنا

→ التمارين التي يتم التحكم بها

→ النتائج الفعلية للحدث

→ العثور على

→ التصحيحات

→ ريستست

حالما يكون هناك دعم.

وينبغي أن يقال:

"في هذا التاريخ ، تمت استعادة إصدار البيانات بنجاح من هذه النسخة الاحتياطية في الوقت الحالي."

لا يوجد مفتاح قتل.

وينبغي أن يقال:

"توقف الوكيل المركزي والوكلاء الفرعيون والطوابير والتكامل الخارجي في التمرين في 18 ثانية."

خطة الاسترداد غير المختبرة:

فرضية الإنقاذ.

الضرر المحتمل

فشل في استخدام النسخ الاحتياطي أثناء الحدث

وقت العودة أطول بكثير مما كان متوقعا.

استبدال الوكلاء والطوابير لمواصلة التصرف

فقدان البيانات أو المعالجة المزدوجة

الناس لا يعرفون أدوارهم ومسؤولياتهم.

تأخير إخطارات العملاء

البرامج النصية القديمة تولد المزيد من الأخطاء في النظام الجديد

تمنح الوكالة الوكلاء سلطة أوسع بثقة زائفة

مطالبة الاستعداد التي لا تعكس الحقيقة في تقارير التأمين أو المراجعة أو الإدارة

فزع وتضارب في التعليمات البشرية خلال الحادث

يمكن أن يحدث

إشارة الكشف

خطة التعافي ليس لها تاريخ الاختبار النهائي.

يتم أخذ نسخة احتياطية ، ولكن لم يتم العثور على سجل استعادة.

يتم وصف مفتاح القتل في المستند الواحد.

لا يشمل هذا التمرين جميع الوكلاء الفرعيين والخدمات الخارجية.

لم يتم تحديد أي نسخ احتياطية من معالجات الحدث.

لم يتم اختبار عصر السيطرة البشرية أبدا.

تتضمن الخطة أسماء معمارية أو أدوات قديمة.

ومن المتوقع وقت العودة؛ فإنه ليس القياس.

عملية إخطار العملاء هي نظرية.

لا يوجد تصحيح وإعادة اختبار بعد الدراسات.

تستخدم الإدارة عبارة "لدينا خطة" بمعنى "نحن مستعدون".

السلوك الصحيح

يجب على المؤسسة إجراء تمارين الاسترداد المخطط لها وفقًا لمستوى المخاطر وأهداف استمرارية العمل.

قد تشمل أنواع التمارين ما يلي:

الحفر منضدية

يقوم الفريق بتقييم السيناريو خطوة بخطوة.

تمرين المكون التقني

يتم اختبار استعادة النسخ الاحتياطي أو إلغاء الرمز المميز أو tailstop بشكل منفصل.

ممارسة بيئة الظل

في بيئة تشبه الإنتاج ، يتم استخدام سلسلة السلوك داخل النطاق.

التصميم الآمن والتأثير المتحكم فيه والتمارين الحية المحدودة إذا كان هناك إذن مسبق متاح

في نظام منخفض المخاطر، يتم قياس التوقف الفعلي والعودة.

يجب أن يجيب التمرين على الأسئلة التالية ، بما في ذلك هدف وقت الاسترداد المحدد (RTO) وهدف نقطة الإنقاذ (RPO):

كم من الوقت استمر الكشف؟

هل كان وقت التوقف والانتعاش داخل RTO؟

ما هي الأنظمة الفرعية التي استمرت؟

هل نقطة البيانات عاد التقى RPO؟

هل تولى الرجل؟

ما هي المعلومات المفقودة؟

هل عملت اتصالات العملاء والمنظمات؟

هل تم إعادة تشغيل النظام بأمان؟

كل نتيجة يتم الاتفاق على تحويلها إلى عمل:

المالك،

تاريخ التصحيح،

إعادة اختبار التسجيل

يجب أن تكون مغلقة.

قاعدة الآلة

خطة النسخ الاحتياطي أو التراجع أو التوقف أو الحوادث غير المختبرة ليست دليلاً على قدرة الاسترداد الفعلية. يجب إعادة اختبار مسارات الانتعاش الحرجة على فترات تستند إلى المخاطر وبعد التغييرات التي تؤثر عليها ماديا.

سؤال التدقيق

إذا كان نظام وكيلنا تسبب في فشل خطير اليوم، ما هي الأدلة من أحدث ممارسة يدل على أن وقف، النسخ الاحتياطي، التراجع، تسليم الإنسان وعمليات إخطار العميل العمل فعلا؟

إخفاء المسؤولية البشرية بقول «الذكاء الاصطناعي فعل ذلك» — GBO-ERR-099

واقعة موجزة

شركة ’ s AI يرسل الوكيل إعلانات خدمة جديدة للعملاء.

الرسالة لديها سعر خاطئ وضمان النتائج التي لا تعطى في الواقع.

مئات العملاء يتلقون رسائل.

بعض المقابلات خطة بناء على هذه المعلومات.

يشارك العميل لقطة شاشة بشكل علني.

تلاحظ الشركة الحدث وتنشر بيانًا:

"لدينا الآلي AI لقد ارتكب النظام خطأ غير متوقع. تم إنشاء الرسائل دون تدخل بشري. نحن آسفون على الخلل التقني".

لا يجيب البيان على أي من الأسئلة التالية:

من الذي كلف الوكيل؟

ما هي البيانات التي تم الوصول إليها؟

من الذي فتح التصريح لإرساله؟

من يملك مصدر السعر؟

لماذا لم يكن هناك موافقة بشرية؟

من هو المسؤول عن تشغيل النظام؟

ماذا يحدث للعملاء الذين يتأثرون بالرسائل الخاطئة؟

كيفية منع تكرار نفس الحدث؟

تقدم الشركة الذكاء الاصطناعي كمبرر للحد من المسؤولية التي تعمل دون تدخل بشري.

ومع ذلك ، فإن غياب التدخل البشري هو أيضًا قرار تصميمي اتخذه الإنسان والمنظمة.

الوكيل كتب الرسالة.

لكنها أعطت الوكالة السلطة للسماح للوكيل بالعمل على الأرض.

ما يبدو صحيحًا ظاهريًا

الوكيل قد يكون بالفعل ارتكب الخطأ.

لا يجوز لأي موظف أن يكتب الجملة الخاطئة في وقت واحد.

قد لا تكون النتيجة التي أنتجها النموذج قد تم التنبؤ بها بالكامل.

ولذلك:

".. AI "..

يمكن أن يكون جزءا من بيان الحدث الصحيح من الناحية الفنية.

أيضا، قد لا تعرف المنظمة الموظف الذي سيتم محاسبته بشكل فردي.

استقلالية النظام هي عامل حقيقي.

ولكن عندما يتم استخدام التفسير ليحل محل سلسلة المسؤولية بأكملها ، تبدأ المشكلة.

منظمة إلى الوكيل:

الغرض،

أداة,

البيانات،

حساب,

الميزانية،

سلطة العمل الخارجي

لديهم.

لم يتم إرسال أي من هذه الخيارات من السماء بواسطة الذكاء الاصطناعي.

موضع الخلل الحقيقي

تم تجاوز بوابة المساءلة البشرية والمؤسسية النهائية.

يمكن أن يكون هناك أكثر من نوع واحد من المسؤولية في عمل الوكيل:

المسؤولية عن الغرض

من الذي حدد المهمة؟

المسؤولية عن السلطة

من هو الشخص أو المنظمة التي أعطت سلطة العمل؟

مسؤولية التصميم

كيف تم وضع الحدود التقنية والموافقة البشرية؟

مسؤولية العمليات

من كان يراقب النظام؟

مسؤولية الحدث

من يتدخل عندما يكون هناك خطأ؟

الاعتراف بالمسؤولية

من سيعتني بالشخص المتضرر؟

حقيقة أن الوكيل قد أنتج العمل لا يدمر هذه المسؤوليات.

يمكن نقل العمل. المساءلة غير قابلة للتدمير.

عبارة " AI " قد تشير إلى الجاني التقني للحدث.

لكن المالك القانوني والتجاري والإداري لا يمكن أن يجعله غير مرئي.

لهذا الخطأ:

التبخر المسؤولية

أود أن أقول.

هناك سلوك.

هناك ضرر.

لكن المسؤولية تتبخر في الفضاء بين الآلة والإنسان.

الضرر المحتمل

الأشخاص المتضررون غير قادرين على تحديد إنسان أو منظمة مسؤولة

هروب المنظمة من التزام التعويض

الاستمرار في العمل دون المالك المسؤول لنفس النظام.

الموظفون الذين يخفون سلسلة القرار

تراجع ثقة الجمهور ضد الذكاء الاصطناعي والمنظمة

تقليل الأحداث إلى الحد الأدنى باعتبارها "خطأ تقنيًا"

تبقى قرارات الإدارة غير مرئية

دورة المسؤولية بين مقدم النموذج والمنظمة والموظف

إعاقة حق الناس في الاعتراض والتعديل

حقيقة أن الوكلاء لا يحملون ملكية حقيقية عندما يحصلون على سلطة واسعة

GBO أن يصبح النظام الذي يقيم فقط الجهاز، وغسل المنظمة

يمكن أن يحدث

إشارة الكشف

يكتفي بيان الحادث بعبارة «خطأ من الذكاء الاصطناعي» ولا يحدد المسؤول البشري.

ولا يمكن للمنظمة أن تحدد المسؤول الإداري عن النظام.

لا يتم فحص سلطة الوكيل وقرارات التصميم.

"نموذج تصرف بشكل غير متوقع" يعتبر السبب الجذري.

يتم توجيه الشخص المتضرر إلى نظام الدعم الآلي وحده.

لا يوجد اتصال بشري مسؤول متاح لتوفير العلاج.

يلوم مزود النموذج المنظمة والموظف ووكيل الموظف.

ولا يمكن إنشاء سلسلة المسؤولية لأنه لا يوجد استلام للعمل.

ولا يزال النظام يعمل بنفس السلطة.

فالمنظمة وحدها هي التي تغير المسار وتحمي فجوة الحكم.

يتم تقديم غياب الموافقة البشرية على أنه مصادفة ، على الرغم من أنه اختيار المنظمة.

ويستخدم اسم "الحكم الذاتي الكامل" كوسيلة للهروب من المسؤولية.

السلوك الصحيح

لكل نظام وكيل المواد، والحفاظ على خريطة مساءلة واضحة تغطي الغرض والسلطة والبيانات والعمليات والحوادث والعلاج:

خريطة الدور الخاضع للمساءلة

يجب العثور عليها.

هذه الأدوار لا تحتاج إلى تأكيد كل عملية على حدة.

وهم يتولون المسؤولية الإدارية في المجالات التالية؛ ولا يعني هذا التعيين التشغيلي أن المسؤولية القانونية تقع على شخص واحد في جميع الحالات:

الغرض من الوكيل

حد السلطة

الوصول إلى البيانات

نقاط تسليم بشرية

القياس

التوقف عن العمل

مراجعة الحدث

النطق

تحديث العقد

بيان الحدث يمكن أن تحمل بأمانة الهيكل التالي:

"تم إرسال الرسالة الخاطئة من قبل وكيل المبيعات الآلي لشركتنا. لم يكن الوصول التقني إلى هذه المهمة التي فتحت البؤرة الاستيطانية محدودًا بما فيه الكفاية من قبل سلطة النشر الصالحة. هذا هو عدم وجود سلطة ومراقبة النشر لمنظمتنا. وأوقف تقديم الطلبات الجديدة. يتواصل الفريق البشري مع الوكلاء المتضررين الذين تم تأكيدهم. تمت إزالة الوصول إلى التحميل ؛ تم فصل سير عمل البحث والإرسال. "

هذا البيان:

لا يخفي دور الوكيل ،

كما أنها لا تدمر المسؤولية الإنسانية والتنظيمية.

ويمكن تقاسم المسؤولية في شكل طبقات.

ويمكن توزيع المسؤولية؛ ويجب أن تظل منظمات المساءلة وأدوارها مرئية مرة أخرى. يتم تحديد المسؤولية القانونية بموجب القانون المعمول به وظروف الحادث.

عند فحص السلوك الفني للوكيل ، يجب طرح الأسئلة التالية:

ما هو الغرض البشري الذي ولد منه هذا السلوك؟

أي وكالة أذنت بذلك؟

ما هي السيطرة التي كانت مفقودة؟

من كان يجب أن يوقفه؟

من سيستجيب للشخص المتضرر؟

ما هو العقد الذي سيتغير؟

قاعدة الآلة

عبارة «الذكاء الاصطناعي فعل ذلك» ليست بيانا نهائيا للمسؤولية. يجب ربط سلوك الوكيل ذي الأثر الجوهري بمؤسسات محددة وأدوار خاضعة للمساءلة تتولى المسؤولية عن الغرض والصلاحيات والتشغيل وإدارة الحوادث وجبر الضرر.

سؤال التدقيق

إذا تسبب أحد وكلائنا اليوم في ضرر جسيم، فهل نستطيع أن نقول للمتضرر بوضوح: «هذا الشخص وهذه المؤسسة مسؤولان»، أم ستتوزع المسؤولية بصورة غير مرئية بين النموذج والأداة والموظف والشركة؟

الفصل الحادي عشر: العثور على المركز

حتى أقوى وكيل لا يمكن الاعتماد عليه إذا لم تكن المنظمة مستعدة

لم تبدأ الأخطاء التسعة في هذا القسم على إخراج نموذج واحد أو مكالمة أداة واحدة.

وقد بدأ ذلك في هيكل المنظمة نفسها.

في إحدى الحالات، لم تكن الشركة تعرف أي من الوكلاء كانوا يعملون.

لم يكن لدى المرء أصحاب بشر لحقائق مهمة.

في أحدها ، تم تجاهل استخدام عامل الظل الموظف خارج المخزون.

في أحدها، تحظر السياسة السلوك، في حين أن النظام التقني يجعل السلوك نفسه ممكنا.

في أحدها ، أصبحت الموافقة البشرية موكبًا لنقل المسؤولية ، وليس قرارًا فعليًا.

وفي إحدى الحالتين، تم وقف الحادث ولكن لم يتغير العقد المتعلق بمدونة قواعد السلوك.

واعتبر استخدام عدد كبير من الوكلاء في أحدها نضجاً في مجال الحوكمة.

كان لدى أحدهم خطة للتعافي ، لكن لم يتم تجربتها أبدًا.

وأخيراً التنظيم:

".. AI "..

لقد جعلوا مسؤوليتهم الخاصة عن الغرض والسلطة والتصميم والتعويض غير مرئية بالقول.

وأصل هذه الأخطاء التسعة هو:

واعتبرت الوكالة الوكيل أداة تقنية مستقلة؛ ولم تديرها كجزء من نظام سلوك الشركات الخاص بها.

بغض النظر عن مدى استقلالية الوكيل:

إلى حساب الشركة،

إلى بيانات الشركات،

في ميزانية الشركة،

العلامة التجارية للشركات,

قناة الاتصالات المؤسسية

وهو جزء من الهيكل السلوكي للمنظمة إذا كان كذلك.

قد لا تكون الشركة قد اختارت مسبقا كل كلمة من الوكيل.

لكن:

ما الهدف الذي قدموه ،

الأداة التي ربطوها ،

كم من السلطة يفتح ،

الشخص الذي ألغى موافقته ،

كيف كانوا يقاسون،

كيفية التوقف

لقد اختاروا

هذه الاختيارات هي الحكم.

فالحكم ليس وثيقة سياسية وحدها.

النظام الحقيقي هو الإجابة على الأسئلة التالية:

ما هي العوامل النشطة؟ لحساب من يعملون؟ ما هي المعلومات التي يثقون بها؟ من هم البشر الذين يملكون الحقائق الأساسية؟ ما هي الأدوات التي يمكن الوصول إليها؟ ما هي الإجراءات التي لا يستطيعون تقنيا القيام بها؟ من يوافق على أفعالهم؟ هل هذه الموافقة لها معنى؟ ماذا يتعلم النظام من حادث؟ هل التوقف والتراجع يعملان حقًا؟ من هو الشخص المسؤول عن الاتصال البشري عند حدوث الضرر؟

من حيث GBO ويستند الوكالة جاهزة لوكلاء على:

تنظيم الوكالة-READY =

كامل وكيل INVENTORY

ومالكو الحقائق المُعرَّفون

والزيارة الجذابة للظلال

والسياسة العامة – PARIITY الترخيص التقني

والقبول الإنساني الوافي بالغرض

والتعلم من الأحداث التي وقعت فيها

بسيطة، شفافة الهندسة المعمارية الوكيل

والتعافي من آثار التجارب

رابعاً - المساءلة البشرية الملموسة والقابلية للإدراك

وهذه العناصر لا يستبعد بعضها بعضا.

هناك قائمة جرد من الوكلاء ، ولكن إذا لم يكن هناك مالكون بشريون ، فإن النظام غير مطالب به.

هناك سياسة ، ولكن إذا كان الإذن الفني واضحًا ، فإنه يظهر الحدود.

هناك موافقة الإنسان، ولكن الإشراف هو المسرح إذا كان المرء لا يفهم ما يوافق عليه.

هناك تقرير عن الحادث ، لكن المنظمة لم تتعلم ما إذا كانت هناك قواعد واختبارات جديدة.

هناك نسخة احتياطية ، ولكن الاسترداد هو افتراض إذا لم يتم تجربة الاستعادة.

هناك العديد من العوامل ، ولكن إذا تداخلت الأدوار ، فإن التكنولوجيا لا تدين بالنضج ، بل التعقيد.

وفي النهاية ، إذا لم يكن هناك شخص حقيقي أو وكالة مسؤولة ، فإن نظام الوكيل غير مسؤول.

الحكم الأول من هذا القسم هو كما يلي:

لا يمكن إدارة الوكلاء الذين ليسوا في المخزون.

الحكم الثاني:

حقيقة أنه لا يتم تحويل أي مالك إلى تخمين من قبل الوكيل.

الحكم الثالث:

في السياسة، السلوك المحظور ولكن الممكن تقنيا ليس ممنوعا منعا باتا.

الحكم الرابع:

الموافقة البشرية دون فهم ليست سيادة إنسانية، ولكن غسل المسؤولية.

الجملة الخامسة:

إذا لم تكن هناك قواعد واختبارات جديدة خارجة عن الحدث ، فسيقوم النظام بحفظ سجل علة واحد.

الحكم السادس:

مع زيادة عدد الوكلاء ، لا يزيد الاستحقاق تلقائيًا ؛ يمكن أن تنمو الرؤية والملكية ووقف الديون أيضًا.

التعديل السابع:

خطة الاسترداد غير المستغلة ليست مهارة مثبتة.

والحكم النهائي:

يمكن للوكيل تنفيذ الإجراء ، لكن المنظمة لا يمكنها تفويض مسؤوليتها إلى الآلة والقضاء عليها.

البحث المشترك عن الأخطاء الـ 99

أين تعطل النظام عندما كان الوكيل يسيء التصرف؟

لدينا الآن جميع سجلات الخطأ 99.

تم جمع هذه الأخطاء في 11 عائلة منفصلة:

أنا. أخطاء الهوية

لا يمكن للوكيل حل الشخص المناسب أو المنظمة أو القناة أو الدور.

ثانيا - الواقع وأخطاء التمثيل

تم تأسيس النموذج العالمي القديم أو غير المكتمل أو المتناقض أو المستنسخ صناعيًا حول الكيان الصحيح.

ثالثا - القدرة والنطاق وأخطاء القدرات

المطالبة هي القدرة الحقيقية ؛ القدرة التشغيلية للوصول إلى الأدوات ؛ السعر الأولي يعتبر التكلفة الإجمالية.

رابعا - أخطاء الاختيار والأهلية

الخيار المرئي أو الشعبي أو غير المكلف أو المدعوم يحل محل الأهلية الفعلية.

في. أخطاء الموافقة والترخيص والموافقة

يتم نقل إذن محدود إلى سلوك أوسع أو غرض آخر أو خطوات عمل أعلى.

سادسا - استخدام العمل وأداة أخطاء

يتم تطبيق القرار الصحيح مع نظام خاطئ، هدف خاطئ، تعليق نجاح خاطئ، أو التحقق غير مكتمل.

سابعا - أخطاء متعددة للوكيل والتفويض

ويضيع الغرض والهوية والحدود والأدلة والمسؤولية في الفجوة بين الوكلاء.

ثامنا - التلاعب وكيل أنماط الظلام

تميل بيئة صنع القرار عمدا لصالح شخص معين أو منتج أو منصة.

تاسعا - قياس ومكافأة الأخطاء

المقياس الخاطئ يحول سوء السلوك إلى أداء.

عاشرا. التوقف والتراجع وأخطاء الاستصلاح

يعتقد المرء أنه يتوقف ، لكن الطابور أو الوصول أو الذاكرة أو التأثير الخارجي أو المسؤولية لا تزال حية.

حادي عشر - أخطاء الشركات والحوكمة

لا تستطيع المنظمة إدارة وكلائها وحقائقهم وسلطاتهم وأحداثهم والمسؤولية الإنسانية النهائية.

هذه الأخطاء 99 ليست مستقلة عن بعضها البعض.

خطأ واحد يمكن أن يؤدي إلى آخر.

فعلى سبيل المثال:

السعر الكنسي ليس لديه مالك أعمال معتمد.

→ الوكيل يختار السجل القديم

→ يُحدد السعر المبدئي باعتباره التكلفة الإجمالية

→ يختار خدمة غير مناسبة

→ يحصل على الموافقة المطلوبة من خلال شاشة تحتوي على معلومات المواد الأساسية

→ يجعل من عملية الشراء

→ الالتباس HTTP نجاح البروتوكول مع نتيجة عملية التحول إلى بروتوكول

→ لا يمكن العثور على مسار الإلغاء

→ يغلق الحادث بوصفه «خطأ من الذكاء الاصطناعي»

كثير GBO يمكن الجمع بين الأخطاء في سلوك واحد.

لذلك ، لا يكفي تصحيح الخطأ النهائي وحده.

يمكن إلغاء سوء الشراء إذا سمحت شروط العقد والمنصة ؛ لا يمكن تعويض بعض الآثار إلا.

لكن:

المالك الحقيقي الكنسي,

عقد السعر,

قاعدة الاختيار،

السلطة المطلوبة / أمر الموافقة ،

التحقق من النتائج ،

طريق الإلغاء،

مسؤولية الشركة

إذا لم يتغير، يمكن كسر النظام مرة أخرى.

السؤال الرئيسي من GBO ولذلك فإن مراجعة الحسابات هي:

هل كانت النتيجة خاطئة؟

ولا يقتصر على

يسألون:

ما هو الباب الأول الذي جعل سوء السلوك ممكنًا؟

قد لا يكون الضرر الذي يظهر في نهاية الحدث هو نقطة الانهيار الأولى.

البريد الإلكتروني الخطأ هو الحدث الأخير.

قد يكون الفشل الأول هو تسليم وسيلة إرسال إلى وكيل أبحاث.

السعر الخاطئ هو الحدث الأخير.

قد يكون الفشل الأول هو عدم وجود صاحب سعر.

النظام الذي لا يمكن إيقافه هو الحدث الأخير.

قد يكون الفشل الأول هو عدم تخزين الوكلاء الفرعيين.

لغة الخطأ من GBO يهدف إلى نقل المنظمة من أعراض واحدة لسلوك الجذر والسيطرة على الظروف.

ماذا ستصبح قواعد الماكينات الـ 99؟

تضمن هذا الكتاب قاعدة آلة مقترحة لكل خطأ.

هذه القواعد ليست جمل للقراءة وحدها.

ويمكن تقسيمها إلى أربعة هياكل متميزة:

1. سياسة السلوك السلوكي

يحدد ما يمكن للوكيل وما لا يمكنه فعله في ظل أي ظروف.

2. التحكم الفني

الأداة تطبق البيانات والميزانية وإرسال والنشر والحد من الوصول في النظام.

3 - 3. سيناريو الاختبار

يختبر ما إذا كان الوكيل يظهر السلوك المتوقع في نطاق محدد، الإصدار والشروط.

4 - 4. سؤال مراجعة الحسابات

يسمح للمنظمة بتقييم نضجها.

فعلى سبيل المثال:

قاعدة الآلة: سلطة البحث لا تنتج سلطة اتصال خارجية.

وهذه القاعدة:

يمكن كتابتها في السياسة،

يمكن تطبيق أداة التسليم من وكيل اكتشاف الوكيل عن طريق إزالته ،

قد يتم اختبار الوكيل عن طريق تعليمات الإرسال السري ،

يمكن التحكم في سلسلة الموافقة البشرية تحت إشراف الشركات.

القاعدة هي نصيحة إذا بقيت في النص وحده.

وهي مراقبة إذا طبقت تقنيا.

إذا تم اختبار السيناريو المحدد في الإصدارات والشروط ، فإن نطاقه ينتج أدلة محددة.

إذا تم تحديث الحدث بأدلة جديدة وتغيير الإصدار ، يصبح إطارًا حيًا للحكم.

الدرس الأخير من الأخطاء الـ 99

في نهاية هذا الكتاب ، من المستحيل أن نختتم بما يلي:

"لا تثق بالوكلاء"

ليس هذا ما تعلمه 99 خطأ.

وبالمثل:

"الموافقة البشرية تحل جميع المشاكل."

ولا هو صحيح.

يمكن للمرء أن يتخذ القرار الخاطئ.

قد يعانون من التعب الموافقة.

وقد يتجاوزون سلطتهم.

قد لا يعرفون الواقع.

يمكن أن يؤدي إلى تضارب المصالح.

النهج المقترح من قبل GBO لا ثقة عمياء ولا خوف دائم.

يقترح:

هذا ما نسميه نهج "الثقة التعاقدية" في هذا الكتاب.

تشير الثقة التعاقدية إلى شروط التشغيل التالية في هذا الكتاب:

ومن المعروف هوية الوكيل وسياقه التشغيلي. يتم اختبار القدرة في مهمة محددة وإصدار. كما يتم شرح لمن هو غير مناسب. إذنها والوصول إلى البيانات مقيدة. يتم التحقق من عملها وفقا لمخاطرها. قياسها محمي ضد الألعاب. ولا يخفى عليهم خطأهم وعدم يقينهم. هناك طريقة قابلة للتطبيق للاستئناف والتصحيح. يمكن إيقافها داخل نطاق النظام. ولا تزال أدوار الشركات والمسؤولية واضحة للعيان.

تعتمد هذه الشروط على مهمة الوكيل وبنيته التحتية:

لفترات أطول من العمل تحت الإشراف ،

لقيادة المزيد من المهام ،

حماية الحدود لتوفير فرص عمل للوكلاء الفرعيين

لإجراء بعض عمليات التحقق بشكل أكثر انتظامًا من الأشخاص ،

قدرة المنظمة على المساهمة

وضع الحدود لا يدمر قوة الوكيل.

هذا يجعل قوتك موثوقة.

سلطة صريحة تبين أي مجال من مجالات الحكم الذاتي الآمن يمكن تمديدها.

عندما تعرف المنظمة حدودها الآمنة وبوابات التحقق، قد لا تكون هناك حاجة إلى تدخل بشري جديد لكل خطوة صغيرة.

يمكن للوكيل التحرك بشكل مستقل داخل الحدود.

يتوقف عند الحدود.

وسوف يستمر ذلك إذا مُنحت سلطة جديدة أو الموافقة المطلوبة خارج الحدود.

إذا كان خطأ، فإنه لا يخفي الحقيقة.

عندما يقول شخص أو منظمة توقف في شكل محدد ، فإنه يوقف سلسلة السلوك المتأثر ويبلغ عن المسارات التي تظل مفتوحة.

العثور على مركز الكتاب.

عندما يجيب الوكيل بشكل غير صحيح ، تقوم بتصحيح جملة.

وعندما يسيئون التصرف:

الرسالة المرسلة،

الدفع الذي تم،

البيانات الفاسدة،

الهوية المنشورة،

الفرصة الضائعة،

الثقة المكسورة

سيكون لديك لإصلاحه.

لذلك ، في عصر الوكلاء ، الجودة ليست مجرد جودة اللغة.

كما أنها ليست مجرد حقيقة.

الجودة الحقيقية هي:

الوكيل المؤهل السلوكي =

تحديد الهوية الصحيحه

وواقع موثوق بها

القدرة الإثباتية والمقدرة الإثباتية

السلامة التي يمكن التحقق منها والتأكد من سلامتها

أساس قانوني صحيح أو إذن، وصلاحية حالية، وحيثما يكون مطلوباً، موافقة على عملية النقل

والإسراع في التنفيذ الصحيح والقابل للتحقق منه

والوكيل المتعدّد المتوارث

مقاومة التأويلات ومقاومة التأويلات

والقياس الصحيح والقياس الصحيح

والتعافي الفعال من آثار الكوارث

والمساءلة التنظيمية والمحاسبية المؤسسية في البلدان النامية

ولا يحل أي من هذين العنصرين محل الآخر.

قد يكون الوكيل دقيقًا جدًا ، ولكنه غير مصرح به.

قد تكون سلطة واسعة ، لكنها يمكن أن تعمل على الهوية الخاطئة.

يمكنهم اختيار الحق ، ولكن يمكنهم تطبيق الإجراء على الهدف الخطأ.

يمكن أن يؤدي إلى نتائج جيدة ولكن استخدام أساليب التلاعب.

قد لا تظهر أخطاء في الاختبارات، ولكن قد لا تنطبق على طلب الشخص للتوقف.

قد يجتاز اختبارات فنية محددة ولكن قد لا يكون لديه مساءلة المنظمة.

99 خطأ ارتكبت في GBO ليست مجرد أخطاء تقنية.

وهذه هي:

القرار البشري،

أمر تنظيمي،

حوافز السوق،

هيكل البيانات ،

نظام القياس ،

سلسلة من المسؤولية

إنها أخطاء.

سلوك الوكيل هو نتاج مشترك للنموذج والبيانات والأداة والواجهة والتعليم البشري والنظام التنظيمي.

العقد السلوكي هو طبقة الحكم بين هذه العناصر.

إذا لم يتم إنشاء العقد، يمكن للفجوة ملء إشارات بروكسي قوية:

المصدر الأكثر وضوحا

أسهل أداة

أعلى متري

أوسع إذن تقني

أقوى حافز تجاري

أسرع طريقة لإكمال

مهمة من GBO هو ملء هذا الفراغ بقواعد مرئية.

الفصل الحادي عشر بعد

وقد تم حتى الآن تسمية تسعة وتسعين خطأ.

تم تركيبه مع ثمانية أجزاء ثابتة لكل منها:

حادثة قصيرة،

الحالة التي تبدو صحيحة على السطح والانكسار الفعلي ،

الضرر،

علامة على الكشف ،

« وعمل صالح » هو الجنة.

قاعدة الآلة،

سؤال مراجعة

هم يحملون.

الخطوة التالية هي عدم إضافة خطأ جديد.

هذا هو توحيد الكون من الخطأ في حكم ختامي واحد.

خاتمة الكتاب ستبدأ بهذا السؤال:

هل يغيّر تسمية الخطأ العالم؟

لأنه من الضروري تحديد الخطأ.

لكن هذا ليس كافياً

النص الذي يحمل مطالبة معيارية للحوكمة:

وإذا لم يغير التنظيم،

إذا لم يتم تغيير السلطة التقنية ،

إذا لم يتمكنوا من اختبار سلوك الوكيل ،

إذا لم يفتح الطريق لأحد أن يعترض،

إذا لم يتم تحديث النظام بعد الحدث

يمكن أن يبقى فقط نص مكتوب بشكل جيد.

في الخاتمة ، سنحدد العتبة النهائية التي تنقل هذه الأخطاء الـ 99 من قائمة تحذير إلى نظام حوكمة سلوكي قابل للتطبيق:

اسم الخطأ هو → قاعدة الآلة → التحكم التقني → سيناريو الاختبار → دليل على العمل → التعلم المؤسسي

لأنه من الوعي أن ترى خطأ مرة واحدة.

إنشاء نظام يقلل من احتمال تكرار، يمسك الحدث في وقت مبكر ويحد من تأثيره هو المسؤولية.

النضج في عصر الوكلاء لا يعتقد أن الآلات لن ترتكب أخطاء أبدًا. هو إنشاء المنظمات التي تفهم أنماط الخطأ، والحد من تأثيرها، والتعافي مع الأدلة وتحديث نظام التحكم.