Die agentenbereite Organisation

Beginnen wir mit einem fiktiven Beispiel. Der Geschäftsführer eines Unternehmens möchte Kundenanfragen schneller beurteilen. Auf der Website gibt es Leistungsseiten; die Preise stehen in einer separaten Tabelle. Das Vertriebsteam gewährt einzelnen Kunden Sonderrabatte. Die Supportbedingungen sind über ältere E-Mails verstreut. Bei manchen Leistungen weicht der Umfang in den Vertragsvorlagen von der Website ab. Die englischen Seiten sind aktuell, die deutschen und türkischen mehrere Monate im Rückstand. In einem alten Branchenverzeichnis wird eine längst eingestellte Leistung noch immer angeboten.

Das CRM-System, das Projektmanagement und die E-Mail-Postfächer arbeiten unabhängig voneinander. Der Geschäftsführer möchte einen KI-Agenten einrichten, der all diese Informationen liest und Kunden die passende Leistung empfiehlt.

Der Agent erhält den Auftrag: „Analysiere den Bedarf des anfragenden Kunden, empfehle die passende Leistung, erläutere die Preisspanne und vereinbare gegebenenfalls einen Gesprächstermin.“ Zunächst klingt das vernünftig. Der Agent kann E-Mails lesen, die Website durchsuchen, freie Termine finden und einen CRM-Eintrag anlegen. Technisch scheint alles bereit. Doch beim ersten echten Kunden beginnen die Probleme. Der Kunde fragt nach einem günstigen jährlichen Hostingpaket. Der Agent beschreibt dabei auch Leistungen des monatlich abgerechneten Betriebsmanagements, als gehörten sie zu diesem Paket.

Ein anderer Kunde wünscht Unterstützung in sechs Sprachen. Der Agent deutet die in sechs Sprachen veröffentlichten Leistungsseiten als Live-Kundensupport in allen sechs Sprachen. Ein dritter fragt nach einem Logo. Der Agent hält den Preis für ein klar begrenztes Logoprojekt für den Preis eines vollständigen visuellen Identitätssystems. Einem vierten Kunden schickt er direkt eine Termineinladung statt eines Kalenderlinks. Beim fünften übernimmt er einen Sonderrabatt, den der Vertriebsleiter früher einem anderen Kunden gewährt hatte, als allgemeine Preisregel. Die Werkzeuge funktionieren. Die Nachrichten sind gut formuliert. Technisch gelingen die Vorgänge. Doch das Unternehmen ist nicht auf Agenten vorbereitet.

Auf Agenten vorbereitet zu sein, bedeutet nicht einfach:

• Zugang zu einem Modell zu haben,
• ein Chatfenster auf der Website einzubauen,
• ein E-Mail-Konto anzubinden,
• einige API-Schlüssel bereitzustellen,
• „AI-first“ zu schreiben.

Es bedeutet, die eigenen Fakten, Befugnisse, Grenzen und Reaktionen auf Fehler so zu ordnen, dass Maschinen sicher damit arbeiten können.

Deshalb lautet die erste Frage des dritten Teils:

Wie wird eine Organisation agentenbereit?

Was bedeutet Agentenbereitschaft?

Eine agentenbereite Organisation ist nicht bloß eine Organisation, über die KI-Systeme Informationen finden können.

Eine agentenbereite Organisation:

• definiert eindeutig, wer sie ist;
• zeigt ihre tatsächlichen Fähigkeiten samt Grenzen;
• erklärt, für wen sie geeignet ist und für wen nicht;
• legt fest, welcher Agent welche Handlungen ausführen darf;
• weiß, wann eine menschliche Freigabe erforderlich ist;
• hält sichtbare Inhalte und maschinenlesbare Datensätze in Einklang;
• protokolliert Vorgänge;
• kann bei Fehlern sicher anhalten und kennt die Grenzen von Rücknahme und Abhilfe;
• sichert betroffenen Menschen Möglichkeiten zur Anfechtung und Abhilfe.

Kurz gesagt: Eine agentenbereite Organisation ermöglicht Maschinen nicht nur, zutreffende Informationen über sie zu erhalten, sondern auch, auf dieser Grundlage richtig und befugt zu handeln. Bei Fehlern funktionieren die Wege zum Anhalten, zur Rücknahme und zur Abhilfe. Darin liegt ein wesentlicher Unterschied. Ein Unternehmen kann hervorragend dokumentiert sein, ohne sichere Abläufe für Agentenhandlungen zu haben. Es kann leistungsfähige APIs besitzen, ohne zu klären, welcher Vorgang in wessen Namen zulässig ist. Eine Website kann sehr sichtbar sein, während Preis- und Leistungsangaben einander widersprechen.

Ein Unternehmen kann Hunderte Prozesse automatisiert haben, ohne einen verantwortlichen Menschen zu benennen, der das gesamte System anhalten kann. Agentenbereitschaft ist keine technische Eigenschaft, sondern die Fähigkeit einer Organisation, ihr Handeln zu steuern.

Eine API zu veröffentlichen, reicht nicht

Agenten handeln häufig über Werkzeuge. Sie legen Kalendereinträge an, versenden E-Mails, ändern Dateien, bestellen Waren und erstellen Kundendatensätze.

Deshalb beurteilen Unternehmen ihre Agentenbereitschaft mitunter anhand technischer Anbindungen: „Unser System hat eine API.“ „Der Agent kann auf das E-Mail-Konto zugreifen.“ „Die Kalenderintegration ist fertig.“ „Wir haben CRM-Zugriff erteilt.“ Solche Verbindungen können für einen bestimmten Arbeitsablauf nötig sein. Allein genügen sie nicht. Dass eine Tür vorhanden ist, bedeutet nicht, dass sie unter allen Umständen geöffnet werden darf. Ein Agent kann vielleicht einen Kundendatensatz anlegen. Er darf dieselbe Person aber nicht doppelt erfassen. Er kann eine Termineinladung versenden. Dafür muss er jedoch die Zeitzone der teilnehmenden Person, den Zweck des Gesprächs und ihre ausdrückliche Freigabe kennen. Er kann ein Angebot vorbereiten.

Er darf den Sonderrabatt des Vertriebsleiters aber nicht zur allgemeinen Regel machen.

Eine API beantwortet die Frage: „Wie wird dieser Vorgang technisch ausgeführt?“

GBO fragt zusätzlich:

Soll dieser Vorgang überhaupt ausgeführt werden? In wessen Namen? Unter welchen Bedingungen? Mit welchen Daten? Wer muss ihn freigeben? Wie wird er gestoppt, wenn etwas schiefgeht?

Die Grundlage einer agentenbereiten Organisation ist deshalb keine technische Verbindung, sondern ein Verhaltensvertrag.

Die Organisation muss ihre eigenen Fakten kennen

Ein Agent kann einen Widerspruch, den die Organisation intern nicht geklärt hat, nicht zuverlässig auflösen. Beschreibt der Vertrieb eine Leistung anders als Website, Preiskatalog und Vertrag, steht der Agent vor widersprüchlichen Angaben. Ist keine Rangfolge der Quellen festgelegt, darf er nicht eigenständig eine davon für richtig erklären. Die Entscheidung könnte zufällig ausfallen. Er könnte der neuesten Datei vertrauen, die häufigste Aussage übernehmen oder den Datensatz wählen, den er am verständlichsten findet. Wenn aber die Organisation selbst nicht weiß, welche Quelle maßgeblich ist, darf der Agent das nicht erraten. Agentenbereitschaft beginnt daher nicht außerhalb der Organisation.

Die Organisation muss zunächst auf sich selbst schauen.

Folgende Fragen brauchen klare Antworten:

Wer sind wir? Unter welcher rechtlichen Struktur arbeiten wir? Welche Leistungen erbringen wir tatsächlich? Welche Preise und Leistungsumfänge gelten? Welche Leistungen stehen nur bestimmten Kunden offen? Wer darf worüber entscheiden? Welche Information ist kanonisch? Welcher Datensatz ist veraltet? Welche Aufgaben dürfen automatisch erledigt werden? Welche brauchen eine menschliche Freigabe? Wer trägt bei Fehlern die Verantwortung?

Fehlen diese Antworten, beschleunigt die Anbindung eines Agenten nicht das Unternehmen. Sie automatisiert die vorhandene Unklarheit.

Ein leistungsfähiger Agent schafft in einer ungeordneten Organisation nicht zwangsläufig Ordnung. Er kann die Unordnung schneller verbreiten.

Die sechs Grundstrukturen einer agentenbereiten Organisation

In diesem Buch betrachte ich die institutionelle Vorbereitung anhand von sechs Grundstrukturen:

1. Faktenstruktur

2. Identitätsstruktur

3. Fähigkeits- und Eignungsstruktur

4. Befugnisstruktur

5. Handlungs- und Nachweisstruktur

6. Wiederherstellungsstruktur

Auch wenn eine dieser Strukturen fehlt, können manche begrenzten Vorgänge möglich sein. Für die von der Lücke betroffenen Handlungen darf jedoch keine Zuverlässigkeit vorausgesetzt werden.

1. Faktenstruktur

Die Faktenstruktur legt fest, in welcher Quelle, in welcher Version und auf welcher Befugnisgrundlage wichtige Informationen der Organisation geführt werden. Die Fakten eines Unternehmens müssen nicht in einem einzigen Dokument stehen. Leistungskatalog, Preisdatensätze, Arbeitszeiten, befugte Personen und Rechtstexte können getrennt sein. Ihre Beziehungen zueinander müssen aber bekannt sein.

Die Faktenstruktur beantwortet folgende Fragen:

• Welche kanonische Quelle gilt für die jeweilige Informationsart?
• Aus welcher Quelle werden sichtbare Webseiten erzeugt?
• Welche Datensätze werden bei einer Preisänderung gemeinsam aktualisiert?
• Wie werden frühere Versionen aufbewahrt?
• Wann verliert eine Information ihre Gültigkeit?
• Wie werden Informationen für Menschen mit den maschinenlesbaren Angaben verglichen?
• Welche Quelle hat bei Widersprüchen Vorrang?

Wird der Preis einer zentralen Leistung von Hand in drei verschiedene Dateien eingetragen, ist die Faktenstruktur schwach. Nach einer Änderung bleiben die beiden anderen Datensätze möglicherweise unverändert. Der Agent liest den alten Eintrag, während ein Mensch die neue Seite sieht. Dieselbe Organisation veröffentlicht zwei verschiedene Fassungen ihrer Fakten.

Was bedeutet eine einzige maßgebliche Quelle?

Eine einzige maßgebliche Quelle bedeutet nicht, sämtliche Informationen in einer Datei abzulegen. Entscheidend ist, dass für jede Informationsart die vorrangige, autoritative Quelle bekannt ist.

Das können beispielsweise sein:

• der Unternehmenseintrag für den rechtlichen Betreiber,
• der kanonische Leistungskatalog für den Leistungsumfang,
• der freigegebene kaufmännische Datensatz für den Preis,
• das Befugnisregister für menschliche Rollen,
• die veröffentlichte Version für die Webdarstellung,
• der Befugnisvertrag für das Agentenverhalten,
• ein datierter Nachweis für Messungen.

Die Quellen können verschieden sein; ihre Beziehungen sind dennoch eindeutig.

Eine einzige maßgebliche Quelle heißt: eine autoritative Anlaufstelle für jede Tatsache, nicht eine Datei für alles.

Jede Information braucht eine verantwortliche Stelle

Eine Information kann im System stehen, ohne dass klar ist, wer sie aktuell halten soll. Wer ändert den Preis?

Wer gibt den Leistungsumfang frei?

Wer aktualisiert die Öffnungszeiten?

Wer entzieht Agenten ihre Befugnisse?

Wer entscheidet, ob Leistungen in einem bestimmten Land angeboten werden?

Für jede wichtige Information braucht es eine fachlich verantwortliche Stelle. Sie muss nicht mit der Person identisch sein, die den Datensatz technisch bearbeitet. Ein Entwickler kann den Preiseintrag ändern, während die Preisentscheidung bei der Finanzabteilung oder einer befugten Führungskraft liegt. Ein Inhaltsagent kann einen Rechtstext bearbeiten; eine Bedeutungsänderung kann dennoch die Freigabe der für Rechtsfragen zuständigen Person erfordern.

Die fachlich verantwortliche Stelle hat folgende Aufgaben:

• die Information prüfen,
• Änderungen freigeben,
• den Zeitraum bestimmen, in dem die Information als aktuell gilt,
• Widersprüche auflösen,
• den alten Datensatz außer Kraft setzen.

Bei Unsicherheit muss der Agent wissen, an welchen Menschen oder welche Stelle er sich wenden soll.

Der zeitliche Geltungsbereich von Fakten

Nicht jede Information veraltet gleich schnell. Der Unternehmensname ändert sich möglicherweise selten, die verfügbare Kapazität täglich, der Preis monatlich. Eine Aktion kann nur wenige Tage gelten, ein Agentenzugriff nur für eine Sitzung.

Entsprechende Datensätze sollten daher enthalten:

• Erstellungsdatum
• Datum der letzten Prüfung
• Beginn der Gültigkeit
• Ende der Gültigkeit
• Version
• Verantwortliche Stelle
• Status

Mögliche Statusangaben sind:

• Entwurf
• Freigabe ausstehend
• Aktiv
• Eingeschränkt
• Abgelaufen
• Widerrufen
• Archiviert

Ein Agent darf einen Datensatz nicht allein deshalb für aktuell halten, weil er vorhanden ist.

Vorhanden zu sein, heißt nicht, gültig zu sein.

2. Identitätsstruktur

Die Identitätsstruktur verknüpft die Organisation mit ihren Menschen, Marken, Agenten und offiziellen Kanälen.

Eine Organisation kann unter unterschiedlichen Bezeichnungen und Identitäten auftreten:

• Markenname
• Rechtlicher Name
• Domainname
• Social-Media-Konten
• Offizielle E-Mail-Adressen
• Befugte Vertreter
• Agentenidentitäten
• Produktnamen

Diese müssen nicht übereinstimmen. Sind ihre Beziehungen unklar, kann ein Agent den richtigen Vorgang am falschen Objekt ausführen.

Die Identitätsstruktur enthält mindestens:

• die kanonische Organisationsidentität,
• die Beziehung zwischen Marke und rechtlichem Betreiber,
• offizielle Domains,
• autorisierte Kommunikationskanäle,
• aktive menschliche Rollen,
• Agentenidentitätskarten,
• Vertretungs- und Zeichnungsbefugnisse,
• frühere oder widerrufene Identitäten.

Agenteninventar

Viele Organisationen wissen möglicherweise nicht genau, wie viele KI-Agenten sie einsetzen. Ein Team verwendet ein Social-Media-Werkzeug, ein anderes richtet eine E-Mail-Automation ein. Entwickler arbeiten mit einem Programmieragenten, der Vertrieb mit einem Agenten zur Kundenrecherche. Die Personalabteilung bindet ein weiteres System an. Für sich genommen wirkt jedes davon nützlich.

Auf Organisationsebene können dennoch Fragen offenbleiben:

• Wie viele Agenten sind aktiv?
• Wer hat sie eingerichtet?
• Auf welche Konten greifen sie zu?
• Welche Daten nutzen sie?
• Mit welchen externen Diensten verbinden sie sich?
• Welche Handlungen führen sie automatisch aus?
• Wer kann sie anhalten?
• Wann enden ihre Befugnisse?

Einer der ersten praktischen Schritte besteht deshalb darin, ein Agenteninventar anzulegen. Die folgenden Felder können als Ausgangsschema dienen. Das Beispiel ist weder eine funktionsfähige API noch ein verbindlicher Datenstandard. Umfang und Grenzen für personenbezogene Daten müssen organisationsbezogen festgelegt werden.

agent_id

public_name

technical_identity

operator

human_owner

purpose

connected_systems

accessible_data

allowed_actions

prohibited_actions

approval_thresholds

subagents

valid_from

valid_until

shutdown_method

last_reviewed

status

Die Organisation darf Agenten, die nicht im Inventar erfasst sind und deren Befugnisse nicht überprüft wurden, weder Zugang zu ihren Ressourcen noch Handlungen in ihrem Namen erlauben.

Schattenagenten

Ein Mitarbeiter kann über sein privates Konto ein KI-Werkzeug nutzen, Unternehmensdokumente hochladen, Kundendaten analysieren lassen und das Ergebnis im Namen der Organisation veröffentlichen. Im offiziellen Agenteninventar taucht dieses System nicht auf.

Das lässt sich als Schattenagentenbetrieb bezeichnen. Dahinter steckt nicht immer böse Absicht. Häufig will der Mitarbeiter die Arbeit einfach schneller erledigen.

Doch die Organisation weiß dann nicht:

• Welche Daten wurden weitergegeben?
• Welches Modell oder welcher Dienst wurde genutzt?
• Wie wurde das Ergebnis geprüft?
• Welchen Vorgang hat der Agent ausgeführt?
• Wo wurden die Informationen gespeichert?
• Wer trägt bei einem Fehler die Verantwortung?

Schattenagenten lediglich zu verbieten, genügt meist nicht. Die Organisation muss verstehen, weshalb Menschen diese Werkzeuge brauchen, und sichere offizielle Wege schaffen.

Sind Schattenwerkzeuge nötig, um die Arbeit überhaupt zu erledigen, deckt das offizielle System den tatsächlichen Bedarf womöglich nicht ab.

Wie ein Agent sich vorstellt

Ein Agent, der mit Menschen kommuniziert, sollte seine Identität nicht vollständig verbergen. Er muss nicht jeden Satz mit „Ich bin eine KI“ beginnen.

Nutzer sollten aber erkennen können:

• Habe ich es mit einem automatisierten System zu tun?
• Für welche Organisation arbeitet es?
• Welche Arten von Vorgängen kann es ausführen?
• Wie erreiche ich einen Menschen?
• Wie verbindlich sind seine Angaben?

Ein beispielhafter Vorstellungstext, der den Ansatz dieses Buches veranschaulicht, könnte so lauten. Er ist keine Befugniserklärung für einen bestehenden Live-Assistenten: „Dieser Assistent stellt im Namen von NobleJackal allgemeine Leistungsinformationen bereit und kann eine Gesprächsanfrage vorbereiten. Preise, rechtliche Zusagen und die endgültige Projektannahme bedürfen der Freigabe eines befugten Menschen.“ Eine solche Erklärung schwächt den Agenten nicht. Sie macht seine Handlungsgrenzen sichtbar.

3. Fähigkeits- und Eignungsstruktur

Damit Agenten eine Organisation auswählen können, reicht eine bloße Leistungsliste nicht aus.

Zu jeder Leistung müssen folgende Punkte erläutert werden:

• Tatsächliches Ergebnis
• Erforderliche Eingaben
• Leistungsumfang
• Ausschlüsse
• Preis oder Preisermittlung
• Verfügbare Kapazität
• Geeignete Kunden
• Ungeeignete Situationen
• Nachweise
• Vorgehen bei einem Fehlschlag

Diese Angaben müssen verständlich vorliegen.

Sie können in einem Fähigkeits- und Eignungsregister geführt werden.

Der Leistungsname allein reicht nicht

„KI-Automatisierung“ kann eine Leistungsbezeichnung sein.

Damit kennt der Agent aber noch nicht die Antworten auf folgende Fragen:

• Welche Arbeitsabläufe?
• Nur Beratung?
• Ist die Umsetzung im Produktivbetrieb enthalten?
• Werden E-Mails versendet?
• Wie funktioniert die menschliche Freigabe?
• Welche Daten dürfen genutzt werden?
• Wer übernimmt die Wartung?
• Wie wird der Preis bestimmt?
• Unter welchen Bedingungen wird ein Auftrag abgelehnt?

Eine agentenbereite Organisation macht aus einem Leistungsnamen einen Verhaltensvertrag.

Der kanonische Leistungsdatensatz

Für jede Leistung lässt sich ein kanonischer Datensatz wie der folgende entwerfen. Die Felder sind Beispiele, kein für alle Organisationen verpflichtendes Schema.

service_id

service_name

provider_identity

outcome

target_users

supported_use_cases

unsupported_use_cases

required_inputs

deliverables

scope_included

scope_excluded

pricing_model

starting_price

third_party_costs

supported_languages

supported_regions

capacity_status

estimated_start

evidence

quality_criteria

human_approval

failure_behavior

version

validity

Dieser Datensatz ist nicht nur für Maschinen gedacht. Auch Vertrieb, Webteam, Angebotserstellung, Vertragsverantwortliche und Betrieb nutzen dieselbe Quelle. So beruhen die verschiedenen Auftritte und Arbeitsbereiche der Organisation auf denselben kaufmännischen Fakten.

Ungeeignete Kunden ausdrücklich benennen

Der Datensatz sollte auch festhalten, für wen eine Leistung nicht geeignet ist.

Zum Beispiel:

• Projekte unterhalb eines bestimmten Budgets
• Anfragen mit dringenden, unrealistischen Lieferfristen
• Kunden, die den erforderlichen Datenzugriff nicht bereitstellen können
• Wünsche nach Gesichts- oder Stimmenklonen ohne Erlaubnis
• Wünsche nach gefälschten Bewertungen, manipulativer SEO oder täuschenden Benutzeroberflächen
• Hochrisikoprozesse, bei denen menschliche Freigaben vollständig entfallen sollen

Diese Ausschlüsse sind nicht nur ethische Positionen. Sie begrenzen die Auswahl und verringern das Risiko, dass ein Agent mit einem ungeeigneten Kunden einen Vorgang beginnt.

Kapazitätsstatus

Eine Leistung kann dauerhaft im Katalog stehen. Die verfügbare Kapazität ändert sich dagegen oft wesentlich häufiger.

Daher kann ein eigener Datensatz nötig sein:

service_id

availability_status

accepting_new_work

earliest_start

capacity_band

last_updated

expires_at

Ein Agent darf auf Grundlage eines veralteten Kapazitätsdatensatzes keine verbindliche Zusage machen.

Ist die Kapazität unbekannt, sollte er sagen: „Die Leistung wird angeboten. Der derzeit mögliche Beginn muss noch bestätigt werden.“

4. Befugnisstruktur

Die Befugnisstruktur zeigt, welche Menschen und Agenten in der Organisation welche Handlungen ausführen dürfen. Agenten vorher weitreichenden Werkzeugzugriff zu geben, schafft ein erhebliches Risiko.

Die Befugnisstruktur umfasst:

• eine Übersicht menschlicher Rollen,
• eine Übersicht der Agentenbefugnisse,
• Grenzen des Datenzugriffs,
• finanzielle Grenzen,
• Kommunikationsbefugnisse,
• Veröffentlichungsbefugnisse,
• Schwellen für menschliche Freigaben,
• Delegationsregeln,
• Verantwortung für den Notstopp,
• Einträge zu Laufzeit und Widerruf.

Rollenbasierte Befugnisse können allein unzureichend sein

Eine Organisation könnte festlegen: „Der Vertriebsagent darf auf Vertriebsvorgänge zugreifen.“ Das ist viel zu weit gefasst.

Zu Vertriebsvorgängen können gehören:

• Recherche zu potenziellen Kunden
• Vorauswahl
• Entwurf einer ersten Nachricht
• Nachrichtenversand
• Terminvereinbarung
• Preisauskunft
• Rabattgewährung
• Angebotsversand
• Vertragsannahme

Das sind nicht dieselben Befugnisse. Sie müssen nach Art der Handlung getrennt werden.

Befugnismatrix

Die folgende Tabelle zeigt eine beispielhafte Verteilung für eine Organisation, in der gültige Aufgabenbefugnisse und Grenzen des Datenzugriffs bereits festgelegt sind. „Nicht erforderlich“ bedeutet hier, dass nicht für jeden einzelnen Vorgang erneut eine Freigabe nötig ist. Es erlaubt weder unbefugten Zugriff noch unbefugte Kommunikation.

In einer realen Organisation kann diese Matrix wesentlich detaillierter sein. Entscheidend ist, den Unterschied zwischen „Der Agent hat Zugriff“ und „Der Agent ist befugt“ sichtbar zu machen.

Übergabepunkte an den Menschen

In jedem Prozess muss feststehen, an welchen Stellen ein Mensch übernimmt.

Eine solche Stelle lässt sich als Übergabepunkt an den Menschen bezeichnen.

Beispiele sind:

• der erste externe Kontakt,
• eine Preis- oder Rabattauskunft,
• ein verbindliches Angebot,
• eine Veröffentlichung im Produktivbetrieb,
• ein Kauf mit hohem Auftragswert,
• die Übermittlung personenbezogener Daten,
• die Erzeugung biometrischer Inhalte,
• eine rechtliche oder öffentliche Erklärung,
• ein unumkehrbarer Vorgang.

Ein Übergabepunkt darf nicht mit einer unbestimmten Regel wie „Bei Risiko nachfragen“ abgehandelt werden. Er sollte möglichst konkret definiert sein.

Was eine menschliche Freigabe voraussetzt

Ein Agent sollte bei einer Freigabeanfrage nicht lediglich fragen: „Soll ich fortfahren?“

Er sollte zeigen:

• Was wird er tun?
• In wessen Namen?
• Worauf richtet sich die Handlung?
• Mit welchen Daten?
• Zu welchen Kosten?
• Mit welcher Verpflichtung?
• Lässt sie sich rückgängig machen?
• Welche Unsicherheit bleibt bestehen?

So erhält der Mensch eine echte Entscheidungsgrundlage.

Befristete Befugnisse

Agentenbefugnisse sollten weder unbefristet noch ohne Überprüfung bestehen bleiben.

Sie lassen sich beispielsweise begrenzen auf:

• eine Aufgabe,
• einen Dateibestand,
• einen Kunden,
• eine Kampagne,
• ein bestimmtes Budget,
• einen bestimmten Zeitraum,
• bestimmte Arbeitszeiten,
• ein bestimmtes Land oder einen Kanal.

Nach Ablauf der Frist muss die Befugnis erneut beurteilt werden.

5. Handlungs- und Nachweisstruktur

Ein Agent sollte bei einer Handlung nicht bloß ein Ergebnis erzeugen. Er sollte festhalten, was er getan hat, weshalb und auf welcher Befugnisgrundlage.

Die wesentlichen Bestandteile dieser Struktur sind:

• Handlungskatalog
• Voraussetzungen
• Prüfung der Eingaben
• Handlungsbeleg
• Unabhängige Überprüfung
• Messung
• Versionierung
• Aufbewahrung von Nachweisen

Handlungskatalog

Die Organisation muss eindeutig festlegen, welche Handlungen Agenten ausführen dürfen.

Zum Beispiel:

• Einen potenziellen Kunden recherchieren
• Eine E-Mail entwerfen
• Eine Nachricht senden
• Einen Terminvorschlag vorbereiten
• Eine Termineinladung versenden
• Die Eignung einer Leistung prüfen
• Preisinformationen anzeigen
• Ein Angebot entwerfen
• Webinhalte aktualisieren
• Live veröffentlichen
• Eine Meldung an eine Suchmaschine senden
• Leistungswerte messen
• Einen Bericht erstellen

Zu jeder Handlung sollten folgende Angaben vorliegen:

• Erforderliche Eingaben
• Befugnisstufe
• Menschliche Freigabe
• Risikostufe
• Erwartetes Ergebnis
• Erfolgsnachweis
• Methode zur Rücknahme

Wann ist eine Handlung abgeschlossen?

„Nachricht gesendet“ kann nur dann als Abschlussbedingung gelten, wenn ein geeigneter Versandnachweis vorliegt. Geht es bei der Aufgabe um Zustellung, Antwort oder Gespräch, belegt der Versand allein keines dieser Ergebnisse.

Für eine Webveröffentlichung können folgende Abschlussbedingungen gelten:

• Dateien übertragen
• Hashes auf dem Zielserver stimmen überein
• Live-HTML ist korrekt
• Canonical- und Sprachverknüpfungen haben die Prüfung bestanden
• Mobile und Desktopdarstellung überprüft
• Keine kritischen Fehler
• Rücksetzpaket vorhanden

Diese Prüfungen können gemeinsam den Abschluss der Veröffentlichung bestimmen.

Für die Weitergabe eines unverbindlichen Angebotsentwurfs kann erforderlich sein:

• Der richtige Empfänger wurde bestätigt
• Der freigegebene Text wurde gesendet
• Die Grenzen der Datenweitergabe wurden eingehalten
• Die Nachricht wurde protokolliert
• Es ist keine verbindliche Verpflichtung entstanden

Das sind mögliche Abschlussbedingungen. Sie sollten nicht nur die Tätigkeit des Agenten, sondern auch das tatsächliche Ergebnis abdecken.

Der Handlungsbeleg

Nach wichtigen Handlungen kann ein Handlungsbeleg wie der folgende erstellt werden. Die beispielhaften Felder müssen mit den tatsächlichen Vorgangsaufzeichnungen verknüpft sein. Eine vom Agenten selbst verfasste Zusammenfassung ist allein kein Erfolgsnachweis.

action_id

action_type

requested_by

performed_by

target

purpose

authorization

inputs_used

data_shared

started_at

completed_at

technical_result

real_world_verification

human_approval

rollback_status

open_uncertainties

Nutzern kann der Beleg in einfacher, Prüfern in ausführlicherer Form vorgelegt werden.

Die Hierarchie der Nachweise

Nicht jeder Nachweis einer Erfolgsaussage ist gleich aussagekräftig.

Bei einer Webveröffentlichung beispielsweise:

• Der Befehl wurde erfolgreich ausgeführt.
• Der Übertragungsdienst hat den Upload angenommen.
• Der Hash der Datei auf dem Zielserver stimmt überein.
• Die Live-HTTPS-Ausgabe wurde überprüft.
• Ein echter Browser hat die Seite korrekt dargestellt.
• Ein Suchmaschinen-Crawler konnte sie erreichen.
• Die Suchmaschine hat die Seite indexiert.
• Die Seite hat bei einer bestimmten Suchanfrage Sichtbarkeit gewonnen.
• Nutzer haben gehandelt, und ein geschäftliches Ergebnis ist entstanden.

Diese neun Beobachtungen belegen nicht dasselbe. Sie müssen auch nicht immer in dieser Reihenfolge auftreten. Der Agent sollte klar benennen, auf welcher Nachweisebene er sich befindet.

Eine angenommene Meldung ist keine Indexierung. Indexierung ist keine Platzierung. Platzierung ist kein Kunde. Eine Kundenanfrage ist kein Umsatz.

Auch die Sprache, in der Nachweise beschrieben werden, muss diese Unterschiede bewahren.

Der Grundsatz der unabhängigen Überprüfung

Ein System, das eine Aufgabe ausführt, sollte nicht allein seiner eigenen Erfolgsmeldung vertrauen. Wenn möglich, ist das Ergebnis anhand einer Aufzeichnung oder Beobachtung zu prüfen, die von der Aussage des handelnden Agenten unabhängig ist. Ein anderes Werkzeug schafft keine Unabhängigkeit, wenn es auf dieselbe fehlerhafte Quelle zugreift.

• Nach dem Hochladen die Dateien von außen erneut abrufen.
• Nach der Erstellung in einem echten Browser ansehen.
• Den Preiseintrag mit sichtbarer Seite und Katalog vergleichen.
• Vor dem E-Mail-Versand Empfänger und Anhänge prüfen, danach die Vorgangsaufzeichnung des Dienstes.
• Nach der Zahlung Bestellung und Bankaufzeichnung abgleichen.
• Bei der Ausübung einer Befugnis die gültige Vertragsversion festhalten.

Unabhängige Überprüfung verursacht Aufwand. Sie verringert aber unbemerkte Fehlschläge.

6. Wiederherstellungsstruktur

Eine agentenbereite Organisation plant nicht nur das Gelingen.

Für den Fehlerfall legt sie im Voraus fest:

• wer den Vorgang stoppt,
• welche Systeme abgeschaltet werden,
• welcher Zustand der letzte sichere war,
• welche Daten erhalten bleiben müssen,
• wer informiert wird,
• wie Einwände entgegengenommen werden,
• wie Abhilfe geleistet wird.

Diese Entscheidungen werden vor dem Vorfall getroffen.

Die Wiederherstellungsstruktur hat folgende Bestandteile:

• Vorfallklassifizierung
• Sicherer Zustand
• Notstopp
• Kontrollpunkte
• Sicherung und Rollback
• Vorfallprotokoll
• Verantwortlicher Mensch
• Benachrichtigung
• Anfechtung
• Abhilfe
• Grundursache
• Vertragsaktualisierung

Den Agenten anzuhalten, ist nicht dasselbe wie das System anzuhalten

Der zentrale Agent kann abgeschaltet werden.

Folgendes kann dennoch weiterlaufen:

• Unteragenten
• Geplante Aufgaben
• E-Mail-Warteschlangen
• Externe Automatisierungen
• Abonnements
• Dateivorgänge

Diese können unabhängig fortbestehen. Der Notstoppplan muss deshalb die gesamte betroffene Handlungskette erfassen. Für unbeteiligte Systeme oder solche, deren Unterbrechung selbst Schaden verursachen würde, ist eine gesonderte Entscheidung nötig.

Einen Agenten zum Schweigen zu bringen, stoppt nicht die von ihm angestoßenen Handlungen.

Der letzte sichere Zustand

Für jedes kritische System muss im Voraus ein wiederherstellbarer Zustand oder eine sichere Art des Anhaltens definiert werden. Bei einer Website kann das eine geprüfte Version sein, bei Preisen ein freigegebener Katalog, bei Daten eine überprüfte Sicherung. Die Rückkehr zu einer älteren Befugnisrichtlinie darf widerrufene Zugriffe nicht wieder freischalten. Maßgeblich bleiben die aktuellen Befugnis- und Widerrufsaufzeichnungen. Bereits versandte Kundennachrichten lassen sich ebenso wenig in unversandte Entwürfe zurückverwandeln. In diesem Fall werden weitere Sendungen gestoppt und Korrektur- oder Abhilfeschritte eingeleitet. Wiederherstellungswege müssen regelmäßig innerhalb sicherer Grenzen getestet werden.

Das Verhaltensvertragsregister

Die fünf Verträge aus den Kapiteln 4 bis 8 sollten innerhalb der Organisation gemeinsam verwaltet werden.

Wir können diese Struktur als Verhaltensvertragsregister bezeichnen.

Das Register führt folgende Aufzeichnungen zusammen:

• Identitätsvertrag
• Fähigkeitsvertrag
• Eignungsvertrag
• Befugnisvertrag
• Wiederherstellungs- und Abhilfevertrag

Das Register muss kein einziges riesiges Dokument sein. Seine Einträge müssen aber miteinander verknüpft sein. Ändert sich die Identität einer Leistung, sind Eignungs- und Preiseinträge zu prüfen. Ändern sich Agentenbefugnisse, muss der Handlungskatalog aktualisiert werden. Nach einem Vorfall muss die einschlägige Vertragsversion auffindbar sein.

Ein Verhaltensvertrag ist nicht statisch

Organisationen verändern sich. Leistungen und Preise ändern sich. Menschen gehen, neue Agenten kommen hinzu, Risiken entstehen. Deshalb muss der Verhaltensvertrag ein lebendes System bleiben.

Bei jeder Änderung muss nachvollziehbar sein:

• Wer hat sie vorgenommen?
• Warum?
• Welche Datensätze waren betroffen?
• Welche Tests wurden ausgeführt?
• Welche Version wurde aktiviert?
• Wie wurde die frühere Version archiviert?

Diese Fragen müssen sich für jede Änderung beantworten lassen.

Vertrag und tatsächliches Verhalten müssen übereinstimmen

In einem Dokument kann stehen: „Der Agent darf keine externen Nachrichten versenden.“ Ist im E-Mail-Werkzeug jedoch eine Versandberechtigung aktiv, verhält sich das System tatsächlich anders.

Eine Richtlinie kann festlegen: „Preise erfordern eine menschliche Freigabe.“ Kann der Webagent den Preiskatalog aber direkt ändern, existiert diese Regel nur auf dem Papier.

Deshalb müssen zwei Ebenen miteinander verglichen werden:

Erklärte Befugnis

Was in der Richtlinie steht.

Technisch verfügbare Befugnis

Was das technische System tatsächlich zulässt.

Den Unterschied können wir als Lücke bei der Durchsetzung von Befugnissen bezeichnen. In einer agentenbereiten Organisation ist diese Lücke möglichst klein.

Regeln technisch durchsetzen

Befugnisse, Datenzugriff und Vorgangsgrenzen dürfen nicht allein den Modellanweisungen überlassen werden. Sie müssen auch auf der Ebene des jeweiligen Werkzeugs oder Dienstes durchgesetzt werden.

Zum Beispiel:

• Das Zahlungslimit eines Agenten lässt sich technisch begrenzen.
• Eine Liveveröffentlichung kann ohne menschliche Freigabe gesperrt sein.
• Bestimmte Datenfelder können dem Agenten vollständig verborgen bleiben.
• Externer E-Mail-Versand kann ein separates Autorisierungstoken erfordern.
• Der Zugriff auf Preiseinträge kann so begrenzt werden, dass nur befugte Rollen sie ändern können.
• Ein Vorgang mit hohem Risiko kann zwei getrennte Freigaben voraussetzen.

Anweisungen sind wichtig. Bei hohem Risiko bieten technische Kontrollen jedoch stärkeren Schutz.

Wenn der Agent sagt „Ich sollte das nicht tun“, bietet das nicht dieselbe Sicherheit wie ein System, das sagt „Du kannst das nicht tun“.

Handlungen steuern, nicht Produktnamen

Eine Organisation kann ein bestimmtes KI-Werkzeug verbieten. Ein Mitarbeiter kann dieselbe Handlung dennoch mit einem anderen Werkzeug ausführen. Stützt sich die Steuerung nur auf Produktnamen, veraltet sie schnell.

Dauerhafter ist es, folgende Fragen zu klären:

• Welche Daten dürfen die Organisation verlassen?
• Welche Handlungen dürfen automatisch erfolgen?
• Welche Entscheidungen erfordern eine menschliche Freigabe?
• Welche Ergebnisse werden vor der Veröffentlichung geprüft?
• Welche Aufzeichnungen werden aufbewahrt?
• Welche Systeme dürfen miteinander verbunden werden?

Das Werkzeug kann wechseln. Der Grundsatz für das Handeln bleibt.

Die Aufgabenverteilung zwischen Mensch und Agent

Eine agentenbereite Organisation teilt Arbeit nicht bloß in „Menschenarbeit“ und „KI-Arbeit“. Innerhalb eines Prozesses verteilt sie Aufgaben nach der Art der Handlung.

Zum Beispiel:

Wo Agenten Stärken haben

• Große Informationsbestände durchsuchen
• Widersprüche finden
• Kandidaten zusammenstellen
• Entwürfe erstellen
• Tests ausführen
• Wiederkehrende Prüfungen durchführen
• Änderungen inventarisieren
• Messungen protokollieren

Wo der Mensch im Mittelpunkt steht

• Ziele festlegen
• Über Werte und Risikopräferenzen entscheiden
• Preiszusagen machen und rechtliche Verpflichtungen eingehen
• Folgenreiche Auswahlentscheidungen freigeben
• Widerstreitende menschliche Interessen abwägen
• Über Abhilfe entscheiden
• Letztlich die Verantwortung tragen

Diese Trennung ist nicht absolut. Für die Gestaltung von Abläufen ist sie dennoch hilfreich.

Die menschliche Aufgabe besteht nicht nur im Freigeben

Den Menschen auf eine „Ja“-Schaltfläche zu reduzieren, wäre falsch.

Der Mensch bestimmt:

• weshalb dieses Ziel gewählt wurde,
• wer betroffen sein wird,
• welcher Kompromiss vertretbar ist,
• wofür die Organisation stehen möchte,
• welches Risiko sie eingehen kann.

Diesen Rahmen sollte der Agent nicht vollständig selbst festlegen.

Der Beitrag des Agenten ist mehr als Geschwindigkeit

Ein Agent bringt einer Organisation nicht nur schnellere Abläufe.

Richtig eingesetzt, kann er Folgendes ermöglichen:

• Konsistenz
• Nachvollziehbarkeit
• Fortlaufende Kontrolle
• Übereinstimmende Fakten in verschiedenen Sprachen
• Wiederholbare Qualität
• Frühe Fehlererkennung

Der Wert eines Agenten sollte nicht allein an eingesparter menschlicher Arbeit gemessen werden.

Auch fortlaufende, durch Nachweise belegte Prüfungen haben einen Wert, wenn Menschen sie zuvor nicht regelmäßig durchführen konnten.

Agentenbereite Daten

Organisationsdaten sollen für Agenten nutzbar sein. Der Ansatz „Alles an einem Ort sammeln“ kann jedoch gefährlich werden.

Agentenbereite Daten müssen folgende Anforderungen erfüllen:

• Korrekt
• Aktuell
• Mit Herkunftsnachweis
• Klassifiziert
• Zugriffskontrolliert
• Auf den Zweck begrenzt
• Bei Bedarf löschbar
• Nutzung protokollierbar

Jede dieser Anforderungen gehört dazu.

Datenklassen

Eine Organisation kann Daten wie folgt kennzeichnen. Diese Kategorien schließen einander nicht aus und ersetzen keine gesetzlichen Einstufungen. Dieselben Daten können mehreren Gruppen angehören.

• Öffentlich
• Intern
• Vertraulich
• Personenbezogen
• Sensibel
• Rechtlich beschränkt
• Für Agentennutzung gesperrt

Ein Agent sollte nicht in jeder Datenklasse dieselben Befugnisse besitzen.

Der Grundsatz der Datenminimierung

Ein Agent sollte nur mit den für seine Aufgabe mindestens erforderlichen Daten arbeiten. Für die Planung eines Kundengesprächs braucht er nicht die gesamte Finanzhistorie. Für die Eignungsprüfung einer Leistung keine persönliche Identifikationsnummer. Für die Bearbeitung einer Seite keinen Zugriff auf die gesamte Kundendatenbank.

Mehr Daten bedeuten nicht immer besseres Handeln. Sie können auch den möglichen Schaden vergrößern.

Datenherkunft

Der Agent sollte wissen, woher seine Informationen stammen.

• Menschliche Eingabe
• Kanonischer Unternehmensdatensatz
• Externe Quelle
• Schlussfolgerung des Modells
• Früheres Gespräch
• Schätzung
• Messung

Diese Quellen verdienen nicht dasselbe Vertrauen. Eine Schlussfolgerung darf nicht als Tatsache gespeichert werden. Eine Schätzung darf nicht zum Preis- oder Befugniseintrag werden.

Regeln für den Umgang mit Unsicherheit

Eine agentenbereite Organisation legt fest, wie ihr System mit fehlenden Informationen umgeht.

Soll der Agent:

• schätzen,
• nachfragen,
• einen Entwurf erstellen,
• eine menschliche Freigabe anfordern,
• die Aufgabe stoppen?

Das Vorgehen kann von der Risikostufe abhängen. Bei einer formalen Entscheidung mit geringem Risiko kann eine ausdrücklich benannte, leicht korrigierbare Annahme vertretbar sein. Bei risikoreichen Fragen zu Preis, Identität, Einwilligung oder Zahlung ist sie es nicht.

Das Unsicherheitsbudget

Jeder Prozess kann ein gewisses Maß an Unsicherheit enthalten. Lässt sich aber eine kritische Voraussetzung der Handlung nicht bestätigen, kann Sicherheit in anderen Bereichen diese Lücke nicht ausgleichen.

Wir können dies als Unsicherheitsbudget bezeichnen.

Zum Beispiel:

• Bei der Gesprächszeit kann ein kleiner Spielraum bestehen.
• Die Identität des Gegenübers und die weiterzugebenden Daten dürfen dagegen nicht unklar sein.
• Der ungefähre Starttermin kann noch unbekannt sein.
• Ob ein Preis monatlich oder jährlich gilt, darf hingegen nicht offenbleiben.

Der Agent muss wissen, welche Unsicherheiten hinnehmbar sind.

Änderungsmanagement

Ändern sich die Fakten, mit denen Agenten arbeiten, muss das System aktualisiert werden.

Bei einer Preisänderung sind folgende Stellen gemeinsam zu prüfen:

• Webseite
• Leistungskatalog
• FAQ
• Schema
• Angebotsvorlage
• Informationsstand des Vertriebsagenten

Diese Angaben müssen zusammen betrachtet werden.

Dafür können wir eine Änderungsfolgenkarte anlegen. Schon bevor sich eine Tatsache ändert, sollte bekannt sein, welche Informationsflächen davon betroffen sein werden.

Kleine Änderung, große Wirkung auf das Handeln

Eine Leistung kann umbenannt werden. Das wirkt zunächst wie eine kleine redaktionelle Änderung.

Betroffen sein können jedoch:

• die Zuordnung durch Agenten,
• die Suchabsicht,
• der Preiskatalog,
• interne Verlinkungen,
• die Messkohorte,
• die Erwartungen der Nutzer.

Eine agentenbereite Organisation bewertet Änderungen deshalb nicht nur auf Dateiebene, sondern auch nach ihren Folgen für das Handeln.

Versionierung

Jeder wichtige Identitäts-, Fähigkeits-, Eignungs- und Befugniseintrag muss versioniert werden. Nach welcher Version hat der Agent gehandelt?

Bei einem Vorfall wird diese Frage entscheidend. Frühere Versionen müssen klar als nicht mehr aktiv erkennbar sein. Der erforderliche Prüfpfad ist mit festgelegten Aufbewahrungsfristen und Zugriffsgrenzen zu erhalten. Das bedeutet nicht, sämtliche personenbezogenen Daten unbegrenzt zu speichern.

Ohne Messung lässt sich Bereitschaft nicht belegen

Eine Organisation kann sich für agentenbereit erklären. Das tatsächliche Verhalten muss dennoch getestet werden.

Beispielszenarien:

• Wählt der Agent die richtige Leistung?
• Kann er einen ungeeigneten Kunden ablehnen?
• Fragt er bei unklarem Preis nach?
• Stoppt er einen unbefugten Versand?
• Weigert er sich, eine veraltete Rolle zu verwenden?
• Überschreitet er über einen Unteragenten seine Befugnisse?
• Kehrt er nach einem Fehler in einen sicheren Zustand zurück?
• Erstellt er einen Handlungsbeleg?

Die Tests dürfen nicht nur positive Fälle umfassen. Auch die Fähigkeit des Systems, „Nein“ zu sagen, muss gemessen werden.

Negativtests

Eine agentenbereite Organisation sollte etwa Folgendes testen:

Was geschieht, wenn ein Nutzer den Aufgabenumfang unklar lässt?

Welchen Preiseintrag wählt der Agent, wenn der veraltete auffälliger platziert ist?

Was geschieht, wenn ein unbefugter Mitarbeiter eine Zahlung anweist?

Wenn ein Unteragent weitergehenden Zugriff verlangt?

Wenn der Einwilligungsnachweis abgelaufen ist?

Wenn zwei Leistungen ähnlich heißen?

Wenn eine externe Quelle der kanonischen Quelle widerspricht?

Wenn der Wiederherstellungsweg nicht funktioniert?

Ein Negativtest soll das System nicht schlecht aussehen lassen. Er soll es auf die Wirklichkeit vorbereiten.

Schulden bei der Agentenbereitschaft

Eine Organisation kann sehr schnell mit dem Einsatz von Agenten beginnen.

Gleichzeitig können:

• Identitätseinträge verstreut,
• Fähigkeiten unklar,
• Befugnisse weitreichend,
• Protokolle lückenhaft,
• Wiederherstellungswege ungetestet sein.

Die Technik kommt voran, während die Steuerungsstrukturen zurückbleiben.

Hier können wir von Schulden bei der Agentenbereitschaft sprechen: von der Lücke zwischen der Handlungsmacht, die eine Organisation ihren Agenten gibt, und ihrer Fähigkeit, dieses Handeln sicher, richtig und überprüfbar zu steuern. Je größer diese Schulden werden, desto weiter reichen die Folgen eines kleinen Fehlers.

Woran sich diese Schulden erkennen lassen

Werden in einer Organisation häufig Sätze wie diese gesagt, können solche Schulden vorliegen: „Wir wissen nicht genau, worauf dieser Agent zugreift.“ „Manchmal sendet er selbst, manchmal hinterlässt er einen Entwurf.“ „Es ist nicht klar, aus welcher Datei er den Preis übernimmt.“ „Das Konto eines früheren Mitarbeiters könnte noch verbunden sein.“ „Bei einem Fehler schalten wir das System ab; ausprobiert haben wir das aber nie.“ „Die KI hat es gemacht. Mit welchem Werkzeug, wissen wir nicht.“ „Vielleicht sind Kundendaten an das Modell gegangen.“ „Zwei Agenten bearbeiten dieselbe Aufgabe.“ „Im Protokoll steht nicht, wer die Freigabe erteilt hat.“ Diese Aussagen belegen für sich genommen keine Katastrophe. Sie sind aber Warnzeichen.

Mehr Agenten in einer unvorbereiteten Organisation

Tritt ein Problem auf, kann eine Organisation als Lösung einen weiteren Agenten einsetzen. Der Vertriebsagent macht einen Fehler; ein Prüfagent kommt hinzu. Ein weiterer Agent fasst dessen Berichte zusammen. Schließlich wird ein zentraler Agent eingerichtet, der sie alle steuert. Die Zahl der Agenten wächst. Fehlen aber Fakten-, Befugnis- und Wiederherstellungsstruktur, nimmt vor allem die Komplexität zu.

Mehr Agenten sind kein Ersatz für fehlende Steuerungsstrukturen.

Manchmal ist es richtiger, das bestehende Handlungssystem zu vereinfachen, statt einen weiteren Agenten hinzuzufügen.

Nicht die Agentenzahl zählt, sondern stimmiges Handeln

Eine kleine Organisation mit zehn Agenten kann besser vorbereitet sein als eine große mit hundert.

Entscheidend ist:

• nicht, wie viele Agenten es gibt,
• sondern wie klar ihre Rollen sind,
• ob sie eine gemeinsame Faktengrundlage nutzen,
• ob die Befugniskette erhalten bleibt,
• ob ihre Ergebnisse überprüft werden.

Fünf Stufen der agentenbereiten Organisation

In diesem Buch schlage ich fünf Stufen der institutionellen Vorbereitung vor. Diese Skala ist weder eine Zertifizierung noch das Ergebnis einer externen Prüfung.

Stufe 1 — Angebunden

Agenten können auf einige Systeme zugreifen. E-Mail-, Datei-, Kalender- oder Webwerkzeuge sind verbunden. Befugnisse und Datengrenzen bleiben jedoch weitgehend unausgesprochen.

Stufe 2 — Definiert

Agentenrollen, Leistungen und grundlegende Arbeitsabläufe sind dokumentiert. Identitäten und Aufgaben sind klarer.

Stufe 3 — Vertraglich gefasst

Versionierte Identitäts-, Fähigkeits-, Eignungs-, Befugnis- und Wiederherstellungsverträge liegen vor.

Stufe 4 — Durchgesetzt

Technische Systeme setzen Befugnisgrenzen durch. Freigabeschwellen, Datenkontrollen und Handlungsbelege funktionieren.

Stufe 5 — Überprüfbar und lernend

Die Organisation misst Verhalten anhand realer Szenarien. Sie leitet aus Vorfällen Vertragsänderungen ab, überprüft Befugnisse regelmäßig und führt Wiederherstellungsübungen durch. GBO zielt nicht bloß darauf, auf Stufe 1 Verbindungen herzustellen. Das Ziel ist verantwortliches Handeln auf Stufe 5.

Irrtümer über Agentenbereitschaft

„Unsere Website ist hervorragend. Wir sind bereit.“

Eine gute Website kann Identität und Fähigkeiten besser darstellen. Allein schafft sie aber keine Befugnis-, Handlungs- und Wiederherstellungsstrukturen.

„Alle unsere Informationen liegen in der Cloud.“

Zugängliche Informationen sind nicht automatisch richtig, aktuell oder autoritativ.

„Das Modell ist sehr leistungsfähig.“

Modellleistung ersetzt keine fehlenden institutionellen Verträge.

„Ein Mensch kontrolliert doch schon alles.“

Was kontrolliert dieser Mensch, wann und mit welchen Informationen?

Bleibt das unklar, kann die Freigabe ein bloßes Ritual sein.

„Bei einem Fehler schalten wir ab.“

Wie?

Halten dann auch Unteragenten, geplante Aufgaben und externe Systeme an?

„Der Agent gibt nur Empfehlungen.“

In einem automatisierten Arbeitsablauf kann eine Empfehlung zur Grundlage einer Auswahl oder Handlung werden.

Eine agentenbereite Kundenschnittstelle

Auch die Schnittstelle, über die eine Organisation ihren externen Kunden begegnet, kann agentenbereit sein.

Ein Kunde oder sein Agent sollte verlässlichen Zugang zu folgenden Angaben haben:

• Organisationsidentität
• Leistungsumfang
• Art der Preisermittlung
• Erforderliche Eingaben
• Eignungsbedingungen
• Supportgrenzen
• Menschliche Kontaktstelle
• Einwilligung und Datennutzung
• Ablauf und Stornierung eines Vorgangs
• Stand der Informationen

Sind diese Angaben verstreut und widersprüchlich, kann der Kundenagent falsch handeln.

Agentenbereitschaft ist keine Manipulation

Eine Organisation kann sich so aufstellen, dass Agenten sie häufiger auswählen. Das kann leicht in Manipulation übergehen. GBO soll Signale nicht schöner erscheinen lassen, als sie sind.

Agentenbereitschaft bedeutet:

• Fakten klarzustellen,
• Grenzen sichtbar zu machen,
• die passende Auswahl zu erleichtern,
• die falsche Auswahl zu erschweren.

Darin liegt ihr Zweck.

Eine agentenbereite Organisation versucht nicht, unter allen Umständen als passende Wahl zu erscheinen. Unter den richtigen Bedingungen lässt sie sich mit gutem Grund auswählen.

Organisationsbeispiel: von verstreuten Strukturen zur Agentenbereitschaft

Betrachten wir ein fiktives Unternehmen für digitale Dienstleistungen. Der folgende Übergang veranschaulicht eine mögliche Umsetzung; er ist kein gemessenes Kundenergebnis.

Ausgangslage:

• Mehr als 40 Leistungen
• Mehrere Sprachen
• Unterschiedliche Preisformate
• Alte und neue Seiten
• Mehrere Agenten
• Automatisierungen für E-Mail, Web, soziale Medien und Kundengewinnung
• Verstreute Befugniseinträge

Fügt das Unternehmen lediglich einen weiteren Agenten hinzu, steigt das Risiko.

Die Umstellung kann in dieser Reihenfolge erfolgen:

1. Leistungsinventar

Tatsächliche Leistungen, Preise und Umfänge werden erfasst.

2. Kanonischer Datensatz

Für jede Leistung entsteht ein freigegebener Stammdatensatz, der Umfang und Preisermittlung festlegt.

3. Mehrsprachige Konsistenz

Jede Sprache wird natürlich formuliert und vermittelt dieselben Fakten.

4. Getrennte Agentenrollen

Agenten für Web, E-Mail, soziale Medien, SEO/GEO und Kundenrecherche erhalten getrennte Rollen.

5. Befugnisgrenzen

Recherche und externe Kommunikation werden getrennt, ebenso Entwurf und Veröffentlichung.

6. Qualitätsprüfungen

Build-, Semantik-, Browser-, Live-Hash- und Leistungstests werden eingerichtet.

7. Messprotokoll

Es wird festgehalten, welche Änderung wann veröffentlicht wurde und was gemessen werden soll.

8. Stabilisierung

Das System wird nicht ständig umgebaut; tatsächliche Ergebnisse müssen Zeit haben, sich zu zeigen. Neben der Arbeit an der Sichtbarkeit soll die Organisation durch diese Umstellung ihr eigenes Handeln besser steuern können. Suchsichtbarkeit und Zuwächse im Vertrieb müssen gesondert gemessen werden.

Ein praktischer Weg für die ersten neunzig Tage

Agentenbereitschaft entsteht nicht an einem Tag. Die folgenden drei Phasen sind ein Beispielplan, keine Terminzusage. Tests zur Überschreitung von Befugnissen und Wiederherstellungsübungen müssen im freigegebenen Rahmen und unter Bedingungen stattfinden, die echten Kunden keinen Schaden zufügen.

Tag 1–30 — Die Fakten ordnen

• Ein Agenteninventar erstellen.
• Identitäten und rechtliche Beziehungen festhalten.
• Widersprüche bei Leistungen, Preisen und Umfang finden.
• Kanonische Quellen bestimmen.
• Zugriffe mit hohem Risiko überprüfen.
• Veraltete und Schattenbefugnisse entziehen.
• Die verantwortliche Person für den Notstopp benennen.

Tag 31–60 — Handeln vertraglich fassen

• Fähigkeits- und Eignungseinträge erstellen.
• Agentenrollen trennen.
• Eine Befugnismatrix vorbereiten.
• Übergabepunkte an den Menschen festlegen.
• Einen Handlungsbeleg entwerfen.
• Sichtbare und maschinenlesbare Aufzeichnungen abgleichen.
• Wiederherstellungs- und Anfechtungsverfahren dokumentieren.

Tag 61–90 — Testen und Grenzen durchsetzen

• Positive und negative Szenarien durchspielen.
• Versuche zur Überschreitung von Befugnissen testen.
• Übergaben an Unteragenten prüfen.
• Eine Wiederherstellungsübung durchführen.
• Erklärbarkeit und Freigabe mit echten Nutzern testen.
• Unvollständige Verträge aktualisieren.
• Das System in einem begrenzten Produktivbetrieb beobachten.

Wie lange dies dauert, ist von Organisation zu Organisation verschieden. Entscheidend ist, dass die Steuerungsstrukturen vor der technischen Einrichtung und parallel zu ihr entstehen.

NOMOS Vertrag für agentenbereite Organisationen

Das zentrale Ergebnis dieses Kapitels ist der NOMOS Vertrag für agentenbereite Organisationen.

Seine kanonische Definition lautet:

Der NOMOS Vertrag für agentenbereite Organisationen ist ein versioniertes System institutionellen Handelns. Es stellt Menschen und Maschinen die Identitäten, kanonischen Fakten, Leistungen und Fähigkeiten, Eignungsbedingungen, Befugnisse von Menschen und Agenten, Datengrenzen, Handlungswege, Prüfverfahren, Vorfallverantwortung sowie Wiederherstellungs- und Abhilfemechanismen einer Organisation in konsistenter Form bereit.

Einfacher gesagt: Dieser Vertrag sorgt dafür, dass die Organisation Agenten nicht bloß Türen öffnet, sondern weiß, welche Tür wann und auf welcher Befugnisgrundlage geöffnet werden darf.

Prüftor für agentenbereite Organisationen

Bevor eine Organisation folgenreiche Agentenhandlungen zulässt, sollte sie folgende Prüftore passieren:

1. Faktentor

Sind die kanonischen Informationen, die dafür Verantwortlichen und ihre Versionen bekannt?

2. Identitätstor

Sind Marke, rechtliche Struktur und die Identitäten von Menschen und Agenten korrekt miteinander verknüpft?

3. Fähigkeitstor

Sind die tatsächlichen Leistungen, Eingaben, Umfänge und Nachweise klar?

4. Eignungstor

Ist festgelegt, wer unter welchen Umständen als geeignete Wahl gilt?

5. Befugnistor

Sind die Handlungsgrenzen von Menschen und Agenten eindeutig und durchsetzbar festgelegt?

6. Datentor

Welche Daten darf der Agent zu welchem Zweck verwenden?

7. Handlungstor

Sind Vorgangswege, Abschlussbedingungen und Belege definiert?

8. Überprüfungstor

Wird der Agent unabhängig von seiner eigenen Erfolgsaussage überprüft?

9. Wiederherstellungstor

Funktionieren Anhalten, Wiederherstellung, Anfechtung und Abhilfe?

10. Tor der menschlichen Verantwortung

Gibt es für jede kritische Handlung einen tatsächlich verantwortlichen Menschen?

Die folgende begriffliche Darstellung zeigt, wie diese Bedingungen gemeinsam betrachtet werden. Sie ist keine numerische Sicherheitsberechnung:

AGENTENBEREITE ORGANISATION =

KANONISCHE FAKTEN

UND RICHTIGE IDENTITÄT

UND KLARE FÄHIGKEIT

UND ÜBERPRÜFTE EIGNUNG

UND DURCHGESETZTE BEFUGNIS

UND BEGRENZTE DATEN

UND PROTOKOLLIERTE HANDLUNG

UND UNABHÄNGIGE ÜBERPRÜFUNG

UND GETESTETE WIEDERHERSTELLUNG

UND MENSCHLICHE VERANTWORTUNG

Eine Lücke muss nicht jeden Agenteneinsatz verhindern. Fehlt jedoch eine kritische Voraussetzung für eine bestimmte Handlung, darf diese nicht stattfinden. Wenn möglich, wird auf eine Aufgabe ausgewichen, für die eine Befugnis vorliegt und die ein geringeres Risiko birgt. Eine menschliche Freigabe macht einen verbotenen oder unbefugten Vorgang nicht von selbst zulässig.

Der Einsatz kann beispielsweise beschränkt werden auf:

• reine Recherche,
• reine Empfehlungen,
• reine Entwürfe,
• eine Testumgebung,
• Ausführung mit menschlicher Freigabe.

So lässt sich der Handlungsmodus begrenzen.

Agentenbereitschaft ist eine Befugnisstufe, kein Punktwert

Eine Organisation kann behaupten, zu 80 Prozent bereit zu sein.

Betreffen die fehlenden 20 Prozent aber kritische Bereiche wie:

• Zahlungsbefugnisse,
• Einwilligung in biometrische Verarbeitung,
• Datenwiederherstellung,
• rechtliche Identität,

bleiben folgenreiche Agentenhandlungen unsicher. Eine Gesamtbewertung kann nützlich sein, darf aber nicht allein entscheiden.

Solange ein kritisches Prüftor nicht passiert wurde, begründet eine Gesamtpunktzahl kein Handlungsrecht.

Wann kann eine Organisation dem Agenten mehr Freiraum geben?

Ein Agent kann selbstständiger arbeiten, wenn:

• das Ziel klar ist,
• die Fakten aus kanonischen Quellen stammen,
• Befugnisgrenzen technisch durchgesetzt werden,
• die Handlung rückgängig gemacht werden kann,
• der Erfolg unabhängig überprüfbar ist,
• die verantwortliche Stelle für Vorfälle feststeht,
• Übergabepunkte an den Menschen definiert sind,
• der Agent bei vergleichbaren Aufgaben bereits zuverlässig gearbeitet hat,
• die Aufgabe kein hohes Risiko aufweist.

Je besser diese Bedingungen erfüllt sind, desto weniger muss ein Mensch jeden kleinen Schritt einzeln freigeben.

Gute Steuerungsstrukturen kosten an manchen Stellen Zeit. Dafür können Aufgaben mit vorab geprüften Grenzen ohne ständige neue Freigabeanfragen weiterlaufen.

Der geschäftliche Wert einer agentenbereiten Organisation

Diese Umstellung dient nicht nur der Sicherheit.

Die folgenden geschäftlichen Vorteile werden erwartet. Ob sie tatsächlich eintreten, muss anhand der Ausgangsmessungen geprüft werden:

• Leistungen werden verständlicher.
• Unpassende Kundenanfragen nehmen ab.
• Vertriebsgespräche kommen schneller voran.
• Streitigkeiten über Preis und Leistungsumfang werden seltener.
• In verschiedenen Sprachen bleiben dieselben Fakten erhalten.
• Übergaben zwischen Mitarbeitern und Agenten werden leichter.
• Fehler werden früher erkannt.
• Das Vertrauen der Kunden wächst.
• Mehr Prozesse lassen sich kontrolliert automatisieren.
• Organisationswissen wird weniger von einzelnen Personen abhängig.

Agentenbereitschaft bereitet nicht nur auf künftige Technik vor. Sie verringert die Unordnung, die eine Organisation heute belastet.

Wer nicht auf Menschen vorbereitet ist, ist es auch nicht auf Agenten

Beschreiben schon menschliche Mitarbeiter dieselbe Leistung unterschiedlich, kann man von Agenten keine richtige Darstellung erwarten. Wissen Mitarbeiter nicht, wer welche Befugnis hat, können Agenten es ebenfalls nicht wissen. Findet ein Kunde keinen Menschen für seinen Einwand, bleibt auch ein KI-Anfechtungssystem ohne echte Grundlage. Agentenbereitschaft bedeutet deshalb häufig zunächst, Menschen gegenüber als Organisation klarer und offener zu werden.

Klarheit für Maschinen ersetzt keine Klarheit für Menschen. Sie setzt sie voraus.

Fünfundzwanzig Prüffragen für eine agentenbereite Organisation

• Was ist die kanonische Identität der Organisation?
• Ist die Beziehung zwischen Marke und rechtlichem Betreiber eindeutig?
• Sind alle aktiven Agenten im Inventar erfasst?
• Ist für jeden Agenten ein verantwortlicher Mensch benannt?
• Sind die angebundenen Systeme und Daten bekannt?
• Gibt es für jede wichtige Informationsart eine kanonische Quelle?
• Stimmen Preis-, Umfangs- und Leistungseinträge überein?
• Sind alte oder widerrufene Datensätze von den aktuellen getrennt?
• Sind tatsächliches Ergebnis und erforderliche Eingaben jeder Leistung klar?
• Sind eingeschlossene und ausgeschlossene Leistungen sichtbar?
• Sind Bedingungen für geeignete und ungeeignete Kunden definiert?
• Sind Kapazität und Verfügbarkeit aktuell?
• Sind menschliche und Agentenbefugnisse nach Handlungsart getrennt?
• Sind Entwurf, Versand, Veröffentlichung und verbindliche Zusage getrennte Befugnisse?
• Sind die Übergabepunkte an den Menschen bekannt?
• Werden Befugnisgrenzen technisch durchgesetzt?
• Greift der Agent nur auf erforderliche Daten zu?
• Ist sein Vorgehen bei Unsicherheit festgelegt?
• Entsteht für jede wichtige Handlung ein Beleg?
• Wird technischer Erfolg vom tatsächlichen Ergebnis unterschieden?
• Gibt es eine unabhängige Überprüfung?
• Sind ein letzter sicherer Zustand und ein Wiederherstellungsweg vorhanden?
• Können Unteragenten und geplante Aufgaben gemeinsam angehalten werden?
• Haben Menschen einen klaren Weg zu Anfechtung und Abhilfe?
• Wird der Verhaltensvertrag nach Vorfällen überprüft und bei Bedarf aktualisiert?

Kann die Organisation die meisten dieser Fragen nicht beantworten, sind ihre Schulden bei der Agentenbereitschaft hoch.

Das Urteil dieses Kapitels

Agentenbereitschaft bedeutet nicht, ein KI-System mit einem Unternehmen zu verbinden.

Sie bedeutet:

die Fakten der Organisation zu ordnen, Identitätsbeziehungen zu klären, Fähigkeiten und Grenzen zu erläutern, Bedingungen für passende Zuordnungen offenzulegen, menschliche und Agentenbefugnisse zu trennen, Daten auf ihren Zweck zu begrenzen, Handlungen aufzuzeichnen, Erfolge unabhängig zu prüfen, bei Fehlern anzuhalten und geordnet wieder handlungsfähig zu werden.

Unterlässt eine Organisation dies und gibt leistungsfähigen Agenten weitreichende Befugnisse, kann sie das bestehende Durcheinander beschleunigen.

Ohne eine tragfähige Organisationsstruktur kann ein Agent:

• einen falschen Preis schneller verbreiten,
• einen ungeeigneten Kunden schneller auswählen,
• eine unbefugte Nachricht professioneller formulieren,
• widersprüchliche Informationen konsistenter in sechs Sprachen übersetzen,
• eine fehlerhafte Entscheidung gleichzeitig in viele Systeme übertragen.

Agentenleistung allein ist keine Reife.

Institutionelle Reife bemisst sich nicht daran, wie viel ein Agent tun kann. Sie zeigt sich darin, dass bekannt ist, was er wann, mit welcher Befugnis und auf welcher Nachweisgrundlage tun darf.

Eine agentenbereite Organisation schafft den Menschen nicht ab. Sie macht seine Rolle deutlicher. Der Mensch setzt das Ziel, bestimmt Werte und Risikogrenzen. Der Agent recherchiert, erarbeitet Ergebnisse, testet und handelt innerhalb dieser Grenzen. An kritischen Schwellen übernimmt wieder der Mensch. Bei einem Fehler verschwindet die Verantwortung nicht. Maschinenhandlungen sind protokolliert. Menschen können Einwände erheben. Wo eine Rücknahme möglich ist, wird sie ausgeführt; andernfalls greifen Maßnahmen zum Anhalten und zur Abhilfe.

Die eigentliche Definition einer agentenbereiten Organisation lautet daher: nicht eine Organisation, in der Maschinen mehr arbeiten, sondern eine, in der Menschen und Maschinen gemeinsam handeln können, ohne dass ihre Verantwortlichkeiten durcheinandergeraten.

Doch so gut sich eine Organisation auch vorbereitet, die nächste Frage bleibt offen:

Wie messen wir, ob dieses System tatsächlich richtig handelt?

Wie oft ein Agent eine Marke auswählt, reicht als Maßstab nicht aus. Auch die Zahl abgeschlossener Vorgänge genügt nicht. Geschwindigkeit, Menge und Automatisierung belegen für sich genommen keine Qualität. Im nächsten Kapitel wenden wir uns dem Messsystem von GBO zu.

Wie messen wir qualifiziertes Handeln?

Gutes Handeln ist:

• nicht bloß eine Handlung,
• nicht bloß Erfolg,
• nicht bloß Nutzerzufriedenheit.

Gutes Handeln verbindet die richtige Auswahl unter den richtigen Bedingungen mit gültiger Befugnis, ausreichenden Nachweisen, sicherer Ausführung und verantwortlicher Wiederherstellung.

Verhalten, das wir nicht messen, können wir nicht steuern. Verhalten, das wir falsch messen, können wir auf gefährlichere Weise ausweiten.