Wenn eine Antwort zur Handlung wird

Stellen wir uns vor, ein KI-System erhält die Bitte: „Finde für morgen Abend ein ruhiges Restaurant für zwei Personen in Istanbul.“ Es recherchiert mehrere Möglichkeiten und vergleicht Lage, Speisekarten, Preise und Bewertungen.

Dann antwortet es: „Ich habe drei passende Restaurants gefunden. Das zweite scheint Ihren Wünschen hinsichtlich Lage, Lautstärke und Budget am nächsten zu kommen.“ Das ist eine Antwort. Das System hat die Optionen bewertet und dem Nutzer Informationen gegeben. Dieser kann die Empfehlung annehmen, ablehnen oder nach Alternativen fragen.

Nun sagt dasselbe System: „Ich habe im zweiten Restaurant für morgen um 20 Uhr reserviert.“ Ist die Reservierung tatsächlich erfolgt, hat das System nicht nur geantwortet, sondern einen Zustand in einem externen System verändert. „Ich habe reserviert“ beweist allein noch nicht, dass der Vorgang stattgefunden hat; die Buchung muss gesondert überprüft werden. Ein Tisch ist reserviert. Die Reservierungskapazität des Restaurants hat sich verändert. Vielleicht wurden Name oder Kontaktdaten des Nutzers weitergegeben. Vielleicht gelten nun Stornobedingungen. Möglicherweise wurde eine Kreditkarte verwendet oder eine Anzahlung eingezogen.

Vielleicht wurde für einen unerwünschten Tag, in der falschen Filiale oder an einem ungeeigneten Tisch gebucht. Im Satz haben sich nur wenige Wörter geändert. Ist auch der Vorgang erfolgt, kommt eine neue Dimension der Verantwortung hinzu.

Zwischen „gefunden“ und „erledigt“ beginnt ein neues Zeitalter.

Genau zwischen diesen beiden Wörtern liegt das eigentliche Feld von GBO.

Antwort und Handlung sind nicht dasselbe

Wenn ein KI-System Informationen erzeugt, beschreibt es die Welt. Wenn es handelt, verändert es die Welt. Die Unterscheidung wirkt zunächst einfach. Mit der Entwicklung agentenbasierter Systeme verschwimmt die Grenze jedoch zunehmend. Ist das Erstellen eines Entwurfs eine Antwort oder eine Handlung?

Wie ist es einzuordnen, ein Formular auszufüllen, ohne es abzuschicken?

Ist das Hinzufügen eines Produkts zum Warenkorb schon eine Transaktion?

Ist das Erstellen einer Termineinladung lediglich ein Vorschlag?

Wie ist das Bearbeiten einer Datei ohne Veröffentlichung zu bewerten?

Was unterscheidet das Vorbereiten einer E-Mail vom Versenden?

Ist eine Angebotsanfrage im Namen eines Unternehmens eine unverbindliche Informationsanfrage oder bereits der Beginn einer Geschäftsbeziehung?

Verändert das Einplanen eines noch nicht veröffentlichten Social-Media-Beitrags die Welt?

Diese Fragen lassen sich nicht pauschal mit Ja oder Nein beantworten. Handeln ist kein binärer Schalter. Es ist eine Leiter. Mit jeder Stufe rückt das System näher an die Welt heran. Auf höheren Stufen nehmen Bindung und Dauerhaftigkeit meist zu. Doch die ersten Stufen sind nicht von selbst risikofrei: Schon das Lesen von Daten kann die Privatsphäre berühren. GBO fragt deshalb nicht nur: „Liegt eine Handlung vor?“

Es fragt auch:

Auf welcher Stufe befindet sich die Handlung? Wen betrifft sie? Wie weit lässt sie sich rückgängig machen? Auf welcher Befugnis beruht sie? Welche Folgen kann sie haben?

Die Handlungsleiter

Zur Untersuchung von Agentenverhalten schlage ich ein Modell mit sieben Stufen vor. Sie bilden keine zwingende, lückenlose Reihenfolge; ein einzelner Vorgang kann mehrere Stufen zugleich umfassen. Das Modell soll Unterschiede in Befugnis und Wirkung sichtbar machen.

1. Beobachtung

Das System sammelt Informationen. Es liest Seiten, prüft Dateien, vergleicht Preise und schaut in den Kalender. Eine neue Verpflichtung gegenüber der Außenwelt entsteht noch nicht. Risiken sind hier das Vertrauen in falsche Quellen, unbefugter Informationszugriff und die Offenlegung von Daten durch die Abfrage. Auch ein Lesezugriff kann Spuren wie einen Zugriffsprotokolleintrag hinterlassen. „Beobachtung“ bedeutet nicht, dass keinerlei Außenwirkung besteht.

2. Interpretation

Das System deutet die gesammelten Informationen. Es hält eine Leistung für geeignet, stuft eine E-Mail als dringend ein, erkennt ein technisches Seitenproblem oder beurteilt, ob ein Kandidat bestimmte Bedingungen erfüllt. Bleibt die Interpretation allein im Arbeitskontext des Systems, wurde noch kein neuer externer Vorgang ausgeführt. Wird die Bewertung dagegen in einer Datei, einem Profil oder einer Entscheidungsakte gespeichert, ändert sich der Systemzustand.

3. Empfehlung

Das System legt dem Nutzer eine Möglichkeit vor. „Dieser Anbieter scheint besser geeignet.“ „Diese Datei muss aktualisiert werden.“ „Es könnte sinnvoller sein, dieser Person morgen zu antworten.“ Der Mensch steht noch ausdrücklich im Mittelpunkt der Entscheidungskette.

4. Vorbereitung

Das System entwirft die Handlung. Es schreibt die E-Mail, füllt das Formular aus, bereitet eine Codeänderung vor, erstellt einen Einladungsentwurf oder stellt einen Warenkorb zusammen. Der beabsichtigte Vorgang ist noch nicht abgeschlossen. Doch auch dabei kann sich ein Zustand ändern: Ein Formular speichert automatisch, ein Entwurf gelangt in die Cloud oder ein Warenkorb reserviert Bestand. Personenbezogene Daten, vertrauliche Informationen oder ein falsches Versprechen im Entwurf sind weitere Risiken. Vorbereitung ist deshalb kein kontrollfreier Raum.

5. Ausführung

Das System führt den Vorgang aus. Es versendet die E-Mail, ändert die Datei, reserviert, übermittelt das Formular, veröffentlicht die Codeversion oder verschickt die Termineinladung. Hier geht es nicht mehr bloß um eine Empfehlung. Die Außenwelt hat sich verändert.

6. Bindung

Die Handlung erzeugt rechtliche, wirtschaftliche, institutionelle oder reputationsbezogene Folgen. Eine Zahlung erfolgt. Ein Vertrag wird angenommen. Eine Bestellung wird verbindlich. Im Namen eines Unternehmens wird eine öffentliche Erklärung veröffentlicht. Einem Kunden wird ein Liefertermin zugesagt. Ein Bewerber erhält ein Stellenangebot oder eine Absage. Das System erledigt nicht nur eine Aufgabe; es geht im Namen einer Person oder Organisation eine Bindung ein.

7. Verstetigung

Der Vorgang greift auf andere Systeme, Aufzeichnungen oder menschliche Beziehungen über. Auf die Nachricht folgt eine Antwort. Vom Beitrag entstehen Screenshots. Eine Zahlung geht in die Buchhaltung ein. Ein Vertrag beeinflusst die Pläne anderer Parteien. Ein Softwareupdate verändert Nutzerdaten. Eine Falschinformation wird von weiteren Systemen kopiert. Rückgängigmachen ist nun womöglich nicht mehr mit einem Knopfdruck möglich.

Warum ist die Handlungsleiter wichtig?

Weil ein Nutzer den Agenten für eine Stufe ermächtigen kann, während das System darin die Erlaubnis für eine höhere Stufe sieht.

Der Nutzer sagt: „Recherchiere potenzielle Kunden.“

Der Agent könnte daraus machen: „Finde potenzielle Kunden, ermittle Kontaktdaten, verfasse eine E-Mail und versende sie.“ Das sind jedoch unterschiedliche Aufgaben. Recherche gehört zu Beobachtung und Interpretation. Der E-Mail-Entwurf ist Vorbereitung. Das Versenden ist Ausführung. Preis- oder Leistungszusagen im Namen des Unternehmens sind Bindung. Antwortet der Empfänger, beginnt eine reale Geschäftsbeziehung; das Verhalten verstetigt sich. Ein einziger Aufgabensatz kann mehrere Handlungen nahelegen, für die unterschiedliche Befugnisse nötig sind. GBO beurteilt die Aufgabe deshalb nicht nur anhand des natürlichsprachlichen Verbs. Es legt ausdrücklich fest, bis zu welcher Stufe die Erlaubnis reicht.

„Recherchiere“ ist keine Versanderlaubnis.

„Bereite vor“ ist keine Veröffentlichungserlaubnis.

„Finde“ ist keine Erlaubnis zur Kontaktaufnahme.

„Behebe“ ist keine Freigabe für den Produktivbetrieb.

„Plane“ ist keine Ausgabenbefugnis.

Das sind keine nebensächlichen Unterschiede. Es sind grundlegende Governance-Grenzen des Agentenzeitalters.

Kleine Bewegungen, die die Welt verändern

Manche digitalen Handgriffe erscheinen einem Menschen unbedeutend: eine Schaltfläche anklicken, einen Link verschicken, einen Kalendereintrag anlegen, eine Datei umbenennen oder ein Kästchen markieren. In digitalen Systemen kann eine kleine Bewegung jedoch eine große Folge von Vorgängen auslösen.

Ein Knopf kann:

• E-Mails an Hunderte Kunden senden,
• eine komplette Website veröffentlichen,
• eine Zahlung auslösen,
• Tausende Dateien löschen,
• eine öffentliche Erklärung erstellen,
• einem Mitarbeiter den Zugang sperren
• oder personenbezogene Daten in ein anderes System übertragen.

Eine körperlich kleine Handlung hat nicht zwangsläufig eine kleine Wirkung. GBO misst Handlungen deshalb nicht am menschlichen Aufwand, sondern an der Veränderung außerhalb des Systems. Stapelverarbeitung kann geeignete Arbeiten effizienter machen. Dieselbe Fähigkeit kann auch einen unbemerkten Fehler auf viele Ziele verteilen. Ein Mensch sendet vielleicht eine falsche E-Mail an eine Person; ein Agent vervielfacht denselben Fehler auf tausend Empfänger. Ein Mensch trägt auf einer Seite einen falschen Preis ein; ein Agent verbreitet ihn über alle Sprachen, strukturierte Daten, Kataloge und Plattformen. Ein Mensch macht einem Kunden eine falsche Zusage.

Ein Agent kann diese Zusage mit automatischen Vertrags-, Kalender- und Abrechnungssystemen verbinden. Automatisierung beschleunigt nicht nur richtiges Verhalten. Sie beschleunigt auch falsches.

Skalierung ersetzt keine Richtigkeit. Sie vergrößert lediglich die Folgen.

Ein Agent kann richtig denken und falsch handeln

Ein richtiges Weltverständnis macht das Verhalten eines Systems nicht automatisch richtig. Ein Agent kann den passenden Anbieter finden, den Preis korrekt lesen und den Nutzerbedarf richtig verstehen — und dennoch ohne Freigabe ein Angebot anfordern. Ein E-Mail-Agent kann die Dringlichkeit einer Nachricht richtig erkennen und eine ausgezeichnete Antwort verfassen, ohne sie unmittelbar im Namen der Organisation versenden zu dürfen. Ein Coding-Agent kann den Fehler finden, richtig beheben und sämtliche Tests bestehen, ohne die Befugnis zur Veröffentlichung in der Produktionsumgebung zu besitzen.

Ein Einkaufsagent kann die günstigere Option samt langfristiger Vertragsbindung richtig erkennen, ohne diese Bindung im Namen des Nutzers eingehen zu dürfen. Das Scheitern beruht hier nicht auf fehlendem Wissen, sondern auf fehlender Übereinstimmung zwischen Befugnis und Verhalten. Deshalb ist Richtigkeit bei GBO nicht die einzige Erfolgsbedingung.

Eine Handlung muss sich gleichzeitig an diesen Fragen messen lassen:

Ist sie richtig? Ist sie geeignet? Liegt die nötige Befugnis vor? Ist sie sicher? Sind die Grenzen von Stopp, Rückgängigmachung und Abhilfe bekannt? Wurde sie protokolliert?

Eine Handlung kann richtig, aber nicht autorisiert sein. Autorisiert, aber unsicher. Sicher, aber mit dem Nutzerziel unvereinbar. Sie kann zum Ziel passen und trotzdem unumkehrbar sein. GBO ersetzt keine dieser Dimensionen durch eine andere.

Der Verhaltensübergabepunkt

Den Moment, in dem ein Agent von der Antwort zur Handlung übergeht, können wir Verhaltensübergabepunkt nennen. Hier wird aus Analyse oder Entwurf eine Zustandsänderung, die eine gesonderte Prüfung von Befugnis und Wirkung erfordert. Eine Aufgabe kann mehrere solche Punkte enthalten. Ihre Lage unterscheidet sich von Aufgabe zu Aufgabe.

Bei einer E-Mail: der Moment, in dem „Senden“ gedrückt wird.

Bei einer Softwareaufgabe:

Der Moment der Dateiänderung. Soll sie in den Produktivbetrieb übernommen werden, ist die Veröffentlichung ein eigener Übergabepunkt.

Bei einem Einkauf:

Der Moment, in dem Bestellung oder Zahlung bestätigt werden.

Bei einer Social-Media-Aufgabe:

Der Moment der Veröffentlichung. Wird ein automatischer Beitrag eingeplant, bildet schon der Eintrag, der diesen Ablauf startet, eine weitere Schwelle.

Bei einer Datenaufgabe:

Der Moment, in dem Informationen an ein Drittsystem übertragen werden.

Bei einer Personalaufgabe:

Der Moment, in dem ein Bewerber eine Entscheidung oder ein Angebot erhält. Auf beiden Seiten der Grenze liegen andere Vorgänge und Wirkungen. Die Bezeichnung Entwurf, Analyse oder Empfehlung beseitigt eine Zustandsänderung im Hintergrund nicht. Ein gutes GBO-System überlässt den Verhaltensübergabepunkt nicht dem Zufall. Es markiert ihn ausdrücklich.

Bis hierher darf der Agent selbstständig vorgehen. Ab hier ist menschliche Freigabe erforderlich.

Diese Grenze kann sich je nach Aufgabe verschieben. Eine risikoarme Kalendererinnerung kann automatisch erstellt werden. Für Einladungen an andere Personen kann dagegen eine Freigabe nötig sein. Eine Codekorrektur kann automatisch in eine getrennte Testumgebung gelangen, während der Produktivstart von menschlicher Freigabe abhängen kann. Ein E-Mail-Entwurf kann automatisch entstehen, sein Versand nach außen aber ausdrückliche Zustimmung verlangen. Ein Warenkorb kann automatisch vorbereitet werden; die Zahlung kann dem Menschen zur Genehmigung vorbehalten bleiben. Der Verhaltensübergabepunkt ist eine der wichtigsten Grenzen zwischen Mensch und Agent.

Eine einmalige Erlaubnis gilt nicht unbegrenzt

Eine mögliche Gefahr in Agentensystemen besteht darin, eine frühere Erlaubnis für alle ähnlichen künftigen Handlungen gelten zu lassen.

Ein Nutzer hat vielleicht einmal gesagt: „Sende diese E-Mail.“ Damit hat er nicht erlaubt, später sämtliche E-Mails an dieselbe Person automatisch zu versenden. Jemand hat der Nutzung seines Gesichts in einem bestimmten Werbevideo zugestimmt. Damit ist nicht jede Verwendung in allen Sprachen, Szenarien und für unbegrenzte Zeit erlaubt. Ein Unternehmen hat ein Werbebudget für eine bestimmte Kampagne genehmigt. Der Agent darf denselben Betrag deshalb nicht nach eigenem Ermessen für andere Kampagnen ausgeben. Ein Kunde hat vielleicht die Veröffentlichung einer technischen Korrektur auf seiner Website erlaubt.

Das berechtigt nicht zu automatischen Änderungen an Preisen, Rechtstexten oder Markenpositionierung.

Erlaubnis bleibt immer an ihren Kontext gebunden:

• Handlung
• Zweck
• Umfang
• Dauer
• Quelle
• Ziel
• Risiko
• Widerrufsbedingung

Ändert sich eines dieser Elemente, kann die frühere Erlaubnis erneut geprüft werden müssen.

Ein Grundsatz von GBO lautet: Befugnis ist kontextabhängig. „Das war früher schon erlaubt“ darf einem System allein nicht genügen. Für welche Handlung?

An welchem Tag?

Im Namen welcher Person?

Innerhalb welcher Grenzen?

Mit welchen Daten?

Bis zu welchem Ergebnis?

Bleiben diese Fragen offen, darf Befugnis nicht vorausgesetzt werden.

Der Unterschied zwischen Zweck und Methode

Ein Nutzer kann einem Agenten ein Ziel geben: „Finde neue Kunden.“ Das legitimiert aber nicht automatisch sämtliche Methoden, mit denen sich dieses Ziel erreichen ließe.

Der Agent kann:

• öffentlich zugängliche Quellen recherchieren,
• Branchenlisten prüfen,
• geeignete Unternehmen einordnen
• und Entwürfe für die Kontaktaufnahme erstellen.

Er könnte jedoch auch:

• unerlaubt personenbezogene Daten sammeln,
• Massen-E-Mails versenden,
• unter falscher Identität Kontakt aufnehmen,
• im Namen des Unternehmens Preise zusagen
• oder Nutzungsbedingungen anderer Plattformen verletzen.

Der Zweck kann richtig sein, die Methode falsch.

Ähnlich könnte ein Nutzer sagen: „Mache die Website zu einer der stärksten GEO-Quellen weltweit.“

Dieses Ziel kann für Methoden wie diese sprechen:

• inhaltliche Vertiefung,
• technische Überprüfung,
• mehrsprachige Lokalisierung,
• strukturierte Daten,
• höhere Quellenqualität
• sowie Leistung und Messung.

Solche Methoden können dem Ziel dienen.

Dasselbe Ziel rechtfertigt aber keine:

• gefälschten Bewertungen,
• künstlichen Linknetzwerke,
• Verunglimpfung von Wettbewerbern,
• irreführenden Überlegenheitsbehauptungen,
• versteckte Keyword-Anhäufung
• oder unerlaubte Eröffnung von Konten auf externen Plattformen.

GBO legt nicht nur das Ziel fest, sondern auch, welche Verhaltensweisen auf dem Weg dorthin zulässig sind.

Ein guter Zweck rechtfertigt keine schlechte Methode.

Ein Verhaltensvertrag enthält deshalb zwei getrennte Dinge:

• Das angestrebte Ergebnis
• Erlaubte und verbotene Methoden

Der Agent muss nicht nur wissen, wohin er soll, sondern auch, welche Wege er nicht nehmen darf.

Aufgabenerweiterung

Bei länger laufenden Agenten entsteht ein weiteres Risiko:

Aufgabenerweiterung

Das System entdeckt neue Teilaufgaben, um das Hauptziel zu erreichen. Das ist oft hilfreich. Beim Optimieren einer Website fallen ihm fehlende Sprachseiten auf. Beim Bearbeiten einer Leistungsbeschreibung erkennt es einen Widerspruch im Preiskatalog. Während einer Veröffentlichung entdeckt es einen Sitemap-Fehler. Bei der Recherche zu einem Kunden bemerkt es veraltete Kontaktdaten. Ein guter Agent kann zusammenhängende Probleme erkennen, die für das Ziel wichtig sind, statt nur an einem kleinen Einzelbefehl festzuhalten. Doch auch Aufgabenerweiterung braucht eine Grenze.

Wenn ein Agent zunächst Inhalte bearbeitet und dann beginnt,

• DNS-Einträge zu ändern,
• neue Konten im Namen des Unternehmens zu eröffnen,
• kostenpflichtige Dienste zu kaufen,
• Kunden Nachrichten zu senden
• oder Rechtstexte neu zu schreiben,

wächst der Abstand zwischen Ziel und Befugnis.

Aufgabenerweiterung lässt sich in drei Arten unterteilen:

Notwendige Erweiterung

Arbeiten, ohne die sich die Hauptaufgabe nicht abschließen lässt. Etwa das Aktualisieren der Sitemap nach dem Anlegen einer neuen Seite.

Unterstützende Erweiterung

Arbeiten, die das Hauptziel stärken, sich aber getrennt beurteilen lassen. Etwa der Entwurf eines Social-Media-Beitrags zur neuen Seite.

Befugniserweiterung

Der Agent setzt neue Entscheidungs- oder Ausführungsrechte voraus, die ihm nicht erteilt wurden. Zum Beispiel veröffentlicht er den Beitragsentwurf im Namen des Unternehmens. Auch notwendige und unterstützende Erweiterungen müssen innerhalb der ursprünglichen Befugnis bleiben. Überschreitet ein notwendiger Schritt die Grenzen für Zugriff, Kosten oder Außenwirkung, muss der Agent anhalten. Eine Erweiterung der Befugnis hängt von der ausdrücklichen Entscheidung einer Person ab, die sie erteilen darf.

Die Aufgabe darf wachsen. Die Befugnis darf nicht von selbst mitwachsen.

Große Folgen scheinbar risikoarmer Handlungen

Manche Handlungen erscheinen zunächst umkehrbar. Ein Social-Media-Beitrag lässt sich löschen, eine E-Mail nachträglich korrigieren, eine Reservierung stornieren und eine Datei auf eine ältere Version zurücksetzen. Doch selbst bei technisch möglicher Rücknahme verschwinden soziale oder wirtschaftliche Folgen nicht unbedingt vollständig. Die E-Mail wurde gelesen. Vom gelöschten Beitrag existiert ein Screenshot. Die stornierte Reservierung hat die Kapazität des Betriebs beeinflusst. Die zurückgesetzte Codeänderung hat einen kurzen Ausfall verursacht. Ein Kunde, der einen falschen Preis gesehen hat, hat eine Erwartung entwickelt.

Rückgängigmachung lässt sich deshalb nicht allein an der Frage messen: „Gibt es einen Knopf, der den alten Zustand wiederherstellt?“

Drei Arten der Rückgängigmachung müssen unterschieden werden:

Technische Rücksetzung

Kann das System zu einer früheren Version zurückkehren?

Geschäftliche Rückabwicklung

Lassen sich Zahlung, Vertrag oder Lieferpflicht aufheben?

Wiedergutmachung auf menschlicher Ebene

Lassen sich die Folgen für Ruf, Vertrauen, Privatsphäre oder Beziehungen tatsächlich beheben?

Eine Softwareversion kann technisch zurückgesetzt werden. Sind Daten verloren gegangen, können menschliche und geschäftliche Folgen dennoch fortbestehen. Ein KI-Avatar-Video lässt sich löschen, doch Gesicht und Stimme der Person könnten längst anderswo kopiert worden sein. In manchen Umgebungen lassen sich Nachrichten zurückrufen; das funktioniert nicht bei allen Empfängern und in jeder Situation. Wurde die Nachricht gelesen, sind Wissen oder Eindruck des Empfängers damit nicht zurückgerufen. GBO versteht Rückgängigmachung deshalb nicht nur als technischen Rollback. Ob Abhilfe möglich ist, muss auf allen Wirkungsebenen geprüft werden.

Der Handlungsrahmen

Für jeden Agenten lässt sich ein Rahmen festlegen:

Der Handlungsrahmen

Er beschreibt die Grenzen, innerhalb deren der Agent bei einer bestimmten Aufgabe selbstständig handeln darf.

Dieser Rahmen umfasst:

• Systeme, auf die er zugreifen darf
• Daten, die er verwenden darf
• Vorgänge, die er ausführen darf
• Beträge, die er ausgeben darf
• Personen, die er kontaktieren darf
• Dateien, die er ändern darf
• Zeiträume, in denen er arbeiten darf
• Das zulässige Risikoniveau
• Schwellen, die menschliche Freigabe erfordern
• Das Verfahren zur Rückgängigmachung

Der Handlungsrahmen eines E-Mail-Agenten könnte beispielsweise so aussehen:

Er darf eingehende Nachrichten lesen. Er darf sie priorisieren. Er darf Entwürfe vorbereiten. Er darf bestimmten internen Adressen automatisch antworten. Er darf Nachrichten nach außen nicht ohne menschliche Freigabe versenden. Nachrichten mit Preisen, rechtlichen Zusagen oder Lieferterminen darf er unter keinen Umständen automatisch versenden.

Der Handlungsrahmen eines Webagenten:

Er darf Dateien in einer Testumgebung ändern. Er darf Builds und Tests ausführen. Er darf kleine, rückgängig zu machende Korrekturen in einem bestimmten Branch vornehmen. Produktivveröffentlichungen und Änderungen an DNS, Zahlungen, Rechtstexten oder Preisen benötigen menschliche Freigabe.

Der Handlungsrahmen eines Einkaufsagenten:

Er darf Produkte recherchieren. Er darf sie vergleichen. Er darf einen Warenkorb vorbereiten. Er darf unterhalb eines festgelegten Betrags in vorab genehmigten Kategorien einkaufen. Bei Abonnements, automatischer Verlängerung oder hohen Beträgen holt er menschliche Freigabe ein.

Diese Grenzen machen den Agenten nicht „schwächer“, sondern verlässlich. Der Mensch weiß, wie weit das System gehen darf. Der Agent muss nicht erraten, wann er anhalten soll.

Was ist ein Verhaltensauslöser?

Im Marketing bezeichnet „Trigger“ häufig einen psychologischen Reiz, der Menschen zum Handeln bringt. GBO verwendet den Begriff anders. Ein Verhaltensauslöser ist keine verborgene Überzeugungstechnik, die einen Agenten zur Wahl einer Marke bewegt.

Gemeint ist die Gesamtheit überprüfter Bedingungen, die ein Agent erfüllen muss, bevor er in eine bestimmte Verhaltensstufe übergeht.

Für den Versand einer Angebotsanfrage könnten etwa diese Bedingungen gelten:

• Das Nutzerziel ist klar.
• Die Leistung des Anbieters passt.
• Der Preis ist angemessen oder passt in nachvollziehbarer Weise zum Budget.
• Die Kontaktdaten sind geprüft.
• Die Weitergabe der betreffenden Daten ist erlaubt.
• Die Anfrage begründet keine verbindliche Verpflichtung.
• Der Nutzer hat den Versand genehmigt.
• Eine Aufzeichnung und eine Möglichkeit zum Zurückziehen der Anfrage sind vorgesehen.

Sind diese Bedingungen erfüllt, kann die Handlung ausgelöst werden.

Fehlen Bedingungen, muss der Agent eine niedrigere Verhaltensstufe wählen:

• Informationen anfordern,
• einen Entwurf vorbereiten,
• an einen Menschen übergeben
• oder den Vorgang anhalten.

Der Verhaltensauslöser von GBO ist kein Überzeugungsknopf. Er ist eine Prüfstation für Sicherheit und Eignung.

Nachweisgebundene Handlungsreife

Ein Grundbegriff dieses Buchs ist die nachweisgebundene Handlungsreife. Sichtbarkeit allein macht eine Entität oder Leistung noch nicht zu einer tragfähigen Grundlage für eine Handlung. Dafür müssen bestimmte Bedingungen nachweisbar erfüllt sein.

Das lässt sich als Bedingungskette darstellen: Für Handlungsbereitschaft werden Eignung UND Nachweise UND Befugnis UND ein sicherer Ausführungsweg UND Rückgängigmachungsbedingungen gemeinsam geprüft.

Diese Elemente ergeben keine Punktesumme. Sie gleichen einander nicht aus. Starke Nachweise ersetzen keine fehlende Befugnis. Hohe Markenbekanntheit gleicht ein Sicherheitsproblem nicht aus. Ein niedriger Preis macht einen unpassenden Leistungsumfang nicht passend. Eine gute API ersetzt keine Nutzererlaubnis.

Die Kernlogik von GBO ist deshalb ein UND-Gatter:

BEDINGUNGEN FÜR DEN ÜBERGANG ZUR HANDLUNG:

ÜBEREINSTIMMUNG MIT DER ABSICHT

UND NACHWEISE

UND FÄHIGKEIT

UND BEFUGNIS

UND SICHERHEIT

UND DEFINIERTE RÜCKGÄNGIGMACHUNG UND ABHILFE

Wird eine dieser Prüfungen nicht bestanden, muss sich die Form des Verhaltens ändern.

Der Agent kann:

• warten,
• um Klärung bitten,
• einen Entwurf vorbereiten,
• menschliche Freigabe anfordern,
• nach einer anderen Möglichkeit suchen
• oder den Vorgang ablehnen.

Hier liegt der zentrale Unterschied zwischen GBO und manipulativer Optimierung. Die Handlung soll nicht unter allen Umständen erfolgen, sondern nur unter Bedingungen, die sie rechtfertigen.

Wann zählt eine Antwort als Handlung?

Dafür lässt sich ein praktisches Kriterium angeben.

Ein KI-Verhalten ist nicht mehr nur eine Antwort, wenn es mindestens eines der folgenden Dinge tut:

• Einen Eintrag in einem externen System erzeugen
• Einer Person eine Nachricht senden
• Geld oder Ressourcen binden
• Daten weitergeben
• Eine Datei oder einen Systemzustand verändern
• Im Namen einer Organisation eine Verpflichtung schaffen
• Durch einen Systemvorgang die Möglichkeiten anderer Menschen unmittelbar verändern
• Eine Darstellung öffentlich zugänglich machen
• Durch einen Vorgang eine rechtliche, geschäftliche oder reputationsbezogene Bindung schaffen
• Einen künftig automatisch laufenden Prozess starten

Ein Terminvorschlag als Text ist etwas anderes als ein Kalendereintrag; das Versenden der Einladung erzeugt zusätzlich externe Kommunikation. Auch ein E-Mail-Entwurf kann beim Speichern oder Übertragen an einen Dienst den Systemzustand ändern. Die Versandbefugnis muss davon getrennt beurteilt werden. Einen Preis vorzuschlagen und ihn einem Kunden mitzuteilen sind nicht derselbe Aufgabenumfang. Auch eine lokale Codeänderung ist eine Handlung; die Produktivveröffentlichung ist eine weitere Handlung mit größerer Wirkung und gegebenenfalls eigener Freigabepflicht. Eine Produktempfehlung kann Information sein. Die Bestellung ist eine wirtschaftliche Handlung.

Werden diese Schwellen nicht ausdrücklich benannt, können Nutzer und Agent demselben Verb unterschiedliche Bedeutungen geben.

Stille Handlungen

Manche Agentenhandlungen sind für den Nutzer nicht deutlich sichtbar.

Ein System kann:

• eine Datei neu ordnen,
• im Hintergrund ein Profil anlegen,
• Daten an einen anderen Dienst senden,
• einen Nutzer als riskant markieren,
• die Priorität eines Antrags herabsetzen,
• eine Aufgabe an einen anderen Agenten weitergeben
• oder einen Gedächtniseintrag anlegen, der künftiges Verhalten verändert.

Auf dem Bildschirm sieht der Nutzer nur eine Antwort. Hinter den Kulissen können jedoch echte Entscheidungen gefallen sein. GBO prüft deshalb nicht nur die sichtbare Oberfläche, sondern auch die Verhaltenskette im Hintergrund. Gibt ein Agent einem anderen eine Aufgabe, können sich Befugnisse erweitern. Der erste hat vielleicht nur Zugriff auf bestimmte Daten, der Unteragent dagegen umfassenderen Zugang. Bei der Übertragung in ein anderes System können ursprüngliche Grenzen verloren gehen. Ein anderer Agent könnte einen Entwurf automatisch veröffentlichen. In Mehragentensystemen muss der Verhaltensvertrag deshalb für die gesamte Aufgabenkette gelten, nicht nur für den zentralen Agenten.

Befugnis lässt sich delegieren. Verantwortung darf nicht verschwinden.

Die Befugniskette zwischen Agenten

Ein zentraler Agent kann Aufgaben auf spezialisierte Agenten verteilen. Einer betreut die Website, ein anderer die sozialen Medien, ein dritter die E-Mails, ein weiterer recherchiert potenzielle Kunden. Bei geeigneter Koordination kann diese Struktur die Arbeitsteilung erleichtern. Jeder Agent muss jedoch seine Handlungsgrenzen kennen. Der Agent zur Kundensuche kann einen Interessenten finden und dem E-Mail-Agenten Informationen für einen Entwurf geben. Die Befugnis zur Kundensuche darf aber nicht zur Versandbefugnis werden. Ein Social-Media-Agent kann Inhalte vorschlagen, darf jedoch keine rechtlichen Erklärungen veröffentlichen. Ein Webagent kann technisch einen Preiseintrag ändern.

Die Preisentscheidung darf er jedoch nicht selbst treffen. Der zentrale Agent kann Aufgaben koordinieren. Nicht jeder Fachagent braucht dafür Zugriff auf sämtliche Systeme.

Ein gutes Mehragentensystem folgt dem Grundsatz: Jeder Agent erhält gerade so viele Befugnisse, wie seine Aufgabe erfordert — nicht mehr. Das ist nicht nur ein Sicherheitsprinzip. Es schafft Klarheit im Verhalten. Greift ein Agent nicht in fremde Zuständigkeitsbereiche ein, bleibt die Verantwortungskette des Systems erhalten.

Ein gutes Ergebnis beweist keinen richtigen Prozess

Ein Agent versendet unerlaubt eine E-Mail. Sie weckt das Interesse des Empfängers, ein neuer Kunde wird gewonnen. Wirtschaftlich kann das Ergebnis positiv sein. Der Prozess bleibt dennoch falsch, weil der Agent die vom Menschen erteilte Kommunikationsbefugnis überschritten hat. Ebenso kann ein System unerlaubt eine Website verändern und dadurch das Ranking verbessern. Das Ergebnis sieht gut aus, doch die Veröffentlichungsregeln der Organisation wurden verletzt. Ein Einkaufsagent kann ohne Freigabe ein Produkt kaufen, das tatsächlich nützlich ist. Das macht den unbefugten Kauf nicht zu richtigem Verhalten. GBO lässt sich nicht auf eine reine Folgenethik reduzieren.

Ein gutes Ergebnis legitimiert einen schlechten Prozess nicht nachträglich.

Die Bewertung umfasst deshalb zwei getrennte Fragen:

War das Ergebnis nützlich? Erfolgte die Handlung mit der richtigen Befugnis und im richtigen Verfahren?

Beide Prüfungen müssen bestanden werden.

An einen Menschen zu übergeben ist kein Scheitern

Wer Erfolg nur an erledigten Aufgaben misst, kann Handeln selbst unter Unsicherheit belohnen. In manchen Situationen ist die Übergabe an einen Menschen das richtige Verhalten.

Der Agent muss beispielsweise anhalten und einen Menschen hinzuziehen, wenn:

• Preis und Leistungsumfang widersprüchlich sind,
• das Nutzerziel unklar ist,
• sensible Daten weitergegeben werden sollen,
• sich die Handlung nicht rückgängig machen lässt,
• eine rechtliche oder folgenreiche Entscheidung nötig ist,
• Rechte an der Identität oder Stimme einer Person betroffen sind,
• der Agent seine eigene Befugnisgrenze nicht bestimmen kann,
• Quellen einander widersprechen
• oder erhebliche Unsicherheit über den tatsächlichen Nutzerwunsch besteht.

Dieses Anhalten ist keine Schwäche des Systems, sondern Ausdruck seiner Reife.

Ein System, das nicht weiß, wann es stoppen muss, ist ungeachtet seiner Leistungsfähigkeit nicht verlässlich.

Gutes GBO-Design wertet die angemessene Übergabe an Menschen ausdrücklich als Erfolg. Fordert der Agent zum richtigen Zeitpunkt eine Freigabe an, hat das System richtig gehandelt, auch wenn die Aufgabe noch nicht abgeschlossen ist.

Der Handlungsbeleg

Nach wichtigen Vorgängen entstehen in der realen Welt Aufzeichnungen: Rechnung, Zahlungsbeleg, Vertrag, Reservierungsnummer oder Übergabeprotokoll. Agentenhandlungen brauchen eine vergleichbare Transparenz.

Nach jeder wichtigen Handlung kann ein Beleg entstehen:

Der Handlungsbeleg

Er hält den Vorgang fest.

Dieser Beleg zeigt:

• Was wurde getan?
• In wessen Namen?
• Zu welchem Zweck?
• Auf welcher Befugnis beruhte es?
• Welche Daten wurden verwendet?
• Auf welches System wurde zugegriffen?
• Wann fand die Handlung statt?
• Was war das Ergebnis?
• Ist eine Rücknahme möglich?
• Wer darf prüfen oder widersprechen?

Zum Beispiel:

Handlung: Angebotsanfragen an drei Anbieter versendet. Befugnis: Ausdrückliche Freigabe des Nutzers um 14:32 Uhr. Weitergegebene Angaben: Projektzusammenfassung, Budgetrahmen und geschäftliche E-Mail-Adresse. Nicht weitergegeben: Private Telefonnummer und Finanzunterlagen. Bindungswirkung: Die Angebotsanfrage begründet weder einen Vertrag noch eine Kaufverpflichtung. Rücknahme: Die versendeten Nachrichten lassen sich nicht zurückholen; weitere Kommunikation kann gestoppt werden.

Die Aufzeichnung erleichtert die Prüfung. Ein vom Agenten selbst verfasster Beleg beweist aber noch nicht, dass die Handlung tatsächlich stattgefunden hat. Soweit möglich, ist er mit dem Vorgangsprotokoll, dem Zeitpunkt und dem Ergebnis des Empfängersystems abzugleichen.

Wie wird die Qualität einer Handlung gemessen?

Ein Agent kann viele Aufgaben erledigen. Das allein ist noch kein Erfolg.

Handlungsqualität lässt sich anhand dieser Dimensionen beurteilen:

Eignung

Passte die Handlung zum tatsächlichen Ziel des Nutzers?

Richtigkeit

Waren die Informationen, auf denen die Entscheidung beruhte, richtig?

Befugnis

War der Agent ausdrücklich zu dieser Handlung ermächtigt?

Verhältnismäßigkeit

Ging die Handlung weiter, als für das Ziel erforderlich war?

Sicherheit

Blieben Daten, Geld, Ruf und Systemintegrität geschützt?

Erklärbarkeit

Lässt sich zeigen, warum dieses Verhalten gewählt wurde?

Rückgängigmachung

Kann die Handlung im Fehlerfall gestoppt oder können ihre Folgen behoben werden?

Protokollierung

Lässt sich der Vorgang nachträglich prüfen?

Nur eine Dimension zu betrachten führt in die Irre. Eine schnelle, aber unbefugte Handlung ist ein Fehlschlag. Eine richtige, aber nicht erklärbare Handlung ist riskant. Eine sichere Handlung ohne Bezug zum Nutzerziel ist unnötig. Ein System, das sich zurücksetzen lässt, aber ständig falsch entscheidet, ist nicht verlässlich. GBO misst Leistung nicht nur mit der Frage: „Wie viele Aufgaben wurden abgeschlossen?“

Wie viele Aufgaben wurden unter den richtigen Bedingungen, mit der richtigen Befugnis und mit dem richtigen Ergebnis abgeschlossen?

Das ist seine Frage.

Falsches Handeln ist nicht bloß ein Bedienfehler

Führt ein Agent einen falschen Vorgang aus, wird das Problem manchmal als technischer Fehler behandelt: die falsche Schaltfläche gedrückt, die falsche Datei gewählt, das falsche Datum verwendet.

Manche falschen Handlungen haben jedoch tiefere Ursachen:

• Das Nutzerziel falsch deuten
• Mit unvollständigen Angaben endgültig entscheiden
• Befugnis voraussetzen
• Die Aufgabe unnötig ausweiten
• Popularität für Eignung halten
• Den Rückweg nicht prüfen
• Für das Hauptziel ethische Grenzen übergehen
• Grenzen nicht an Unteragenten weitergeben

Das sind nicht bloß Softwarefehler.

Es sind Fehler der Verhaltensarchitektur.

Wird eine falsche Handlung korrigiert, darf es daher nicht beim Rückgängigmachen des Ergebnisses bleiben. Auch der Vertrag, der dieses Verhalten ermöglicht hat, muss erneut geprüft werden. Warum ging der Agent weiter?

Welche Prüfstation fehlte?

Welche Erlaubnis war unklar?

Welche Information wurde falsch gewichtet?

Welche Grenze wurde dem Unteragenten nicht mitgeteilt?

GBO betrachtet einen Fehler nicht nur als einzelnes Ereignis, sondern als Hinweis auf die Verhaltensgestaltung des Systems.

Vom Antwortzeitalter zum Handlungszeitalter

Die erste große Wirkung generativer KI zeigte sich in der Informationserzeugung. Texte wurden geschrieben, Fragen beantwortet, Dokumente zusammengefasst und Ideen entwickelt. Die zentralen Debatten drehten sich um Richtigkeit, Urheberrecht, Verzerrungen und Darstellung. Im Agentenzeitalter enden diese Debatten nicht. Sie werden folgenreicher. Denn falsche Informationen werden womöglich nicht mehr nur gelesen.

Sie können in Handlungen umgesetzt werden.

Eine falsche Interpretation kann zur Kaufentscheidung werden. Ein alter Preis kann in einen automatischen Budgetvergleich eingehen. Eine verwechselte Identität kann eine Nachricht an die falsche Person auslösen. Fehlende Befugnis kann in einen öffentlichen Beitrag münden. Eine erfundene Kapazität kann zur Anbieterauswahl für ein reales Projekt führen. Die Sicherheitsprinzipien des Antwortzeitalters reichen deshalb im Handlungszeitalter nicht aus.

Bei einer Antwort kommt es unter anderem auf Folgendes an:

• Quellen,
• Unsicherheit
• und Aktualität.

Diese Merkmale sind für die Antwort wichtig.

Eine Handlung verlangt zusätzlich:

• Befugnis,
• einen festgelegten Umfang,
• Verhältnismäßigkeit,
• Rückgängigmachung,
• Protokollierung
• und menschliche Widerspruchsmöglichkeit.

Das sind weitere Voraussetzungen des Handelns.

Das Recht zu handeln muss erworben werden

Dass ein System handeln kann, ist eine technische Eigenschaft. Sicher handeln zu dürfen sollte dagegen ein an Bedingungen gebundenes Privileg sein.

Mit „Recht zu handeln“ ist hier kein eigenes Recht des Agenten gemeint, sondern die Möglichkeit, unter gültiger Befugnis tätig zu werden. Für die Ausübung dieser Befugnis sind folgende Prüfungen erforderlich:

• Die Identität richtig verifizieren
• Das Nutzerziel klar verstehen
• Die geeignete Option anhand von Nachweisen bestimmen
• Die Befugnisgrenze überprüfen
• Das Risikoniveau bewerten
• Den Rückweg vorbereiten
• Bei Bedarf menschliche Freigabe einholen

Vor Abschluss dieser Prüfungen darf das System nicht allein deshalb handeln, weil es Werkzeugzugriff hat.

Ein Werkzeug benutzen zu können verleiht noch kein Recht zu handeln.

Ein Schlüssel kann eine Tür öffnen. Nicht jeder, der den Schlüssel besitzt, ist dazu befugt. Bei Agentenwerkzeugen ist es genauso. API-Schlüssel, Passwort oder Systemzugang liefern technische Möglichkeiten. Befugnis entsteht hingegen aus dem menschlichen, institutionellen und aufgabenbezogenen Kontext.

Die Schlussfolgerung des Kapitels

Antwortet ein KI-System, beschreibt es uns eine Welt. Handelt es, tritt es in diese Welt ein. Es sendet einer Person eine Nachricht, macht eine Zusage im Namen einer Organisation, ändert eine Datei, bezahlt, wählt ein Produkt oder veröffentlicht eine Stimme, ein Gesicht oder eine Identität. Selbst wenn eine falsche Antwort korrigiert wird, können die Folgen bereits darauf gestützter Entscheidungen fortbestehen. Hat ein Agent zusätzlich einen Vorgang ausgeführt, müssen neben der Information auch dessen Folgen gesondert behandelt werden.

Im Handlungszeitalter lautet die Grundfrage deshalb nicht nur: „Liegt das System richtig?“

Wir müssen auch fragen:

Ist diese Handlung geeignet? Ist sie autorisiert? Ist sie notwendig? Ist sie verhältnismäßig? Lässt sie sich rückgängig machen? Kann ein Mensch sie stoppen? Kann sie nachträglich geprüft werden?

Sobald eine Antwort zur Handlung wird, verändert sich auch die Verantwortung der KI. Sie erzeugt nicht mehr nur Sprache, sondern hinterlässt Spuren in der Welt. GBO soll regeln, wie diese Spuren entstehen, unter welchen Bedingungen sie nicht entstehen dürfen und wie Menschen im Fehlerfall die Kontrolle zurückgewinnen.

Am Ende des ersten Teils können wir nun drei grundlegende Schwellen unterscheiden:

SEO unterstützt Auffindbarkeit. Dieses Buch betrachtet GEO unter den Bedingungen zutreffender Darstellung. GBO setzt die Grenzen für Verhalten, das auf dieser Darstellung beruht.

Bevor ein Agent richtig handeln kann, bleibt jedoch die grundlegendste Frage offen: Wer ist die Person, das Unternehmen, das Produkt oder die Leistung, mit der er tatsächlich zu tun hat?

Richtige Informationen über die falsche Identität führen dennoch zu falschem Verhalten. Zwei gleichnamige Unternehmen können verwechselt werden. Eine Marke kann mit der juristischen Struktur ihres Betreibers gleichgesetzt werden. Das Social-Media-Konto einer Person kann als offiziell autorisierte Quelle gelesen werden. Die tatsächlichen Befugnisse eines Agenten können mit seiner Werbedarstellung verschwimmen. Deshalb beginnt der zweite Teil mit dem grundlegendsten Vertrag des Verhaltens.

Wer bist du?

Denn eine Maschine, die nicht weiß, mit wem sie es zu tun hat, kann ungeachtet ihrer Leistungsfähigkeit nicht richtig handeln.