Kapitel IV — Eingriff

Die Kosten eines Eingriffs in die Repräsentation

Ein Eingriff ist keine Berichtigung; er schafft einen neuen Repräsentationszustand. Eine Verzerrung zu erkennen verleiht noch nicht das Recht, sie zu verändern. Messung kann das Problem sichtbar machen und Evidenz bestimmen, was darüber gesagt werden darf; keine von beiden macht einen Eingriff automatisch erforderlich.

Manche Verzerrungen treten nur einmalig oder vorübergehend auf. Manche verursachen dem Unternehmen keinen wesentlichen Schaden. Manche missfallen dem Unternehmen, sind aber richtig. Manche verlieren ohne Berührung ihre Wirkung; andere wachsen gerade durch den Eingriff. Mehr Inhalt, mehr Seiten, strukturierte Daten, externe Quellen, Wiederholungen oder Sichtbarkeit stellen deshalb nicht von selbst eine „Verbesserung“ dar. Jedes Element fügt dem Repräsentationsumfeld etwas Neues hinzu. Es kann einen Widerspruch verringern oder neue Widersprüche schaffen, den richtigen Kunden näherbringen oder den falschen Kunden skalieren.

Gute Absicht garantiert kein Ergebnis. In eine Repräsentation einzugreifen bedeutet, an die Stelle des alten Zustands eine neue Risikoordnung zu setzen.

1. Der Status des Eingriffs

Ein Eingriff ist keine Befugnis, die Antwort eines generativen Systems unmittelbar zu ändern. Er ist eine begrenzte, messbare und auditierbare Änderung im Umfeld, in dem eine Entität repräsentiert wird, mit dem Ziel, eine verifizierte und wesentliche Verzerrung zu verringern.

Diese Definition bewahrt vier Unterscheidungen.

Verzerrung ist nicht Unbehagen. Dass ein Unternehmen nicht empfohlen wird, ein Wettbewerber hervortritt, das System kritisch spricht oder die Erzählung des Systems von der Selbstdarstellung des Unternehmens abweicht, ist für sich genommen kein Fehler. Ein Eingriffsgrund entsteht erst, wenn die Integrität von Identität, Eigenschaft, Kontext, Zeit, Urteil, Leistung oder wirtschaftlicher Passung verletzt ist.

Änderung ist nicht Berichtigung. Die Aktualisierung einer Seite, das Hinzufügen eines Schemas oder die größere Zahl externer Quellen zeigen nur, welche Handlung vorgenommen wurde. Dass die Repräsentation berichtigt wurde, darf erst nach einer erneuten Messung mit demselben Protokoll und in einem begrenzten Evidenzsatz gesagt werden.

Wirkung ist nicht Erfolg. Ein Eingriff kann Sichtbarkeit oder Traffic erhöhen und zugleich falsche Repräsentationen, ungeeignete Nachfrage oder verlustbringende Verkäufe vergrößern. Die Wirkung wird beobachtet; Erfolg wird gesondert beurteilt.

Beobachtete Ausgabe ist kein kontrolliertes Ergebnis. Ein Unternehmen kann seine eigene Website ändern und bei einer externen Quelle eine Berichtigung verlangen; die Antwort des generativen Systems kann es jedoch nicht unmittelbar bearbeiten. Es kann das Repräsentationsumfeld beeinflussen, nicht das Ergebnis besitzen. Zulässig ist nicht „Wir haben die KI-Antwort korrigiert“, sondern „Die festgelegten Oberflächen wurden geändert; im definierten Testset wurde ein anderes Repräsentationsverhalten beobachtet.“

2. Die Eingriffsschwelle

Ein standardgemäßer Eingriff muss fünf Schwellen passieren. Bevor nicht alle geöffnet sind, beginnt keine breite Umsetzung. Eine nicht erfüllte Schwelle verengt den Umfang oder stoppt den Eingriff.

2.1. Verifizierung

Die Verzerrung muss durch dokumentierte Messung gezeigt werden. Eine Antwort in einem System auf einen Prompt an einem Datum erlaubt keinen weitreichenden Eingriff. Festzuhalten sind die betroffene Repräsentationsebene, die Prompts, bei denen die Verzerrung erneut auftritt, ihr Fortbestehen in kontrastierenden Tests und die Differenz zwischen Realitätsnachweis und Repräsentationsaufzeichnung. Für eine nicht verifizierte Verzerrung lautet die Entscheidung: „Beobachten, nicht eingreifen.“

2.2. Wesentlichkeit

Nicht jeder Fehler verlangt eine Handlung. Eine falsche Identität von Person oder Institution, falsche Kategorie, Preis- oder Umfangserwartung, unbelegte Aussagen zu Gesundheit, Recht, Finanzen oder Sicherheit, Fehlleitung von Kunden, Nachfrage jenseits der Kapazität, Stornierung, Rückgabe, Beschwerde, operativer Zeitverlust oder Reputationsschaden können wesentlich sein. Stilvorlieben, Wortwahl oder der Wunsch des Unternehmens, stärker zu erscheinen, bilden keinen wesentlichen Grund. Bleibt eine wesentliche Folge aus, wird der Zustand dokumentiert und beobachtet.

2.3. Beeinflussbare Oberfläche

Das Problem muss eine berührbare Quelle besitzen: die Website des Unternehmens, eine widersprüchliche Sprachfassung, veraltete Inhalte, Identitätsarchitektur, strukturierte Information, ein maßgebliches Verzeichnis, eine Partnerseite, eine überholte externe Quelle oder ein Zugangsproblem. Ist das Problem nur in einer Systemausgabe sichtbar und seine Herkunft unbekannt, wird keine breit angelegte Änderung vorgenommen. Stattdessen werden Hypothesen gebildet, Quellen verglichen und die Diagnose erweitert. Eine Änderung ohne beeinflussbare Oberfläche beruht nicht auf Diagnose, sondern auf Hoffnung.

2.4. Messbares Ergebnis

Der Ausgangszustand wird eingefroren. Erwartete Veränderung, unverändert zu haltende Bereiche, verbotene Nebenfolge, Beobachtungsfenster, Abbruchbedingung und wirtschaftliche Kennziffern werden vor Sichtung des Ergebnisses festgehalten. „Besser erscheinen“ ist nicht messbar. „Den Anteil der Repräsentationen in der falschen Verbraucherkategorie innerhalb des stabilen Kernsets verringern“ ist messbar. Wird das Ergebnis nicht im Voraus bestimmt, wird der Erfolg des Eingriffs im Nachhinein erfunden.

2.5. Umkehrbarkeit oder erhöhte Befugnis

Ein Eingriff muss rückgängig gemacht werden können. Je schwieriger die Umkehr, desto höher die Schwellen für Evidenz, Zustimmung und Beobachtung. Festgelegt werden, wie eine Änderung gestoppt wird, bei welchem Ergebnis sie zurückgenommen wird, wie auf externe Quellen übertragene Informationen berichtigt werden, wer die Pflege verantwortet und wann die erneute Prüfung stattfindet. Eine nicht umkehrbare Änderung verlangt stärkere Evidenz und eindeutigere Verantwortlichkeit.

Die Entscheidungssprache der Schwelle lautet: Ist die Verzerrung nicht verifiziert, beobachten; besteht sie, ist aber nicht wesentlich, dokumentieren und verfolgen; ist sie wesentlich, ihre Quelle aber unklar, Diagnose erweitern; ist das Ergebnis nicht messbar, nicht eingreifen; sind alle fünf Schwellen erfüllt, begrenzt eingreifen; ist die Umkehr schwierig oder die Wirkung breit, an die Governance eskalieren; verletzt die Methode eine ethische Grenze, ablehnen. Nicht einzugreifen ist keine Unentschlossenheit, sondern die Beachtung der Evidenz- und Befugnisgrenze.

3. Risiko- und Kontrolloberflächen

Aussagen zu Gesundheit, Recht, Finanzen oder Sicherheit; Vergleiche mit Wettbewerbern; öffentliche Überlegenheitsbehauptungen; Änderungen, die sich über zahlreiche externe Quellen, Sprachen oder Länder ausbreiten; Änderungen an Marke, URL oder Unternehmensidentität; Versprechen zu Preis, Kapazität oder Ergebnis sowie Handlungen, die bei falscher Anwendung Dritten schaden können, sind hochriskant. Ein hohes Risiko verbietet einen Eingriff nicht automatisch, erhöht aber die Last von Nachweis, Freigabe und Umkehr.

Eingriffsbereich und Kontrolloberfläche werden getrennt klassifiziert. Ein struktureller Eingriff ordnet die Beziehungen zwischen Name, Marke und Produkt, Person und Unternehmen, alter und neuer Identität, Kategorie, Geografie und Sprachfassungen. Ein Identitätsproblem lässt sich nicht mit Inhaltsvolumen lösen; ein Unternehmen, das drei verschiedene Namen verwendet, wird durch vierzig neue Artikel nicht zu einer einheitlichen Identität.

Ein inhaltlicher Eingriff betrifft unter anderem Hauptdefinition, Leistungsumfang, Eigenschaftsaussage, Evidenzverbindung, Ausnahme, ungeeignete Kundengruppe, Preis, Kapazität und Aktualität. Sein Standardverb lautet nicht „hinzufügen“. Manchmal muss gelöscht, verengt oder „marktführend“ auf „unter bestimmten Bedingungen erfahren“ zurückgeführt werden. Das Ziel ist nicht, mehr zu sagen, sondern seltener missverstanden zu werden.

Ein Signaleingriff ordnet die Zugangs- und Übertragungsbedingungen belegbarer Information: technische Lesbarkeit, strukturierte Informationen, maßgebliche Verzeichnisse, unabhängige Verifizierungen, Aktualität von Quellen und Konsistenz externer Identität. Ein Signal ersetzt die Wirklichkeit nicht. Eine unbelegte Aussage wird nicht richtig, weil sie in strukturierte Daten geschrieben wird; die Wiederholung desselben falschen Satzes in zwanzig Verzeichnissen schafft keinen unabhängigen Konsens.

Diese Bereiche wirken auf drei Kontrolloberflächen:

Tabelle 4.1 — Eingriffsrisiken und Kontrolloberflächen

Die generative Antwort ist keine Eingriffs-, sondern eine Ergebnisoberfläche. Wo keine Kontrolle besteht, darf keine Kontrolle behauptet werden.

4. Der kleinste hinreichende Eingriff

Ziel eines Eingriffs ist nicht die größtmögliche, sondern die kleinste erforderliche Änderung. Das Prinzip des kleinsten hinreichenden Eingriffs verwendet fünf Stufen:

Tabelle 4.2 — Stufen des kleinsten hinreichenden Eingriffs

Der Übergang auf eine höhere Stufe wird begründet. Außer bei einem akuten Schaden wird keine höhere Stufe gewählt, bevor die niedrigeren geprüft wurden. Die Qualität eines Eingriffs bemisst sich ebenso an den unnötigen Änderungen, die er unterlässt, wie an der Änderung, die er vornimmt.

Das Prinzip verlangt, Verzerrung und Lösung aufeinander abzustimmen. Eine Identitätsverschmelzung verlangt strukturelle Trennung; die Verzerrung einer Eigenschaft eine engere Aussage; die Auslassung einer wesentlichen Grenze deren evidenzgestützte Sichtbarkeit; Versteinerung die Aktualisierung oder Entfernung alter Information; wirtschaftliche Fehlpassung eine Korrektur von Zielkunden- und Leistungsgrenze. Eine falsche Diagnose verwandelt auch eine fachgerecht ausgeführte Handlung in einen falschen Eingriff.

5. Eingriffsprotokoll

Ein auditierbarer Eingriff verläuft in acht Schritten:

1. Ausgangszustand einfrieren. Kernmessung, Prompts, vollständige Ausgaben, Codierungen und einschlägige wirtschaftliche Aufzeichnungen bleiben erhalten.
2. Verzerrung klassifizieren. Verschmelzung, Verzerrung, Auslassung, Überschreitung, Versteinerung, falsches Urteil, falscher Ausschluss oder wirtschaftliche Fehlpassung werden ausdrücklich benannt.
3. Gewünschtes und verbotenes Ergebnis festhalten. Beispielsweise soll die Richtigkeit der Unternehmensidentität steigen, ohne dass die Empfehlungshäufigkeit bei Verbraucheranfragen zunimmt.
4. Kleinste hinreichende Oberfläche wählen. Wegen eines Problems auf einer Seite wird nicht die gesamte Website neu geschrieben; ein Problem in einer externen Quelle lässt die eigene Oberfläche nicht durch Text anschwellen.
5. Eingriffsklassen trennen. Strukturelle, inhaltliche und signalbezogene Änderungen werden möglichst in verschiedenen Phasen umgesetzt; ist dies nicht möglich, wird jede Variable dokumentiert.
6. Beobachtungsfenster binden. Weder die erste positive Antwort gilt als Erfolg noch die erste negative als Scheitern; der vorab festgelegte Zeitraum wird abgeschlossen.
7. Mit demselben Protokoll erneut messen. Das Kernset bleibt erhalten; neue Prompts gelangen in das Explorationsset.
8. Entscheiden. Fortsetzen, beobachten, verengen, kontrolliert erweitern, stoppen, zurücknehmen oder an die Governance eskalieren.

Beginnt ein Eingriff nicht mit Messung, lässt sich seine Wirkung nicht kennen; kann er nicht mit einer Rücknahme enden, lässt er sich nicht kontrollieren.

Jeder Eingriff erzeugt außerdem eine Pflegeschuld. Neue Seiten müssen aktuell gehalten, neue Aussagen erneut verifiziert, Sprachfassungen angeglichen, externe Profile beobachtet und strukturierte Informationen mit den sichtbaren Inhalten konsistent gehalten werden. Übersteigt die Änderungsgeschwindigkeit die Pflegekapazität, wird die Repräsentation fragil. Ein Eingriff, der nicht gepflegt werden kann, darf nicht vorgenommen werden.

6. Ausnahme bei akutem Schaden

Wird durch eine falsche Personen- oder Organisationsidentität aktiver Schaden verursacht, werden schwerwiegende Falschinformationen zu Gesundheit, Recht, Finanzen oder Sicherheit verbreitet, führt ein falsches Preis- oder Leistungsversprechen zu fortgesetztem Nutzerschaden oder liegt eine eindeutige Verschmelzung wie Identitätsdiebstahl vor, kann Abwarten gefährlicher sein.

Ziel eines Noteingriffs ist nicht Optimierung, sondern Schadensbegrenzung. Berührt wird die engste Oberfläche; der riskanteste Fehler wird berichtigt oder entfernt; es findet keine breite Sichtbarkeitsmaßnahme statt; die vorläufige Entscheidung wird dokumentiert und anschließend durch vollständige Messung und Governance-Prüfung ergänzt. Ein Notfall beseitigt die Evidenzschwelle nicht, sondern verändert das erste Ziel.

7. Lehrfall: Meridian Ledger

Lehrsimulation — synthetische Daten. Dieser Fall steht weder für ein reales Unternehmen oder System noch für eine wirkliche Kampagne.

Meridian Ledger ist ein fiktives Unternehmen für Software zur regulatorischen und finanziellen Compliance im Geschäftskundenbereich. Es wird mit einem gleichnamigen Buchhaltungsblog verwechselt. Ein erster Vorschlag sieht vor, vierzig neue Artikel über die Marke zu veröffentlichen. Die Eingriffsschwelle weist diesen Vorschlag zurück: Das Problem besteht nicht in fehlenden Inhalten, sondern in einer Identitätsverschmelzung.

Die Umsetzung wird darauf begrenzt, die Identitäten von Unternehmen und Publikation zu trennen, die Beziehung zwischen Unternehmen und Produkt zu verdeutlichen, den früheren Markennamen zu erklären, Sprachfassungen anzugleichen und offizielle Profile miteinander in Einklang zu bringen.

Tabelle 4.3 — Synthetisches Ergebnisprofil von Meridian Ledger

Die Gesamtzahl der Erwähnungen ist gesunken, während Richtigkeit der Identität und wirtschaftliche Passung gestiegen sind. Erfolg des strukturellen Eingriffs bedeutet nicht, häufiger zu erscheinen, sondern seltener als falsche Entität zu erscheinen.

Der Fall zeigt zugleich, wie ein Eingriff berichtet werden muss. Der Satz „Wir haben die Falschinformation in der KI berichtigt“ ist unzulässig. Zulässig ist: „Die eigenen Identitätsoberflächen und bestimmte offizielle Profile wurden angeglichen; im selben Kernset ging die Identitätsverschmelzung mit dem Blog zurück. Eine vollständige Kausalität hinsichtlich des Verhaltens generativer Systeme ließ sich nicht feststellen.“

8. Die Entscheidung des Eingriffs

Integrität der Repräsentation, Kundenpassung, Unternehmenswirkung und ethische Legitimität werden gemeinsam beurteilt. Hat die Integrität zugenommen, während das wirtschaftliche Ergebnis unverändert bleibt, wird weiter beobachtet. Steigt mit der Integrität auch Belastung oder Schaden, wird der Eingriff verengt oder zurückgenommen. Nimmt die Sichtbarkeit zu, während die Integrität sinkt, ist die Maßnahme ungültig. Sinkt die Sichtbarkeit, während ungeeignete Nachfrage und operative Belastung abnehmen, kann das Ergebnis erfolgreich sein. Ein wirtschaftlicher Gewinn, der durch Verletzung einer ethischen Grenze erzielt wird, ist insgesamt ungültig.

Das Eingriffsregister, dessen Einzelheiten Anhang C enthält, bündelt die zugehörige Evidenz, das Ergebnis der fünf Schwellen, Risikoklasse, gewünschtes und verbotenes Ergebnis, veränderte Oberflächen, Beobachtungsfenster, Abbruch- und Rücknahmebedingungen, Pflegeverantwortliche und endgültige Entscheidung. Es wird nicht geführt, um die geleistete Arbeit zu rechtfertigen, sondern um zu bestimmen, ob sie fortgesetzt werden darf.

Die Bestimmung dieses Kapitels lautet:

Wisse, bevor du berührst. Wähle, nachdem du weißt. Miss, nachdem du gewählt hast. Nimm zurück, wenn die Messung es verlangt.

Der Eingriff bestimmte, wann und wie eine Repräsentation berührt werden darf. Nun ist zu klären, wer diese Entscheidung treffen, wer das öffentliche Ergebnis freigeben und bei wem die Verantwortung für einen Fehler verbleiben soll.