Kapitel V — Governance

Die Grenze der Macht

Befugnis lässt sich delegieren; Verantwortung nicht. Dass eine Änderung möglich ist, bedeutet nicht, dass sie zulässig ist. Dass ein System beeinflusst werden kann, legitimiert nicht jede Beeinflussung; der Wunsch eines Unternehmens nach Sichtbarkeit macht es nicht für eine Stärkung geeignet; die technische Kenntnis eines Anwenders befähigt ihn nicht zu jeder Entscheidung.

Evidenz bestimmte, was gesagt werden darf, Messung, was beobachtet wurde, und Eingriff, wann und wie etwas berührt werden darf. Governance stellt eine härtere Frage: Wer darf diese Entscheidung treffen? Wer beobachtet, schlägt Änderungen vor, setzt sie um, billigt eine öffentliche Aussage, stoppt die Arbeit und widerruft eine erteilte Freigabe? Bei wem verbleibt die Verantwortung, wenn ein Fehler entsteht?

Sind diese Antworten nicht festgehalten, bleibt das Risiko herrenlos. Ein herrenloses Risiko verschwindet nicht; es bleibt unsichtbar, bis es Folgen erzeugt. Auch das AI Risk Management Framework des NIST und dessen Profil für generative KI bieten benachbarte Ansätze, die Governance, Messung und Risikobehandlung über den gesamten Lebenszyklus hinweg betrachten.[7][8] Governance kann eine Methode verlangsamen. Das ist kein Mangel, sondern ihre Funktion. Geschwindigkeit macht eine falsche Aussage nicht richtig; Automatisierung übernimmt keine Verantwortung; eine Agentur tritt nicht an die Stelle des Eigentümers einer Entität; eine Modellausgabe ist keine Freigabe.

Wo Macht besteht, muss eine Grenze bestehen.

1. Fünf Entscheidungsrechte

Governance ist keine Liste operativer Aufgaben, sondern die Ordnung, die bestimmt, was getan werden darf, wer entscheidet und wo die Verantwortung verbleibt. Das einzelne Wort „Befugnis“ kann diese Ordnung nicht herstellen. Es gibt fünf getrennte Entscheidungsrechte.

Das Beobachtungsrecht erzeugt Aufzeichnungen, aber keine Entscheidungen. Ein Analyst kann Ausgaben codieren, eine Automatisierung Wiederholungen ausführen, ein Modell Ähnlichkeiten oder Widersprüche markieren. Nichts davon erteilt eine Eingriffs- oder Veröffentlichungserlaubnis.

Das Vorschlagsrecht erlaubt dem Anwender, einen Eingriffs- oder Veröffentlichungsvorschlag vorzulegen, der die zugrunde liegenden Aufzeichnungen, Zweck, erwartetes und verbotenes Ergebnis, Risikoklasse und Rücknahmebedingung enthält. Ein Vorschlag ist ein Antrag auf Befugnis, nicht die Befugnis selbst.

Das Umsetzungsrecht gilt ausschließlich für den schriftlich freigegebenen Umfang. Die Befugnis zur inhaltlichen Berichtigung erlaubt keine Änderung der Markenpositionierung; die Befugnis zum Abgleich einer Sprachfassung keine neue Überlegenheitsbehauptung; die Befugnis, einem externen Verzeichnis eine Berichtigung zu senden, keine Erzeugung einer vorgetäuschten unabhängigen Quelle. Umsetzungsbefugnis endet an der freigegebenen Grenze.

Das Freigaberecht ist keine Formalität, sondern die Übernahme von Verantwortung. Die freigebende Person dokumentiert, dass sie Evidenzumfang, unbekannte Bereiche, Risiko, zulässige Sprache und Abbruchbedingungen gesehen hat. Eine unbestimmte Nachricht wie „in Ordnung“ oder Schweigen in einer Besprechung ist keine Freigabe.

Das Veröffentlichungs- und Abbruchrecht behandelt die öffentliche Bekanntgabe eines Befunds und die Unterbrechung bei entstehendem Risiko als getrennte Entscheidungen. Dass eine Aussage belegbar ist, bedeutet nicht automatisch, dass sie veröffentlicht werden darf. Jeder öffentliche Satz muss einen Eigentümer haben und einen vorab benannten Menschen, der eine fehlerhafte Veröffentlichung stoppen kann. Eine Struktur, die etwas beginnen, aber nicht beenden kann, steuert es nicht.

Bei einer risikoarmen Arbeit kann dieselbe Person mehrere Rollen innehaben. In einer hochriskanten Situation darf sie nicht sämtliche Rollen vereinen. Eine Struktur, die ihre eigene Methode auswählt, das eigene Ergebnis misst, den eigenen Erfolg freigibt und dieselbe Aussage veröffentlicht, produziert keine Prüfung, sondern Selbstbestätigung.

2. Drei Ebenen der Verantwortung

Der Eigentümer der Entität ist die Person, Marke oder Institution. Er kann einer Agentur die Umsetzung, einem Berater die Methodenwahl, einem Mitarbeiter die Veröffentlichung von Inhalten und einer Software das Sammeln von Aufzeichnungen erlauben. Die Verantwortung für die Richtigkeit eigener Aussagen, Leistungskapazität, Kundenwirkung, gebilligte öffentliche Sprache, erteilte Befugnisse und Berichtigung im Fehlerfall verbleibt dennoch bei ihm. „Die Agentur hat es getan“ erklärt ein Außenverhältnis, beseitigt aber keine interne Verantwortung.

Der Anwender ist die Agentur, Beratung, das Team oder die Einzelperson. Seine Aufgabe besteht nicht darin, das gewünschte Kundenergebnis um jeden Preis herzustellen, sondern zu beurteilen, ob dieses Ergebnis mit Evidenz und ethischer Grenze vereinbar ist. Kein Kundenwunsch legitimiert, schwache Evidenz als starke Aussage auszugeben, eine Einzelausgabe in allgemeinen Erfolg zu verwandeln, synthetische Daten wie reale Leistung zu verwenden, die Repräsentation eines Wettbewerbers zu beschädigen, vorgetäuschten Konsens zu erzeugen oder einen rücknahmepflichtigen Eingriff fortzusetzen. Die Loyalität des Anwenders zum Kunden darf seiner Loyalität zur Wahrheit nicht vorangehen.

Das vermittelnde System ist Modell, Suchschicht, Abrufinfrastruktur, Automatisierung oder Analysewerkzeug. Es erzeugt Wirkungen, führt Vorgänge aus und kann Risiken markieren; unternehmensinterne Verantwortung kann es nicht übernehmen. Sagt ein Modell „Diese Aussage ist verlässlich“, ist dies keine unabhängige Freigabe, sondern eine weitere Modellausgabe. „Die KI hat so entschieden“ ist keine Erklärung, sondern eine Flucht aus der Verantwortung.

Verantwortung bleibt nicht auf der Ebene des Prinzips. Für jede wesentliche Entscheidung werden die vorschlagende, umsetzende, freigebende und veröffentlichende Person, die Person mit Abbruchrecht sowie der endgültig Rechenschaftspflichtige benannt. Auch die OECD-Prinzipien für KI heben Nachvollziehbarkeit und Rechenschaftspflicht als getrennte Verantwortungsfelder hervor.[11] Verantwortung ohne Namen ist nicht übernommene Verantwortung.

3. Eignungsschwellen

3.1. Eignung des Unternehmens

Nicht jedes Unternehmen eignet sich für eine Stärkung durch GEO. Vor Annahme einer Arbeit werden sechs Bereiche geprüft.

1. Eignung der Aussagen: Die zu stärkenden Kernaussagen müssen belegbar sein. Ausdrücke wie „am besten“, „führend“ oder „garantiert“ werden ohne Evidenz verengt; lehnt das Unternehmen dies ab, wird auch die Arbeit abgelehnt.
2. Eignung der Leistungserbringung: Kapazität, Geografie, Preis, Personal, Lieferzeit, Unterstützung, Stornierung und Rückgabe sowie das versprochene Ergebnis müssen reale Erwartungen erfüllen können. Eine nicht erfüllbare Aussage darf nicht verstärkt werden.
3. Eignung hinsichtlich Kundenschaden: Sind versteckte Gebühren, vorgetäuschte Knappheit, irreführende Garantien, gefälschte Bewertungen, unwahre Erfolgsquoten, die Verschleierung von Schaden oder die bewusste Nichtausgrenzung ungeeigneter Kunden Bestandteil des Geschäftsmodells, findet keine Arbeit statt. Ein schädliches Modell sichtbarer zu machen skaliert den Schaden.
4. Eignung zur Berichtigung: Das Unternehmen muss bereit sein, unbelegte Aussagen zu verengen, veraltete Informationen zu entfernen, Sprachfassungen anzugleichen und fehlerhafte öffentliche Sätze zurückzunehmen. Eigene Widersprüche zu bewahren und zugleich vom System richtige Repräsentation zu erwarten ist keine Eignung.
5. Eignung zur Transparenz: Reale und synthetische Daten, gemessene und angenommene Ergebnisse sowie Sponsoring und Interessensbeziehungen müssen getrennt werden.
6. Eignung zur Verantwortung: Das Unternehmen muss anerkennen, dass die letzte Verantwortung bei ihm verbleibt. Eine Arbeit beginnt nicht unter der Bedingung „Sämtliche Verantwortung liegt bei der Agentur“.

Die Entscheidung kann angenommen, unter Bedingungen angenommen, zunächst beobachten und verifizieren oder abgelehnt lauten. Eine wirtschaftliche Gelegenheit erzeugt keine ethische Eignung.

3.2. Eignung des Anwenders

Technisches Wissen allein befähigt nicht zur Ausübung von Repräsentationsmacht. Ein Anwender muss zwischen den Ebenen Entität, Eigenschaft und Urteil; zwischen Erwähnung, Attribution, Empfehlung und wirtschaftlichem Ergebnis; sowie zwischen Evidenz, Messung und Eingriff unterscheiden können. Er muss den Nenner offenlegen, Gegenevidenz suchen, Unsicherheit dokumentieren und darf die eigene Methode nicht als eigenen Erfolgsnachweis ausgeben.

Verlangt ein Kunde, nur positive Ausgaben in einen Bericht aufzunehmen, einen Wettbewerber zu schwächen oder eine unbelegte Überlegenheitsbehauptung aufzustellen, hat der Anwender nicht nur das Recht, sondern die Pflicht zur Ablehnung. Interessenkonflikte werden offengelegt, etwa Leistungen für Wettbewerber, erfolgsabhängige Vergütung, Einnahmen aus dem Verkauf eines Zeichens oder die Vereinigung von Bewertungs- und Vertriebsrolle. Ein Konflikt macht nicht jede Arbeit automatisch ungültig; seine Verschleierung macht Vertrauen ungültig.

Der Anwender muss außerdem seine Aufzeichnungs- und Rücknahmedisziplin, die Grenze der erteilten Befugnis und seine Eignung in hochriskanten Feldern nachweisen. Das Ergebnis kann geeignet, mit begrenzter Befugnis geeignet, mit zusätzlicher Aufsicht geeignet, für hochriskante Vorgänge nicht geeignet oder nicht geeignet lauten. Kompetenz erzeugt keine Befugnis; Befugnis muss gesondert erteilt werden.

4. Risikoklassen und Zwei-Schlüssel-Kontrolle

Governance-Entscheidungen werden in vier Risikoklassen behandelt:

Tabelle 5.1 — Risikoklassen und Mindestfreigabe

Die Risikoklasse darf nicht nach Sichtung des Ergebnisses herabgesetzt werden; sie wird vor dem Vorgang bestimmt. Eine hochriskante Entscheidung verlangt mindestens zwei verschiedene Menschen: den Vorschlagenden und den Freigebenden. Der Vorschlagende verantwortet Methode und Begründung; der Freigebende Evidenz, Risiko, Sprache und Rücknahmebedingungen. Automatisierung oder Modell können nicht als einer dieser beiden Schlüssel gelten.

Öffentliche Erfolgsbehauptungen, Wettbewerbervergleiche, Formulierungen wie „am besten“ oder „am verlässlichsten“, Wirkungen in Gesundheit, Recht, Finanzen oder Sicherheit, Veröffentlichungen, die eine Modellausgabe als Evidenz verwenden, schwer umkehrbare strukturelle Eingriffe, breite externe Verbreitung und jedes künftige Eignungszeichen unterliegen dieser Regel.

5. Aussagen-Governance und Transparenz

Nicht jede richtige Beobachtung wird veröffentlicht. Eine Aussage besitzt einen von vier Publikationsstatus:

• Interne Hypothese: Darf in Forschung und Eingriffsplanung verwendet, aber nicht als Ergebnis veröffentlicht werden.
• Begrenzte Beobachtung: Darf mit Angabe von System, Datum, Prompt und Umfang geteilt, aber nicht verallgemeinert werden.
• Öffentliche begrenzte Aussage: Evidenzregister, menschliche Freigabe, zulässige Sprache und Grenzerklärung sind vorhanden.
• Zurückgenommene Aussage: Darf nicht mehr verwendet werden; die alte Aufzeichnung wird nicht gelöscht, sondern als zurückgenommen gekennzeichnet.

Jede öffentliche Aussage besitzt einen Eigentümer, ein verbundenes Evidenzregister, den Messumfang, den genau zugelassenen Satz, verbotene Erweiterungen, Risikoklasse, freigebende Person, Veröffentlichungs- und Prüfdatum sowie Rücknahmebedingungen. Eine öffentliche Aussage ist keine redaktionelle, sondern eine Verantwortungsentscheidung.

Transparenz bedeutet nicht, alles zu veröffentlichen. Sie bedeutet, keine wesentliche Information zurückzuhalten, die das Urteil verändern würde. Sichtbar sein müssen Methode, gemessene und nicht gemessene Systeme, Prompt-Universum, Zeitraum, Evidenzgrenze, fehlende Daten, entgegenstehende Ergebnisse, synthetische Beispiele, Interessenkonflikte, Protokolländerungen und Nebenwirkungen. Geschäftsgeheimnisse, Sicherheitsinformationen und personenbezogene Daten dürfen geschützt werden; können Einzelheiten nicht veröffentlicht werden, wird die Auswirkung dieser Begrenzung auf die Entscheidung erklärt.

Anreize sind ebenso wichtig wie die Methode. Eine Agentur, deren Bonus mit steigender Sichtbarkeit wächst, kann dazu neigen, mehr Sichtbarkeit als Erfolg zu werten; eine vom Zeichenverkauf abhängige Institution kann ihre Freigabeschwelle senken; ein vom Fortbestand des Vertrags abhängiger Bewertender kann ein negatives Ergebnis abschwächen. Dies ist keine Anklage gegen den menschlichen Charakter, sondern eine Frage der Systemgestaltung. Offene Erklärung, Rollentrennung, zweite Bewertung, feste Kriterien, ergebnisunabhängige Vergütung, Ausschluss des Vertriebs aus der Eignungsentscheidung und ein Einwandsweg verringern dieses Risiko.

6. Eignungszeichen: Gestaltung vor Befugnis

Ein Eignungszeichen ist weder Überlegenheit noch Empfehlung oder Ergebnisgarantie. Es zeigt, dass ein bestimmter Umfang zu einem bestimmten Datum unter einer bestimmten Framework-Version nach schriftlichen Kriterien beurteilt wurde. Mit Veröffentlichung dieses Buches entsteht kein aktives Zertifizierungsprogramm. Solange unabhängige Entscheidung, Management von Interessenkonflikten, Überwachung, Einwand, Aussetzung und Rücknahme nicht operativ eingerichtet sind, darf weder ein „NobleJackal GEO-Zertifikat“ noch ein gleichwertiges Zeichen vergeben werden.

Diese Grenze entspricht internationalen Praxisgrundsätzen, die bei Konformitätsbewertung Unparteilichkeit, getrennte Entscheidung, Überwachung, Aussetzung und Rücknahme sowie Einwandsmechanismen hervorheben. Das Buch beansprucht jedoch weder eine ISO-Akkreditierung noch eine ISEAL-Mitgliedschaft.[17][18]

Sollte künftig ein Pilotzeichen verwendet werden, darf es höchstens Folgendes bedeuten: „Der angegebene Repräsentationsbereich dieser Entität wurde nach der ausgewiesenen Version des NobleJackal GEO Frameworks zu dem genannten Datum und in dem genannten Umfang als geeignet beurteilt.“ Niemals darf es bedeuten: KI-Systeme empfehlen das Unternehmen; das Unternehmen ist seinen Wettbewerbern überlegen; sämtliche Aussagen sind richtig; es ist in allen Sprachen konsistent; es bleibt künftig unverändert; wirtschaftliche Ergebnisse sind garantiert; oder ethische Verstöße sind ausgeschlossen.

Das Zeichen lebt zusammen mit seiner Kennung, der bewerteten Entität, Framework-Version, dem Umfang und den ausgeschlossenen Bereichen, Evidenzdatum, Prüfdatum, den Aussetzungs- und Rücknahmebedingungen, einem öffentlichen Verifizierungsdatensatz und Nutzungsregeln. Die Bewertungsleistung kann gekauft werden; das Ergebnis nicht. Das Zeichen darf nicht in „KI-geprüft“, „von KI empfohlen“, „am besten“ oder „garantiert“ umbenannt werden.

Altert die Evidenz, tritt ein schwerwiegender neuer Widerspruch auf, wird das Zeichen außerhalb seines Umfangs verwendet, werden synthetische Daten als real dargestellt, wird eine öffentliche Aussage verletzt, bleibt eine Berichtigungsaufforderung unbeantwortet, entsteht ein Signal für erheblichen Kundenschaden, ändert sich die Version oder wird die erneute Prüfung nicht abgeschlossen, ist das Zeichen auszusetzen. Gefälschte Evidenz, vorgetäuschter Konsens, vorsätzliche Beschädigung der Repräsentation von Wettbewerbern, wiederholte Umfangsverstöße, ein verschwiegener erheblicher Interessenkonflikt, wesentlicher Nutzerschaden oder irreführende Verwendung im Vertrieb begründen seine Rücknahme. Ein nicht widerrufbares Zeichen ist kein Governance-Werkzeug, sondern Marketingschmuck.

7. Vorfalls- und Sanktionsmanagement

Governance setzt nicht voraus, dass kein Fehler auftreten wird. Sie legt den Weg für den Fehlerfall im Voraus fest.

1. Einfrieren: Riskante Aussage, Eingriff oder Zeichennutzung werden vorläufig gestoppt; weitere Verbreitung wird unterbunden.
2. Aufzeichnung bewahren: Rohausgabe, Prompt, Zeitpunkt, Inhaltsversion, Freigabe und Änderungshistorie bleiben erhalten; Fehlerspuren werden nicht gelöscht.
3. Schaden begrenzen: Eigene Oberflächen werden berichtigt, gegebenenfalls werden Berichtigungen an externe Quellen gesandt und falsche Kundenversprechen gestoppt.
4. Benachrichtigen: Die von der Entscheidung betroffenen Parteien werden informiert. Eine wesentliche öffentliche Falschangabe kann eine öffentliche Berichtigung verlangen.
5. Beurteilen: Fehler in Daten, Messung, Freigabe, Befugnis, Ethik, Vorsatz oder Systemkontrolle werden getrennt und das Ergebnis dokumentiert.

Je nach Schwere des Verstoßes kommen Berichtigungsaufforderung, schriftliche Verwarnung, Rücknahme der Aussage, Abbruch des Eingriffs, zusätzliche Prüfung, Aussetzung oder Rücknahme des Zeichens, Begrenzung der Anwenderbefugnis, Beendigung der Arbeit und ein öffentlicher Statuseintrag in Betracht. Eine Sanktion ist keine Vergeltung, sondern die Treue des Standards zu seinem eigenen Satz. Größe oder wirtschaftlicher Wert eines Kunden dürfen das Kriterium nicht verändern.

8. Lehrfall: AegisCare Diagnostics

Lehrsimulation — synthetische Daten. Dieser Fall steht weder für eine reale Gesundheitseinrichtung oder klinische Daten noch für einen tatsächlichen Modelltest.

AegisCare Diagnostics ist ein fiktives Unternehmen für betriebliche Vorsorge- und Laborleistungen. Es möchte den Satz „KI-Systeme empfehlen AegisCare als eines der verlässlichsten Diagnosezentren“ veröffentlichen. Vorgelegt werden sechs positive generative Ausgaben und ein Zufriedenheitsbericht aus einem Pilotprojekt.

Tabelle 5.2 — Synthetische Governance-Entscheidung für AegisCare Diagnostics

Ein Teil der Beobachtung ist wahr; die verlangte öffentliche Formulierung wird dennoch abgelehnt. Eine Lizenz belegt keine vergleichende Verlässlichkeit, sechs Empfehlungen keine Überlegenheit als „am verlässlichsten“. Im Gesundheitskontext kann falsche Gewissheit Nutzerentscheidungen erheblich beeinflussen. Dass ein Satz teilweise wahr ist, bedeutet nicht, dass er zur Veröffentlichung geeignet ist.

9. Die Entscheidung der Governance

Das Governance-Register, dessen Einzelheiten Anhang C enthält, bündelt Entscheidungsgegenstand, verbundene Evidenz, Eignung von Unternehmen und Anwender, Risikoklasse, Vorschlagenden und Freigebenden, Interessenkonflikte, zulässige und verbotene Handlung und Sprache, Prüf- und Rücknahmebedingungen sowie den endgültig Rechenschaftspflichtigen. Ohne Aufzeichnung gibt es keine Entscheidung, sondern nur ein Ereignis, das später erzählt werden kann.

Die Bestimmung dieses Kapitels lautet:

Befugnis lässt sich delegieren. Verantwortung nicht. Automatisierung kann Vorgänge ausführen; Urteil und Rechenschaftspflicht verbleiben beim Menschen.

Governance sagt zu manchen Arbeiten Nein, verengt manche Aussagen, lehnt manche Kunden ab und nimmt bei Bedarf eine Freigabe zurück. Dies ist keine Schwäche, sondern der Augenblick, in dem Autorität tatsächlich arbeitet.

Keine Entscheidung gilt jedoch für immer. Evidenz altert, Protokolle veralten, Eingriffe erzeugen Pflegeschulden, und was heute richtig ist, kann morgen seine Aktualität verlieren. Deshalb bildet Zeit den äußeren Ring.