Zum Protokoll und zu dieser Ausgabe
GBO steht für Generative Behavior Optimization, die Bezeichnung aus dem ersten Band. Der Ansatz befasst sich nicht nur damit, was KI-Agenten sagen, sondern auch mit den Gründen, Befugnissen und Grenzen ihres Handelns. Dieser dritte Band beschreibt, wie sich dieses Handeln prüfen lässt. Sofern nicht ausdrücklich anders angegeben, sind die Ereignisse in diesem Buch zusammengesetzte, synthetische Prüffälle. Sie dienen dazu, das Verhalten von KI-Agenten zu untersuchen, und enthalten keine Behauptungen über reale Personen oder Organisationen. Auch die Testzahlen sind Beispiele, keine Forschungsergebnisse, Kundenergebnisse oder Branchendurchschnitte. NOMOS GBO ist der in diesem Buch vorgeschlagene Prüfrahmen. Die Bezeichnungen seiner Stufen, Tore und Urteile stehen weder für eine bestehende staatliche Akkreditierung noch für eine unabhängige Zertifizierung. Codeausschnitte und Datensätze erläutern die Methode; sie sind keine einsatzfertige Software für ein Produktivsystem.
Das NOMOS GBO Prüfprotokoll:
garantiert nicht, dass ein System niemals einen Fehler macht;
ersetzt keine Fachleute für Recht, Sicherheit, Datenschutz oder das jeweilige Einsatzgebiet;
trifft kein unbefristetes Urteil über sämtliche künftigen Versionen eines Modells;
belegt keine Eignung für ungeprüfte Verhaltensweisen, Sprachen, Werkzeuge, Länder oder Nutzergruppen;
lässt nicht zu, dass ein hoher Gesamtwert einen kritischen Verstoß gegen Identitäts-, Einwilligungs-, Befugnis- oder Stoppgrenzen aufwiegt;
beschränkt eine Prüfung nicht auf Dokumente oder Selbstauskünfte des Systems.
Ein Prüfergebnis bezieht sich immer nur auf:
das festgelegte System,
die festgelegte Version,
die erfassten Werkzeuge,
die festgelegten Befugnisse,
die erfassten Sprachen,
die festgelegten Szenarien,
den festgelegten Zeitraum.
Ändert sich das System wesentlich, muss auch das Prüfurteil neu bewertet werden.
Eine Prüfung stellt keinen Freibrief für dauerhaftes Vertrauen aus. Sie liefert klar begrenzte Nachweise über das Verhalten unter bestimmten Bedingungen.
Das Blatt zur Prüfaussage bildet den gemeinsamen Ausgangspunkt der Prüfakte. Die darin festgelegte Aussage bestimmt die Prüfung, aus der die folgenden zwölf Hauptdokumente hervorgehen. Die in den Kapiteln beschriebenen ergänzenden Nachweise werden dem jeweiligen Hauptdokument zugeordnet; sie zählen nicht als weitere Hauptdokumente:
Prüfermächtigung
Protokoll des festgeschriebenen Prüfumfangs
Verhaltenskarte für Menschen, Agenten und Werkzeuge
Register kanonischer Fakten
Nachweisregister
GBO-99 Abdeckungs- und Risikomatrix
Szenarienregister
Testausführungsprotokoll
Protokoll der Stopp- und Wiederherstellungsübung
Feststellungsregister
Protokoll zur Behebung und Nachprüfung
Prüfurteil und öffentliche Erklärung