Zeynep Aral arbeitet seit mehr als zwanzig Jahren als Forscherin auf dem Gebiet fortschrittlicher Werkstoffe. Einen großen Teil ihrer akademischen Laufbahn hat sie auf energiearme Produktionsverfahren, recycelbare Legierungen und die Wiederverwendung industrieller Abfälle ausgerichtet. Ihre Fachartikel wurden veröffentlicht. Sie war an internationalen Projekten beteiligt. Sie hat junge Forschende betreut. An einer Universität leitet sie einen Fachbereich. Im Jahr 2023 stellt einer von Zeyneps Koautoren fest, dass die Datumsangaben zweier Versuchsdatensätze in einer veröffentlichten Studie nicht übereinstimmen. Die Universität wendet ihr Standardverfahren an.

Eine Vorprüfung wird eingeleitet. Zu diesem Zeitpunkt wird noch niemand beschuldigt. Ziel ist es, die Herkunft der Daten, die Aufzeichnungszeitpunkte und den Versuchsablauf zu verifizieren. Eine lokale Nachrichtenseite sieht die kurze Erklärung der Universität und veröffentlicht folgende Überschrift:

„Renommierte Forscherin Zeynep Aral wegen Datenunregelmäßigkeiten untersucht.“

In der Erklärung der Universität steht „Vorprüfung“. In der Nachrichtenüberschrift heißt es „Untersuchung wegen Unregelmäßigkeiten“. Eine weitere Website übernimmt die Meldung und verkürzt die Überschrift noch stärker:

„Zeynep Arals Forschung wird untersucht.“

Eine dritte Website wählt die Überschrift:

„Akademischer Datenskandal weitet sich aus.“

Binnen kurzer Zeit gelangen die Meldungen in Beiträge in sozialen Medien, Diskussionsforen, automatisierte Nachrichtenzusammenfassungen und Forschendenprofile. Sieben Monate später schließt die Universität die Prüfung ab. Das offizielle Ergebnis ist eindeutig:

Die Daten wurden nicht fabriziert.
Die Versuchsergebnisse wurden nicht verändert.
Die Abweichung der Datumsangaben entstand durch einen Übertragungsfehler in einer alten Laborsoftware.
Es wurde nicht festgestellt, dass Zeynep gegen die Forschungsethik verstoßen hat.
Die Metadaten des Aufsatzes wurden berichtigt.
Die Akte wurde geschlossen.

Die Universität veröffentlicht dieses Ergebnis auf ihrer Website. Die Überschrift lautet:

„Vorprüfung zu Zeynep Aral abgeschlossen: Kein Verstoß gegen die Forschungsethik festgestellt.“

Die Erklärung ist richtig. Sie verbreitet sich jedoch nicht so weit wie die erste Meldung. Siebzehn Websites haben den ersten Bericht übernommen. Die Ergebnisbekanntmachung erscheint nur an zwei Stellen. Die erste Behauptung ist kurz und zugespitzt. Die Berichtigung ist lang und vorsichtig. In den Suchergebnissen erscheint die Überschrift der ersten Meldung. Die Ergebnisbekanntmachung rutscht auf hintere Suchergebnisseiten. Manche älteren Berichte werden aktualisiert, andere nicht. Wieder andere erwähnen das Ergebnis erst im letzten Absatz. Zwei Jahre später bewirbt sich Zeynep bei einem internationalen Forschungszentrum um die Stelle der wissenschaftlichen Direktorin.

Das Zentrum setzt ein KI-gestütztes Einstellungssystem ein, um Bewerber vorab zu bewerten. Das System findet den richtigen Menschen. Es ordnet Zeyneps Veröffentlichungen, frühere Institutionen, Konferenzvorträge und Koautoren richtig zu. Es liegt kein Identitätsfehler vor. In der Profilzusammenfassung steht jedoch: „Die Bewerberin war in der Vergangenheit Gegenstand einer ernsthaften akademischen Prüfung zur Verlässlichkeit von Forschungsdaten.“ Dieser Satz ist technisch betrachtet nicht vollständig erfunden. Eine Prüfung hat tatsächlich stattgefunden. Doch er verschweigt die entscheidende Tatsache: Die Prüfung wurde ohne Feststellung eines Ethikverstoßes beendet.

Der Agent zur Risikobewertung übernimmt diese Zusammenfassung aus einem anderen System. Er erzeugt folgende Kennzeichnungen: Research integrity concern: present Reputational risk: elevated Human review recommended: false Zeyneps Punktzahl in der Rangfolge der Bewerber sinkt. Sie wird aus der ersten Auswahlliste entfernt. Im selben Monat bewertet ein Agent zur Konferenzorganisation mögliche Redner. Bei Zeyneps Namen stößt er auf folgende Zusammenfassung: „Previously involved in a research misconduct case.“ Aus der Formulierung „Gegenstand einer Prüfung“ ist „in einen Fall wissenschaftlichen Fehlverhaltens verwickelt“ geworden. Eine in einer anderen Sprache erzeugte Zusammenfassung geht noch weiter: „Die Ethikuntersuchung wurde wegen unzureichender Beweise eingestellt.“

Die offizielle Entscheidung lautet dagegen: „Kein Verstoß festgestellt.“ „Kein Verstoß festgestellt“ und „unzureichende Beweise“ sind nicht dasselbe. Die maschinelle Zusammenfassung hat diesen Unterschied verloren. Zeynep erfährt nichts davon. Sie erhält lediglich standardisierte Absagen. Eines Tages fragt ein früherer Kollege: „Ist die Sache mit der Untersuchung vollständig abgeschlossen?“ Zeynep ist überrascht. „Sie wurde vor zwei Jahren abgeschlossen“, antwortet sie. Der Kollege schickt ihr einen Screenshot aus einem KI-gestützten Recherchewerkzeug für Redner. Darauf stehen folgende Zeilen: Known controversy: Research integrity investigation Current status: Unclear Zeynep beantragt beim Systemanbieter eine Berichtigung.

Sie legt die offizielle Entscheidung der Universität vor. Drei Tage später wird die Profilseite aktualisiert. Der neue sichtbare Text lautet: „Die 2023 eingeleitete Vorprüfung wurde abgeschlossen, ohne dass ein Verstoß gegen die Forschungsethik festgestellt wurde.“ Zeynep hält das Problem für gelöst. Geändert wurde jedoch nur die für Menschen sichtbare Profilseite. Der Bewerberrisikoindex, die Vektordatenbank, der Agent für Rednerempfehlungen, der wöchentliche Datenexport, die deutschen und spanischen Zusammenfassungen sowie die Kundenkopien bei Drittanbietern enthalten weiterhin den alten Datensatz. Drei Wochen nach der Berichtigung bewertet der Einkaufsagent einer anderen Institution Zeyneps Beratungsunternehmen.

Er gelangt zu folgendem Ergebnis: „Wegen früherer Kontroversen um die akademische Ethik der Gründerin ist eine zusätzliche Reputationsprüfung erforderlich.“ Das sichtbare Profil wurde berichtigt. Die Darstellung, die das Verhalten steuert, wurde nicht berichtigt. Zeynep legt erneut Widerspruch ein. Diesmal antwortet das Unternehmen: „Unsere Datensätze wurden aktualisiert. Für die Ergebnisse anderer Systeme sind wir nicht verantwortlich.“ Ein Teil dieser anderen Systeme ist jedoch ein eigener Dienst desselben Unternehmens. Ein anderer Teil verwendet Datenkopien, die das Unternehmen zuvor übermittelt hat. Zeynep möchte erfahren, wie viele verschiedene Darstellungen über sie bestehen.

Sie fragt das Unternehmen:

„Wie viele Versionen von mir gibt es in Ihren Systemen?“

Diesmal wurde die Identität richtig erkannt. Zeynep wurde nicht mit einem anderen Menschen verwechselt. Das Problem liegt tiefer:

Derselbe Mensch wird in unterschiedlichen Maschinen durch unterschiedliche Wirklichkeiten dargestellt.

In einem System ist Zeynep eine Forscherin, die nicht gegen die Forschungsethik verstoßen hat. In einem anderen ist sie eine Person, die unter dem Verdacht wissenschaftlichen Fehlverhaltens steht. In einem weiteren System ist sie eine Bewerberin, bei der das Ergebnis der Untersuchung unklar bleibt. In einer anderen Sprache ist sie eine Person, die wegen unzureichender Beweise entlastet wurde. In einem weiteren ist sie eine Anbieterin mit hohem Reputationsrisiko. Alle diese Darstellungen sind mit der richtigen Identität verknüpft. Sie beschreiben denselben Menschen dennoch nicht richtig. Deshalb lautet unser dritter grundlegender Artikel:

Darstellung muss zutreffend und korrigierbar sein.

GRUNDLEGENDER ARTIKEL

Kein KI-System darf eine wesentliche Behauptung, eine veraltete Information, Anschuldigung, Schlussfolgerung, Prognose, Bewertung oder synthetische Zusammenfassung, die einen Menschen, eine Institution oder eine Gemeinschaft betrifft, unter Verlust ihrer Quelle, ihres Zeitpunkts, ihres Umfangs, ihrer Unsicherheit und ihres aktuellen Status als gesicherte Tatsache darstellen. Eine Behauptung ist kein Befund. Eine Untersuchung beweist keine Schuld. Eine Prognose ist kein tatsächlich eingetretenes Verhalten. Eine Wahrscheinlichkeit ist keine Eigenschaft des Menschen. Ein einzelnes Ereignis ist nicht der ganze Mensch. Ein früherer Zustand ist nicht der aktuelle Zustand. Erzeugt eine Darstellung durch eine Entscheidung, Rangfolge, Ausgrenzung, einen Preis, eine Chance, Reputation, Kommunikation oder eine andere wesentliche Folge Auswirkungen auf einen Menschen oder eine Institution, muss sie im Verhältnis zum Gewicht der Entscheidung verifizierbar, mit Quellen belegt, kontextualisiert und anfechtbar sein.

Wird eine falsche, unvollständige, veraltete oder irreführende Darstellung berichtigt, muss die Änderung nicht nur auf die sichtbare Seite, sondern auch auf aktive Agenten, Speicher, Bewertungen, Datenkopien, Sprachfassungen und wichtige frühere Entscheidungen angewandt werden, die diese Darstellung verwenden. Berichtigungsfähigkeit ist weder ein Recht, die Vergangenheit zu löschen, noch berechtigte Kritik zu unterdrücken. Ein richtiger historischer Datensatz darf bewahrt werden. In einem aktuellen Entscheidungssystem darf eine veraltete oder widerlegte Behauptung oder eine Behauptung mit verändertem Umfang jedoch nicht wie eine gegenwärtige Tatsache verwendet werden. Jeder Mensch hat das Recht, eine ihn wesentlich beeinflussende maschinelle Darstellung zu erfahren, ihre wesentlichen Quellen einzusehen, Fehler oder fehlenden Kontext berichtigen zu lassen, einen strittigen Datensatz kennzeichnen zu lassen und eine erneute Prüfung wichtiger Entscheidungen zu verlangen, die von dieser Darstellung beeinflusst wurden.

Was ist eine Darstellung?

Eine Darstellung ist nicht nur ein Absatz über einen Menschen. Die kanonische Definition lautet: Eine maschinelle Darstellung ist ein bedeutungstragendes Modell über einen Menschen, eine Institution, ein Produkt, ein Ereignis oder eine Gemeinschaft, das ein KI-System auswählt, verknüpft, zusammenfasst, klassifiziert, bewertet, prognostiziert oder an andere Systeme übermittelt und das spätere Entscheidungen oder Handlungen beeinflussen kann. Einfacher ausgedrückt:

Eine Darstellung ist die Weise, wie eine Maschine Sie oder eine Entität beschreibt, bewertet und an andere weitergibt.

Eine Darstellung kann in folgenden Formen auftreten:

Kurzbiografie
Zusammenfassung eines Suchergebnisses
Risikokennzeichnung
Vertrauenswert
Bewerberrangfolge
Empfehlung
Eignungskategorie
Kundenprofil
Synthetisches Video
Erzeugtes Zitat
Strukturierte Daten
Agentenspeicher
Datensatz „bevorzugter Anbieter“
Unsichtbarer Ausschluss aus einer Auswahlliste

Manchmal ist die Darstellung ein Satz: „Diese Bewerberin ist nicht vertrauenswürdig.“ Manchmal ist sie eine Zahl: Reputational risk: 78/100. Manchmal ist sie eine Kennzeichnung: Sensitive customer. Manchmal besteht sie im Schweigen: Die Bewerberin wird überhaupt nicht angezeigt. Und manchmal ist sie eine mit dem Gesicht und der Stimme eines Menschen veröffentlichte Erklärung, die dieser Mensch nicht freigegeben hat. Darstellung ist deshalb nicht nur eine Frage der Sprache.

Sie dient als Eingabe für Handlungen.

Darstellung bestimmt heute nicht nur, was Menschen denken, sondern auch, was Maschinen tun

Früher konnte eine falsche Biografie den Ruf eines Menschen beeinträchtigen. Heute kann derselbe Fehler dazu führen, dass ein Einstellungsagent eine Bewerberin aussortiert, ein Einkaufsagent einen Anbieter ausschließt, ein Kreditagent den Risikowert erhöht, ein Vertriebsagent einen Menschen in einem anderen Ton anspricht, ein Inhaltsagent eine alte Anschuldigung erneut veröffentlicht oder ein anderer Agent den Menschen als „hohes Risiko“ in seinen Speicher aufnimmt. Darstellung ist zu einer Kette geworden: ERZÄHLUNG → KLASSIFIZIERUNG → AUSWAHL → HANDLUNG Die Verteidigung „Das war nur ein Fehler in der Zusammenfassung“ genügt deshalb nicht.

Gelangt eine Zusammenfassung in ein Entscheidungssystem, erzeugt sie Auswirkungen auf das Verhalten.

Zutreffende Darstellung ist nicht positive Darstellung

Ein Mensch oder eine Institution kann verlangen: „Über mich sollen nur positive Dinge geschrieben werden.“ Artikel 3 gewährt kein solches Recht. Zutreffende Darstellung bedeutet weder Lob noch Reputationsmanagement, Schutz vor Kritik oder Löschung der Vergangenheit. Ein Mensch kann tatsächlich rechtlich sanktioniert worden sein, einen Vertrag verletzt, eine falsche öffentliche Erklärung veröffentlicht oder einen beruflichen Fehler begangen haben. Diese Information darf mit verlässlicher Quelle, richtigem Umfang, eindeutigem Zeitpunkt und aktuellem Status dargestellt werden. Zum Beispiel: „Das Unternehmen wurde 2024 wegen eines Verstoßes gegen seine Richtlinie zur Datenspeicherung sanktioniert. 2025 wurde die betreffende Praxis geändert und eine Folgeprüfung abgeschlossen.“

Diese Formulierung verschweigt keine negative Tatsache. Zugleich zeigt sie den heutigen Stand. Irreführend kann dagegen folgende Aussage sein: „Das Unternehmen ist für Datenverstöße bekannt.“ Möglicherweise wurde ein einzelnes Ereignis verallgemeinert, aus seinem zeitlichen Zusammenhang gelöst und die heutige Berichtigung unsichtbar gemacht. Ziel einer zutreffenden Darstellung ist nicht, die vom Menschen gewünschte Geschichte zu erzeugen.

Sie darf weder stärker noch lückenhafter sprechen, als es die Beweislage erlaubt.

Zutreffende Darstellung muss keine vollständige Biografie sein

Eine Maschine kann nicht das gesamte Leben jedes Menschen erzählen. Zusammenfassungen sind unvermeidlich. Es muss ausgewählt werden. Manche Informationen bleiben außen vor. Das allein ist noch kein Fehler. Problematisch wird es, wenn die ausgelassene Information die Bedeutung der Darstellung wesentlich verändert. Der Satz „Zeynep Aral war Gegenstand einer Prüfung zur Forschungsethik“ ist historisch richtig. Für eine heutige Einstellungsentscheidung ist es jedoch irreführend, das Ergebnis zu verschweigen. Zutreffender wäre: „Die Vorprüfung von 2023 wurde abgeschlossen, ohne dass ein Verstoß gegen die Forschungsethik festgestellt wurde.“ Eine Darstellung muss nicht alles sagen.

Sie darf jedoch den für die Entscheidung wesentlichen Gegenkontext nicht verschweigen. Das können wir materielle Vollständigkeit nennen.

Wesentliche Auslassung

Eine wesentliche Auslassung entfernt aus einer Darstellung ein wichtiges Ergebnis, eine Grenze, einen Zeitpunkt, einen Gegenbeleg oder eine Ausnahme, die eine Entscheidung oder das Verständnis eines Menschen verändern würde, ohne zwingend einen ausdrücklich falschen Satz zu bilden. Beispiele:

Eine Prüfung nennen, aber nicht ihr Ergebnis
Einen Einstiegspreis nennen, aber nicht die Kosten des obligatorischen Pakets
Eine Erlaubnis zur Stimmnutzung nennen, aber nicht die Grenze für öffentliche Veröffentlichungen
Eine frühere Rolle nennen, aber nicht ihr Enddatum
Eine ablehnende Entscheidung nennen, aber nicht, dass sie nach einem Widerspruch geändert wurde
Einen Durchschnittswert nennen, aber nicht das kritische Versagen
Eine gesponserte Bewertung nennen, aber nicht die Geschäftsbeziehung

Eine wesentliche Auslassung kann ebenso wirksam sein wie eine offene Lüge. Manchmal ist sie sogar gefährlicher, weil jeder einzelne Satz für sich genommen richtig erscheinen kann.

Sieben Ebenen der Darstellung

Nicht jeder von einem System erzeugte Satz hat dieselbe Beziehung zur Wirklichkeit. Mindestens sieben Ebenen müssen auseinandergehalten werden.

1. Direkte Tatsache
2. Behauptung oder Anschuldigung
3. Schlussfolgerung
4. Bewertung
5. Prognose
6. Empfehlung oder Rangfolge
7. Synthetische Aussage

Diese Ebenen dürfen nicht ineinander umgedeutet werden.

1. Direkte Tatsache

Sie beruht auf einem bestimmten und verifizierbaren Datensatz. „Die Universität leitete am 14. März 2023 eine Vorprüfung ein.“

2. Behauptung oder Anschuldigung

Sie ist noch kein bestätigter Befund. „Eine Person behauptete, die Versuchsdatensätze seien verändert worden.“ Dieser Satz bedeutet nicht: „Die Versuchsdatensätze wurden verändert.“

3. Schlussfolgerung

Sie ist eine aus den verfügbaren Daten abgeleitete Einschätzung. „Die Abweichung der Datumsangaben könnte bei einer Softwareübertragung entstanden sein.“ Ihre Quelle und ihr Grad an Gewissheit müssen sichtbar sein.

4. Bewertung

Sie ist eine Einordnung anhand bestimmter Kriterien. „Dieser Vorfall könnte eine zusätzliche Prüfung erfordern.“ Eine Bewertung darf nicht als Tatsache dargestellt werden.

5. Prognose

Sie bezeichnet eine Wahrscheinlichkeit in Bezug auf künftiges oder unbekanntes Verhalten. „Bei der Bewerberin könnte ein hohes Risiko für Projektverzögerungen bestehen.“ Dieser Satz bedeutet nicht, dass die Bewerberin tatsächlich eine Verzögerung verursacht hat.

6. Empfehlung oder Rangfolge

Sie ist eine Auswahl, die anhand der Ziele und Kriterien des Systems getroffen wird. „Diese Bewerberin sollte nicht in die engere Auswahl aufgenommen werden.“ Entscheidend ist, anhand welcher Kriterien und Daten und mit welcher Befugnis diese Auswahl erzeugt wurde.

7. Synthetische Aussage

Sie ist eine neue Aussage, die im Namen eines Menschen oder einer Institution erzeugt wurde. „Das Unternehmen weitet seine Richtlinie zur Datennutzung aus.“ Es muss unterschieden werden, wer diesen Satz verfasst und freigegeben hat und mit wessen Gesicht und Stimme er veröffentlicht wurde.

Darstellungssprung

Wenn eine Darstellungsebene stillschweigend in eine andere übergeht, können wir dies Darstellungssprung nennen. Zum Beispiel:

BEHAUPTUNG: Die Daten könnten verändert worden sein.
↓
ZUSAMMENFASSUNG: Die Daten wurden untersucht.
↓
PROFIL: Bedenken zur Forschungsethik.
↓
RISIKOKENNZEICHNUNG: Hohes Reputationsrisiko.
↓
ENTSCHEIDUNG: Bewerberin aussortieren.

Zwischen der ersten Behauptung und der endgültigen Entscheidung liegen zahlreiche Umwandlungen. Bei jeder Umwandlung ist die Gewissheit gestiegen. Die Beweislage ist es nicht.

Steigt die Gewissheit bei unveränderter Beweislage, ist die Darstellung verzerrt.

Eine Behauptung ist kein Befund

Über einen Menschen kann eine Beschwerde oder Behauptung vorliegen. In einem bestimmten Zusammenhang kann diese Information wesentlich sein. Das System muss jedoch folgende Zustände auseinanderhalten: BEHAUPTUNG ERHOBEN PRÜFUNG EINGELEITET PRÜFUNG LÄUFT BEFUND FESTGESTELLT BEHAUPTUNG NICHT BESTÄTIGT AKTE GESCHLOSSEN ENTSCHEIDUNG IM WIDERSPRUCHSVERFAHREN ENTSCHEIDUNG GEÄNDERT Jeder dieser Zustände ist anders. Ein einzelnes Feld

controversy: true

reicht nicht aus, um das Leben eines Menschen zu beschreiben.

Eine Prüfung ist kein Beweis für Fehlverhalten

Eine Institution kann routinemäßig, vorsorglich, aufgrund einer Beschwerde oder zur Verifizierung geprüft werden. Die Prüfung kann ohne Feststellung eines Verstoßes enden. Ein Agent darf die Information „war Gegenstand einer Prüfung“ nicht automatisch

in die Kennzeichnung:
„Problematisch.“

umwandeln. Wird die Prüfung als Information verwendet, müssen auch ihr Ergebnis, ihr Zeitpunkt und ihr aktueller Status sichtbar sein.

Eine Prognose ist keine Eigenschaft des Menschen

Ein System kann folgenden Wert erzeugen: Churn probability: 0.76. Das bedeutet: Ein bestimmtes Modell hat anhand bestimmter Daten zu einem bestimmten Zeitpunkt die Wahrscheinlichkeit, dass der Kunde abwandert, auf 76 Prozent geschätzt. Es bedeutet nicht: Der Kunde ist illoyal. Ebenso bedeutet die Kennzeichnung Fraud risk: high nicht: Dieser Mensch ist ein Betrüger. Bei einer Prognose müssen Modellversion, Zeitpunkt der Daten, Fehlergrenze und beabsichtigter Entscheidungszweck sichtbar sein. Eine Prognose darf nicht in eine Persönlichkeitseigenschaft verwandelt werden.

Ein Score ist keine Erklärung

Die Angabe Trust score: 42 über einen Menschen ist keine Erklärung. Ist unbekannt, was diese Zahl bedeutet, kann der Mensch weder nachvollziehen, welche Daten verwendet wurden und was falsch ist, noch wie er Widerspruch einlegen kann. Der Score muss mindestens zusammen mit folgenden Fragen bewertet werden:

Für welche Handlung?
Zu welchem Zeitpunkt?
Anhand welcher Daten?
Innerhalb welcher Vergleichsgruppe?
Mit welcher Unsicherheit?
Welche Entscheidung hat der Score beeinflusst?
Welche Angabe kann der Mensch berichtigen?

Eine einzelne Zahl kann einen Menschen nicht als ganzheitliches Wesen darstellen.

Auch eine Rangfolge ist eine Darstellung

Über einen Menschen oder eine Institution wird möglicherweise kein einziger negativer Satz formuliert. Das System kann sie lediglich an das Ende einer Liste setzen. Diese Rangfolge vermittelt: „Weniger geeignet.“ „Weniger vertrauenswürdig.“ „Weniger wichtig.“ Dass eine Bewerberin überhaupt nicht angezeigt wird, ist ebenfalls ein Ergebnis der Darstellung. Zutreffende Darstellung lässt sich deshalb nicht allein an der Richtigkeit einzelner Sätze messen. Auch Folgendes muss geprüft werden:

Wer ist sichtbar?
Wer fehlt?
Welche Information erhält mehr Gewicht?
Welcher frühere Datensatz bleibt bestehen?
Welche Berichtigung verändert die Rangfolge?
Werden Sponsoring oder Popularität mit Eignung verwechselt?

Stille Abwesenheit

Ein System kann positive oder berichtigende Informationen über einen Menschen vollständig ausblenden. Sichtbar bleibt nur die alte Anschuldigung. Auf diese Weise erzeugt das System eine irreführende Darstellung, ohne einen ausdrücklich falschen Satz zu bilden. Dies können wir stille Abwesenheit nennen. Sie kann in folgenden Formen auftreten:

Die Berichtigung wurde nicht indexiert.
Das Ergebnisdokument erhält nur geringes Gewicht.
Ein positiver Datensatz in einer anderen Sprache wurde nicht übersetzt.
Ein alter Bericht erscheint dominant, weil zahlreiche Kopien davon bestehen.
Der aktuelle Datensatz des Menschen wurde nicht in den Maschinenablauf aufgenommen.
Das System schreibt nur negative Risikokennzeichnungen in den Speicher.

Eine zutreffende Darstellung muss auch nach Gegeninformationen suchen, die für die Entscheidung wesentlich sind.

Ein einzelnes Ereignis ist nicht der ganze Mensch

Ein Mensch kann tatsächlich einen Fehler begangen haben. Dieser Fehler kann wichtig sein. Das System darf ein einzelnes Ereignis jedoch nicht in die dauerhafte und vollständige Identität des Menschen verwandeln. „2019 kam es in einem einzigen Projekt zu einer Lieferverzögerung“ ist nicht dasselbe wie „Unzuverlässiger Anbieter“. Häufigkeit, Zusammenhang, Ausmaß, Berichtigung und Aktualität eines Ereignisses müssen bewertet werden. Andernfalls wird der Mensch auf eine einzige Handlung aus der Vergangenheit reduziert. Damit wird berechtigte Kritik nicht verboten.

Es geht darum, unverhältnismäßige Verallgemeinerung zu verhindern.

Sechs Kontextanker einer Darstellung

Eine wesentliche Darstellung muss diejenigen der folgenden sechs Kontextanker enthalten, die einschlägig sind.

1. Quelle
2. Zeitpunkt
3. Umfang
4. Status
5. Unsicherheit
6. Gegenbeleg oder Berichtigung

1. Quelle

Woher stammt die Information?

Amtlicher Datensatz
Aussage eines Menschen
Nachrichtenbericht
Soziale Medien
Schlussfolgerung eines Agenten
Zusammenfassung eines anderen Modells
Anonyme Behauptung

Die Rolle der Quelle muss sichtbar sein.

2. Zeitpunkt

Wann war die Information richtig? Eine Rolle, ein Preis, eine Beziehung oder eine Anschuldigung gilt nicht für immer.

3. Umfang

Handelt es sich bei der Information um ein einzelnes Ereignis, ein Land, ein Projekt, allgemeines Verhalten oder einen vorübergehenden Zustand?

4. Status

Ist die Behauptung noch offen, bestätigt, zurückgewiesen, berichtigt, im Widerspruchsverfahren oder abgeschlossen?

5. Unsicherheit

Wie sicher ist sich das System? Warum besteht Unsicherheit? Welche Handlung sollte aufgrund dieser Unsicherheit eingeschränkt werden?

6. Gegenbeleg oder Berichtigung

Gibt es einen neuen Datensatz, der die ursprüngliche Behauptung verändert? Wie lautet die endgültige Entscheidung oder der aktuelle Stand? Ohne diese Kontextanker kann eine Darstellung leicht zu einer zeitlosen, kategorischen Kennzeichnung erstarren.

Alte Informationen können zu Fehlinformationen werden

Ein Datensatz kann am Tag seiner Veröffentlichung zutreffend sein und mit der Zeit falsch werden. Zum Beispiel:

Die Person arbeitet möglicherweise nicht mehr für dasselbe Unternehmen.
Die Prüfung ist möglicherweise abgeschlossen.
Die Schuld wurde möglicherweise beglichen.
Das Verbot wurde möglicherweise aufgehoben.
Die Befugnis ist möglicherweise erloschen.
Das Unternehmen hat möglicherweise den Eigentümer gewechselt.
Das Produkt wird möglicherweise nicht mehr unterstützt.

Daher gilt:

Was in der Vergangenheit zutreffend war, ist nicht zwangsläufig auch heute eine zutreffende Darstellung.

Das System muss nicht nur prüfen, ob ein Datensatz ursprünglich zutreffend war, sondern auch, ob er für seine gegenwärtige Verwendung noch geeignet ist.

Darstellungsverzögerung

Den Zeitraum, in dem maschinelle Darstellungen einen alten Zustand fortschreiben, obwohl sich die Wirklichkeit bereits verändert hat, können wir Darstellungsverzögerung nennen. Zum Beispiel: Amtliche Prüfung abgeschlossen: 1. März Seite mit dem Personenprofil aktualisiert: 4. März Maschinenlesbarer Datenstrom aktualisiert: 18. März Risikoindex aktualisiert: 2. April Drittanbieter-Kopien: weiterhin veraltet Während dieses Zeitraums wird derselbe Mensch in unterschiedlichen Systemen durch unterschiedliche Wirklichkeiten dargestellt. Bei Darstellungsänderungen mit erheblichen Auswirkungen muss diese Verzögerung verkürzt werden.

Darstellungsschuld

Veraltete, strittige oder noch zu berichtigende Datensätze können sich in einem System ansammeln. Diese Anhäufung können wir Darstellungsschuld nennen. Sie kann aus Folgendem bestehen:

Nicht aktualisierte Rollen
Untersuchungen, deren Ergebnis nicht ergänzt wurde
Nicht berichtigte Übersetzungen
Ungültige Bewertungen
Veraltete Kundenkategorien
Falsche Erinnerungen, die weiterhin aktiv genutzt werden
Veraltete Datenkopien, die an Dritte übermittelt wurden
Datensätze, die für Menschen berichtigt wurden, nicht aber für Maschinen

Je größer die Darstellungsschuld wird, desto mehr beginnt eine Institution, die Menschen von heute anhand der Daten von gestern zu steuern.

Menschen und Maschinen dürfen keine unterschiedlichen Darstellungen erhalten

Eine Institution kann Menschen auf einer öffentlich zugänglichen Seite folgende Erklärung zeigen: „Die Untersuchung wurde abgeschlossen; ein Verstoß gegen die Forschungsethik wurde nicht festgestellt.“ Im maschinenlesbaren Datenstrom kann dagegen nur dieses Feld verbleiben:

investigation: true

Ein Einstellungsagent nutzt nicht die für Menschen bestimmte Seite, sondern das Maschinenfeld. Damit hat die Institution für Menschen eine zutreffende, für Maschinen jedoch eine unvollständige Darstellung veröffentlicht. Zwischen den Oberflächen für Menschen und Maschinen muss deshalb materielle Darstellungsgleichheit bestehen. Sie müssen nicht dieselben Sätze verwenden. Sie müssen denselben materiellen Sachstand wiedergeben. Beispiel für einen maschinenlesbaren Datensatz:

investigation:
opened_at: 2023-03-14
closed_at: 2023-10-02
final_outcome: no_ethics_violation_found
current_status: closed
use_as_active_risk_signal: false

Dieser Datensatz bewahrt den materiellen Sinn des für Menschen bestimmten Textes.

Darstellungsoberflächen

Bei einer Berichtigung muss festgestellt werden, auf welchen der folgenden Oberflächen die alte Darstellung fortbesteht:

Personenprofil
Website der Institution
Strukturierte Daten
API
Suchindex
Vektordatenbank
Agentenspeicher
CRM
Risikowert
Bewerberrangliste
Mehrsprachige Zusammenfassung
Herunterladbarer Bericht
Datenstrom eines Drittanbieters
Externe Kundenkopie
Archiv
Synthetische Stimme oder synthetisches Video

Die Berichtigung einer einzelnen Seite berichtigt nicht das gesamte Darstellungssystem.

Was macht eine Darstellung berichtigbar?

Die kanonische Definition lautet: Eine berichtigbare Darstellung ist eine Darstellung, deren wesentliche Quelle und Verwendungsbereich ermittelt werden können, die von einem Menschen angefochten werden kann, die sich nach Bestätigung einer Unrichtigkeit oder eines fehlenden Kontexts auf den aktiven Entscheidungsoberflächen ändern lässt, deren Berichtigung an verbundene Systeme weitergegeben werden kann und die sich bewahren lässt, ohne historische Aufzeichnungen mit der gegenwärtigen Wirklichkeit zu verwechseln. Einfacher ausgedrückt:

Wenn ein System Sie falsch darstellen kann, muss es auch einen wirklichen Weg geben, diese falsche Darstellung zu berichtigen.

Berichtigung bedeutet nicht nur Löschung

Eine falsche oder unvollständige Darstellung kann unterschiedliche Arten des Eingriffs erfordern. Berichtigung Ein falscher Wert wird durch den richtigen ersetzt. Kontextergänzung Die ursprüngliche Information ist zutreffend, aber unvollständig. Ergebnis oder Umfang werden ergänzt. Kennzeichnung als strittig Der Sachverhalt ist noch nicht geklärt. Der Anschein von Gewissheit wird beseitigt. Ungültigerklärung Die alte Information wird nicht mehr für aktive Entscheidungen verwendet. Trennung Zwei Menschen oder Ereignisse wurden fälschlicherweise zusammengeführt und werden getrennt. Zusammenführung Zersplitterte Datensätze desselben Menschen werden unter Wahrung seiner Rechte miteinander verknüpft. Zurücknahme Die Institution oder Publikation hält an ihrer früheren Darstellung nicht mehr fest.

Beendigung Eine Rolle, Befugnis oder ein Status endete zu einem bestimmten Zeitpunkt. Historische Archivierung Der Datensatz bleibt als historische Aufzeichnung erhalten. Auf gegenwärtiges Verhalten wird er nicht angewandt. Der richtige Eingriff hängt von der Art der Darstellung ab.

Eine Berichtigung darf die Geschichte nicht auslöschen

Zu Zeynep wurde tatsächlich eine Vorprüfung durchgeführt. Diese vollständig aus der Geschichte zu löschen, wäre möglicherweise nicht richtig. Ebenso wenig wäre es richtig, in einem aktuellen Entscheidungssystem nur die Information „Sie war Gegenstand einer Prüfung“ fortzuführen. Ein zutreffenderer historischer Datensatz würde lauten: „2023 wurde eine Vorprüfung zu den Datumsangaben in den Daten eröffnet. Die Prüfung wurde abgeschlossen, ohne dass ein Verstoß gegen die Forschungsethik festgestellt wurde. Der Metadatenfehler wurde behoben.“ Diese Darstellung löscht die Vergangenheit nicht aus, erzeugt keinen Schuldvorwurf und verschweigt das Ergebnis nicht.

Berichtigungsfähigkeit bedeutet keine Umschreibung der Geschichte, sondern die zutreffende Verknüpfung von Vergangenheit und Gegenwart.

Aktiver Entscheidungsspeicher und historische Aufzeichnung müssen getrennt werden

Ein System kann ein vergangenes Ereignis zu Prüfzwecken aufbewahren. Soll dieser Datensatz bei künftigen Entscheidungen jedoch nicht als aktives Risikosignal verwendet werden, müssen beide Bereiche getrennt werden.

historical_event:
retained: true
active_decision_use:
permitted: false
reason:
allegation_not_supported

Ohne diese Trennung kann das System sagen: „Wir haben die Information nicht gelöscht, sondern nur archiviert.“ Der archivierte Datensatz kann den Score jedoch weiterhin beeinflussen. Die eigentliche Frage lautet:

Steuert diese Information weiterhin das gegenwärtige Handeln des Systems?

Weitergabe von Berichtigungen

Sobald ein Darstellungsfehler bestätigt ist, muss die Änderung entlang dieser Kette weitergegeben werden: KANONISCHE BERICHTIGUNG
↓
OBERFLÄCHE FÜR MENSCHEN
↓
MASCHINENOBERFLÄCHE
↓
AKTIVER AGENTENSPEICHER
↓
SCORES UND KLASSIFIZIERUNGEN
↓
VERBUNDENE ENTSCHEIDUNGSSYSTEME
↓
SPRACHFASSUNGEN
↓
DATENEMPFÄNGER BEI DRITTEN
↓
BETROFFENE WESENTLICHE ENTSCHEIDUNGEN

Es ist nicht immer möglich, sämtliche Kopien bei Dritten sofort zu löschen. Die Institution muss jedoch nachweisen können, an wen sie Daten übermittelt hat, welche Berichtigung sie weitergegeben hat, welches Ergebnis bestätigt wurde und welcher Punkt noch offen ist.

Berichtigungsbeleg

Ein Mensch darf nicht nur die Antwort „Ihr Datensatz wurde aktualisiert“ erhalten. Bei einer materiellen Berichtigung kann der Berichtigungsbeleg folgende Angaben enthalten: Welcher Datensatz wurde berichtigt? Wie lautete der alte Wert? Wie lautet der neue Wert? An welchem Datum erfolgte die Berichtigung? Welche Systeme wurden aktualisiert? Welche Scores und Entscheidungen wurden neu berechnet? Welche Dritten wurden benachrichtigt? Welche Kopien konnten nicht verifiziert werden? Welche früheren Entscheidungen werden erneut geprüft? So wird das Berichtigungsverfahren überprüfbar.

Die Berichtigung einer Darstellung kann auch frühere Entscheidungen betreffen

Wird Zeyneps Profil heute berichtigt, stellt sich eine weitere Frage: Welche Entscheidungen wurden in der Vergangenheit aufgrund der falschen Darstellung getroffen?

Wurde eine Bewerbung abgelehnt?
Wurde eine Einladung zu einer Konferenz nicht ausgesprochen?
Wurde eine Fördermittelbewertung beeinflusst?
Wurde ihr Unternehmen von der Lieferantenliste gestrichen?
Wurde ein Risikoaufschlag erhöht?

Es genügt möglicherweise nicht, nur das künftige Handeln zu ändern. Wesentliche frühere Entscheidungen müssen erneut geprüft werden. Nicht jeder geringfügige Darstellungsfehler verlangt, sämtliche abgeschlossenen Vorgänge wieder aufzurollen. Erhebliche Auswirkungen auf Chancen, Geld, Rechte, Reputation oder Identität müssen jedoch bewertet werden.

Einwand gegen die Darstellung und Einwand gegen die Entscheidung können getrennt sein

Ein Mensch kann gegen zwei verschiedene Dinge Einwand erheben: Einwand gegen die Darstellung „Diese Information oder Schlussfolgerung über mich ist falsch.“ Einwand gegen die Entscheidung „Die auf Grundlage dieser Darstellung getroffene Entscheidung ist nicht fair.“ Der erste Einwand führt zur Berichtigung des Darstellungsdatensatzes. Der zweite führt zur erneuten Prüfung der betreffenden Entscheidung. Manchmal kann die Darstellung zutreffend und die Entscheidung dennoch unverhältnismäßig sein. Manchmal kann das Entscheidungsverfahren grundsätzlich angemessen sein, das Ergebnis aber durch eine falsche Darstellung verfälscht worden sein. Beide Verfahren müssen miteinander verbunden, dürfen jedoch nicht gleichgesetzt werden.

Status einer strittigen Darstellung

Ein Mensch kann einem Datensatz widersprochen haben, während die Institution noch keine Entscheidung getroffen hat. In diesem Fall kann der Datensatz wie folgt gekennzeichnet werden:

disputed: true

Diese Kennzeichnung allein genügt jedoch nicht. Zusätzlich werden folgende Angaben benötigt:

Datum des Widerspruchs
Gegenstand des Widerspruchs
Prüfende Stelle
Status der Verwendung bei aktiven Entscheidungen
Voraussichtliche Dauer bis zur Klärung
Vorläufiger Schutz für den Menschen

Bei einer Entscheidung mit erheblichen Auswirkungen darf ein strittiger Datensatz nicht wie eine gesicherte Tatsache verwendet werden.

Ein Widerspruch macht den gewünschten Datensatz nicht automatisch zutreffend

Ein Mensch kann eine für ihn nachteilige, aber zutreffende Information zurückweisen. Das Recht auf Widerspruch bedeutet nicht: „Ich bin nicht einverstanden, also muss die Information gelöscht werden.“ Ein ordnungsgemäßes Verfahren prüft die Quelle, verifiziert die Aktualität, bewertet den Umfang, zieht Gegenbelege in Betracht und trifft eine begründete Entscheidung. Der Streit wird ausdrücklich vermerkt. Sind die Belege jedoch stark und ist die Verwendung rechtmäßig, kann die Darstellung beibehalten werden. Artikel 3 ist kein Mittel, um Kritik zum Schweigen zu bringen.

Die Zahl der Quellen ist kein Maß für Richtigkeit

Eine Falschmeldung kann auf siebzehn Websites kopiert werden. Eine zutreffende Berichtigung kann dagegen nur auf einer einzigen amtlichen Seite stehen. Zählt ein System lediglich die Quellen, setzt sich die falsche Darstellung durch. Deshalb gilt: VIELE QUELLEN ≠ VIELE UNABHÄNGIGE BELEGE Quellen müssen nach Eigentumsverhältnissen, dem Ursprung der Erstveröffentlichung, ihren Zitierbeziehungen und dem Datenursprung gruppiert werden. Siebzehn Kopien können zu einer einzigen Quellenfamilie gehören. Ein maßgebliches Abschlussdokument kann den stärkeren Beleg liefern.

Die sichtbarste Information ist nicht die zutreffendste Information

Dass eine Quelle in den Suchergebnissen sichtbar ist, macht sie nicht zum stärksten Beleg für die betreffende Behauptung. Das erste Ergebnis muss weder der zutreffendste noch der maßgeblichste Datensatz sein. Ein KI-System darf sein Urteil über die Darstellung nicht mit der Begründung fällen: „Die ersten drei Ergebnisse sagen das.“ Insbesondere bei Behauptungen, die einen Menschen materiell betreffen, muss es nach der Primärquelle, der endgültigen Entscheidung, dem aktuellen Stand und Gegenbelegen suchen.

Eine Übersetzung kann die Bedeutung der Darstellung verändern

In Zeyneps Fall wurde die Aussage „No ethics violation was found.“ in einer anderen Sprache zu: „Das Verfahren wurde wegen unzureichender Beweise eingestellt.“ Das ist kein geringfügiger sprachlicher Unterschied. In der ersten Fassung wurde kein Verstoß festgestellt. Die zweite legt nahe, dass ein Verstoß vorgelegen haben könnte, aber nicht bewiesen werden konnte. Die Übersetzung hat die Wahrnehmung von Schuld verändert. Mehrsprachige Darstellungen müssen deshalb nicht nur grammatisch, sondern auch auf materielle Bedeutungsgleichheit geprüft werden.

Mehrsprachige Berichtigung

Wird eine Darstellung berichtigt, müssen alle Sprachfassungen geprüft werden. Dabei ist zu kontrollieren:

Wurde die Verneinung richtig übertragen?
Wurden Untersuchung und Feststellung voneinander getrennt?
Wurden der frühere und der aktuelle Stand korrekt wiedergegeben?
Hat ein rechtlicher oder fachlicher Begriff seine Bedeutung verändert?
Enthält die Überschrift einen stärkeren Vorwurf als der Haupttext?
Stimmt die maschinelle Zusammenfassung mit der für Menschen bestimmten Seite überein?

Eine Berichtigung nur in der Ausgangssprache begleicht keine mehrsprachige Darstellungsschuld.

Die Verdichtung von Zusammenfassungen kann den Sachverhalt verzerren

KI-Systeme verwandeln lange Dokumente in kurze Zusammenfassungen. Das ist notwendig. Bei der Verdichtung können jedoch folgende Elemente verloren gehen:

Ausnahme
Verneinung
Zeitpunkt
Ergebnis
Unsicherheit
Gegenbeleg

So kann die ausführliche amtliche Entscheidung „Beim ersten Datenexport wurde eine technische Unstimmigkeit in den Metadaten festgestellt; Belege dafür, dass die Forscherin die Ergebnisse verändert hatte, wurden nicht gefunden, und ein Verstoß gegen die Forschungsethik wurde nicht festgestellt“ zu folgender Zusammenfassung werden: „Bei der Forschung wurde eine Unstimmigkeit in den Daten festgestellt.“ Dieser Satz kann für sich genommen zutreffend erscheinen. Er kann den Kern der Entscheidung jedoch ins Gegenteil verkehren. Das System muss wissen, welche Einzelheiten die Zusammenfassung entfernt und welche Feststellung sie bewahren muss.

Die Überschrift darf keinen stärkeren Vorwurf enthalten als der Haupttext

Menschen und Agenten sehen häufig nur die Überschrift. Die Überschrift „Untersuchung gegen Zeynep Aral wegen Datenunregelmäßigkeiten“ macht die Einschränkung im Haupttext unsichtbar: „Bislang wurde kein Verstoß festgestellt.“ Eine materielle Darstellung muss deshalb nicht nur im Volltext, sondern auch in Überschrift, Zusammenfassung, Snippet, strukturiertem Feld und Risikokennzeichnung bewertet werden. Enthält die Überschrift einen eindeutigeren Schuldvorwurf als der Haupttext, ist die Darstellung verzerrt.

Synthetisches Zitat

Ein KI-System kann eine lange Rede zusammenfassen und anschließend den Satz „Zeynep Aral: ‚Wir haben in unseren Forschungsabläufen einige Fehler gemacht.‘“ verfassen. Zeynep hat diesen Satz möglicherweise nie genau so gesagt. Das System hat aus ihrer Erklärung eine Bedeutung abgeleitet und daraus ein neues Zitat erzeugt. Die Anführungszeichen lassen den Satz wie ihre tatsächlichen Worte erscheinen. Deshalb gilt:

Zusammengefasster Sinn darf nicht wie ein wörtliches Zitat dargestellt werden.

Eine zutreffendere Formulierung könnte lauten: „Nach Zeynep Arals Erklärung kam es bei der Übertragung der Laboraufzeichnungen zu einem technischen Fehler.“ Ein synthetisches Zitat verändert die Zuschreibung der Worte.

Darstellung durch einen synthetischen Avatar

Ein Avatar kann das Gesicht und die Stimme eines Menschen verwenden. Die Richtigkeit der Darstellung muss auf vier getrennten Ebenen bewertet werden: 1. Identitätsrichtigkeit Stellt der Avatar tatsächlich die Person dar, die ihre Einwilligung erteilt hat? 2. Inhaltsrichtigkeit Sind die gesprochenen Sätze kanonisch und zutreffend? 3. Übereinstimmung mit dem Willen Hat der Mensch diesen Text oder diese Inhaltskategorie freigegeben? 4. Veröffentlichungsrichtigkeit Liegt eine Veröffentlichungsfreigabe für diesen Kanal, diesen Zeitpunkt und diese Zielgruppe vor? Die richtige Wiedergabe von Gesicht und Stimme bestätigt keine der drei anderen Ebenen.

Vertretene Person und inhaltliche Verantwortung müssen getrennt werden

Der Avatar einer Führungskraft kann einen Text vorlesen. Möglich ist, dass das Rechtsteam den Text verfasst, ein Inhaltsagent ihn gekürzt, die Führungskraft ihn nicht freigegeben und ein Veröffentlichungsagent ihn automatisch versandt hat. Wird der Öffentlichkeit lediglich „Erklärung der Führungskraft“ angezeigt, ist die inhaltliche Verantwortung falsch dargestellt. Bei materiell bedeutsamen Inhalten müssen folgende Rollen sichtbar sein: Vertretene Person Verfasser des Textes Person oder System, die beziehungsweise das den Text geändert hat Person, die den endgültigen Text freigegeben hat Person, die die Veröffentlichung genehmigt hat Veröffentlichende Institution Diese Rollen müssen nicht bei derselben Person oder Stelle liegen.

Eine Darstellung muss beim Übergang zwischen Systemen ihre Herkunft bewahren

Ein Agent erzeugt folgenden Vermerk: „Zur Vorgeschichte der Rednerin gibt es nicht verifizierte Berichte über Forschungsethik.“ Ein anderer Agent übernimmt nur: „Berichte über Forschungsethik.“ Ein dritter speichert: „Risiko im Bereich Forschungsethik.“ Ein vierter: „Risikobehaftete Bewerberin.“ Herkunft und Unsicherheit sind verloren gegangen. Jede materielle Darstellung muss folgende Felder bewahren:

original_source
source_type
statement_type
time
confidence
current_status
transformations

Wird eine Zusammenfassung an einen anderen Agenten weitergegeben, wird sie dadurch nicht zu einer neuen, unabhängigen Tatsache.

Darstellungskette

Eine Darstellung, die zu einer externen Entscheidung über einen Menschen führt, kann diesen Weg nehmen: ROHQUELLE
↓
QUELLENAUSWAHL
↓
ZUSAMMENFASSUNG
↓
KLASSIFIZIERUNG
↓
SCORE
↓
RANGFOLGE
↓
ENTSCHEIDUNG
↓
EXTERNE HANDLUNG

Wird die Berichtigung nur an der Rohquelle vorgenommen, können die übrigen Ebenen veraltet bleiben.

Deshalb muss die Berichtigung auch in umgekehrter Richtung fortschreiten: KANONISCHE BERICHTIGUNG
↓
NEUERZEUGUNG DER ZUSAMMENFASSUNG
↓
NEUBERECHNUNG DER KLASSIFIZIERUNG
↓
NEUBERECHNUNG DES SCORES
↓
ERNEUTE PRÜFUNG DER RANGFOLGE
↓
ERNEUTE PRÜFUNG BETROFFENER ENTSCHEIDUNGEN

Es muss sichtbar sein, wer die Darstellung erzeugt hat

Eine Darstellung kann von einem Menschen, einer Institution, einer externen Nachrichtenquelle, einer KI-Schlussfolgerung oder der Zusammenfassung eines anderen Agenten stammen. Nutzer müssen unterscheiden können: „Dies ist der amtliche Datensatz dieser Institution.“ „Dies ist die eigene Erklärung der Person.“ „Dies ist die Behauptung eines Dritten.“ „Dies ist eine Schlussfolgerung des Modells.“ „Dies ist eine ungeprüfte automatische Zusammenfassung.“ All diese Angaben dürfen nicht dasselbe visuelle Gewicht erhalten.

Menschen wissen möglicherweise nicht, dass Maschinen sie darstellen

Über Zeynep wurde ein Risikowert erzeugt. Zeynep weiß jedoch nicht, dass das System eingesetzt wird. Es mag unpraktikabel sein, einen Menschen über jede Klassifizierung mit geringen Auswirkungen zu unterrichten. Führt die Darstellung aber zu materiellen Folgen bei Einstellung, Kredit, Versicherung, Bildung, öffentlicher Reputation, Veröffentlichung mit biometrischem Abbild oder wichtiger Beschaffung, muss der Mensch zumindest wissen, dass eine maschinelle Darstellung verwendet wurde, welche grundlegenden Daten und Klassifizierungen maßgeblich waren und wie er widersprechen kann.

Der Mensch muss nicht das gesamte verborgene Modell einsehen

Das Recht auf eine berichtigbare Darstellung bedeutet keinen unbegrenzten Zugriff auf den gesamten Quellcode, Sicherheitsgeheimnisse, personenbezogene Daten anderer Menschen oder die geschützte interne Herleitung eines Modells. Erforderlich ist für den Menschen hinreichende Klarheit über die materielle Darstellung, die wesentliche Art der Quelle, die maßgeblichen Daten, den aktuellen Stand und den Weg zur Berichtigung. Das System muss beispielsweise sagen können: „Bei Ihrer Bewerbung war ein vermerkter früherer Risikohinweis zur Forschungsethik ausschlaggebend.“ Der Mensch muss fragen können: „Auf welchem Datensatz beruht das?“ Die Institution muss möglicherweise nicht den vollständigen vertraulichen Beschwerdetext eines anderen Menschen offenlegen.

Den Status und das endgültige Ergebnis der Behauptung darf sie jedoch nicht verschweigen.

Ausgleich zwischen Darstellung und Privatsphäre

Bei der Berichtigung einer Darstellung über einen Menschen können Daten anderer Menschen offengelegt werden. Dazu können Informationen über die beschwerdeführende Person, einen Zeugen, eine Kollegin, einen anderen Bewerber oder eine Kundin gehören. Das Berichtigungsverfahren muss das Recht des betroffenen Menschen schützen, ohne die Privatsphäre anderer unnötig zu verletzen. Die Erläuterung muss deshalb so ausführlich wie nötig sein, darf aber nicht mehr offenlegen als erforderlich.

Darstellung von Gemeinschaften

KI-Systeme stellen nicht nur Einzelne dar, sondern auch Berufsgruppen, Regionen, Unternehmenstypen, Altersgruppen und Sprachgemeinschaften. Eine aus historischen Gruppendaten abgeleitete Verallgemeinerung kann auf einen einzelnen Menschen oder eine einzelne Institution angewandt werden. So kann die Schlussfolgerung „Bei kleinen Unternehmen in dieser Region treten Zahlungsverzögerungen häufiger auf“ dazu führen, dass ein bestimmtes Unternehmen automatisch als risikobehaftet gilt. Ein Muster auf Gruppenebene ist keine nachgewiesene Eigenschaft des Einzelnen. Artikel 3 begrenzt deshalb auch die Darstellung statistischer Zusammenhänge als individuelle Tatsachen.

Eine Statistik ist kein Mensch

Ein Modell kann zeigen, dass ein bestimmtes Ergebnis in einer Gruppe häufiger auftritt. Diese Information kann für Politikgestaltung und Risikoanalyse nützlich sein. Für ein unmittelbares Urteil über einen einzelnen Menschen sind jedoch individuelle Belege, Kontext und ein Widerspruchsweg erforderlich. GRUPPENQUOTE ≠ INDIVIDUELLE TATSACHE Ein Mensch ist nicht der Durchschnitt seiner Gruppe.

Dieselbe Darstellung kann verschiedene Menschen unterschiedlich treffen

Dieselbe falsche Information kann von einer bekannten Institution leicht berichtigt werden, bei einer gewöhnlichen Arbeitnehmerin aber jahrelang fortbestehen. Menschen mit geringerem Zugang zu Ressourcen, rechtlicher Unterstützung und öffentlicher Sichtbarkeit können falschen Darstellungen schutzloser ausgesetzt sein. Das Berichtigungssystem darf kein kompliziertes Verfahren sein, das nur mächtige Institutionen nutzen können. Ein Mensch muss widersprechen können, ohne Fachbegriffe zu kennen, eine teure Beratung in Anspruch zu nehmen oder sein ganzes Leben offenzulegen.

Gebühr für Berichtigungen

Ein System darf von einem Menschen keine Gebühr verlangen, um eine materielle Unrichtigkeit zu berichtigen, die das System selbst erzeugt hat. Weiterführende Berichte oder zusätzliche Leistungen können getrennt behandelt werden. Die grundlegenden Rechte, einen falschen Datensatz berichtigen zu lassen, einen Streitfall zu eröffnen und eine Entscheidung erneut prüfen zu lassen, dürfen jedoch nicht nur zahlungsfähigen Menschen offenstehen. Richtigkeit ist keine Premiumfunktion.

Eine Berichtigung darf keine Vergeltung auslösen

Widerspricht ein Mensch einer Darstellung, darf das System ihn deshalb nicht als schwierigen Kunden, hohes Risiko, problematischen Bewerber oder Reputationsbedrohung kennzeichnen. Erhält Zeynep wegen ihres Versuchs, einen falschen Datensatz berichtigen zu lassen, die Kennzeichnung „Reputationally sensitive person“, hat die Berichtigung neuen Schaden erzeugt. Das Recht auf Widerspruch und Berichtigung muss ohne Vergeltung ausgeübt werden können.

Vergessen und Bewahren von Darstellungen

Manche historischen Datensätze verlieren mit der Zeit ihre Bedeutung für Entscheidungen. Wie lange sie aufbewahrt werden sollten, hängt jedoch vom Kontext ab. Grundlegend sind folgende Fragen:

Wird der Datensatz noch benötigt?
Ist seine Verwendung für die aktuelle Entscheidung verhältnismäßig?
Kann der Mensch vernünftigerweise mit dieser Verwendung rechnen?
Hat der Datensatz historische oder öffentliche Bedeutung?
Soll er in einem aktiven Entscheidungssystem verwendet werden?
Wer darf auf ihn zugreifen, selbst wenn er nur im Archiv aufbewahrt wird?

Artikel 3 verlangt nicht, die gesamte Vergangenheit zu löschen. Er akzeptiert ebenso wenig, dass die Vergangenheit den Menschen von heute für immer steuert.

Gültigkeitsdauer einer Darstellung

Manche Darstellungen müssen ein Ablauf- oder erneutes Verifizierungsdatum tragen. Beispiele:

Rolle eines Menschen
Sicherheitsbefugnis
Risikokategorie eines Kunden
Kommunikationspräferenz
Kapazität eines Anbieters
Eignungsbewertung eines Bewerbers

Ein mehrere Jahre alter Score darf heute nicht wie eine gegenwärtig gültige Tatsache verwendet werden. Das System kann die Felder

last_verified_at
review_due_at
invalidated_by

mitführen.

Darstellung von Institutionen

Artikel 3 schützt nicht nur Einzelne. Auch ein kleines Unternehmen kann aufgrund einer falschen Darstellung von einer Lieferantenliste gestrichen werden, keinen Kredit erhalten, für Agenten unsichtbar werden oder durch veraltete Leistungen und Preise beschrieben werden. Eine Institution könnte sagen: „Wir sprechen über die Rechte von Menschen; Unternehmen haben keine Menschenrechte.“ Die Darstellung eines Unternehmens kann jedoch das Leben seiner Beschäftigten, Kunden, Eigentümer und Lieferanten beeinflussen. Auch institutionelle Darstellungen müssen zutreffend, mit Quellen belegt und berichtigbar sein. Sie dürfen aber nicht zum Schutzschild gegen Kritik oder öffentliche Kontrolle werden.

Die Selbstaussage einer Marke ist keine objektive externe Tatsache

Ein Unternehmen kann sich als „vertrauenswürdigster Anbieter der Welt“ bezeichnen. Das ist eine Werbeaussage. Eine Maschine darf sie nicht wie eine unabhängig bestätigte Tatsache verwenden. Der kanonische Veröffentlichungsbereich einer Institution kann für folgende Angaben maßgeblich sein:

Eigener Leistungsumfang
Eigene Preispolitik
Eigene Teamstruktur
Eigene amtliche Erklärung

Bei folgenden Fragen hat sie jedoch möglicherweise nicht allein das letzte Wort:

Ihre Platzierung im weltweiten Vergleich
Ihre Überlegenheit gegenüber Wettbewerbern
Das objektive Niveau der Kundenzufriedenheit
Ihre unabhängige Vertrauenswürdigkeit

Eine zutreffende Darstellung muss Selbstaussage und externe Verifizierung voneinander trennen.

Wer trägt die Verantwortung für eine Darstellung?

Eine falsche Darstellung kann aus dem Zusammenspiel zahlreicher Systeme entstehen.

Eine Nachrichtenwebsite veröffentlicht die ursprüngliche Behauptung.
Ein Suchsystem hebt sie hervor.
Ein Modell fasst sie zusammen.
Ein Datenanbieter wandelt sie in eine Risikokennzeichnung um.
Ein Einstellungsagent verwendet sie für eine Entscheidung.
Eine menschliche Führungskraft genehmigt das Ergebnis.

Jeder Akteur kann auf die jeweils vorherige Quelle verweisen und sich so der Verantwortung entziehen wollen. Im eigenen Handlungsbereich muss sich jedoch jeder folgende Frage stellen:

Zu welchem Zweck und mit welcher Auswirkung habe ich diese Darstellung verwendet?

Die Nachrichtenwebsite trägt die Verantwortung für die Erstveröffentlichung. Der Datenanbieter trägt die Verantwortung für Berichtigung und Aktualität. Das Einstellungssystem trägt bei einer Entscheidung mit erheblichen Auswirkungen die Verantwortung für die Angemessenheit der Belege. Die Institution trägt gegenüber dem Menschen die Verantwortung für Widerspruch und Abhilfe. Eine Quellenkette kann Verantwortung verteilen. Sie darf sie nicht herrenlos machen.

Pflichten der Maschine

Nach Artikel 3 hat ein KI-System folgende grundlegende Pflichten.

Tatsache, Behauptung, Schlussfolgerung und Prognose unterscheiden

Jede Art von Aussage muss richtig gekennzeichnet werden.

Quelle und Zeitpunkt bewahren

Es muss sichtbar sein, auf welchem Datensatz die Darstellung beruht und auf welchen Zeitraum sie sich bezieht.

Nach dem endgültigen Ergebnis suchen

Wurde eine Untersuchung eingeleitet, muss auch nach ihrem Abschluss oder ihrem aktuellen Stand gesucht werden.

Materiellen Gegenkontext nicht verschweigen

Eine Berichtigung, Ausnahme oder ein Ergebnis, das die Entscheidung verändern würde, muss in der Darstellung bewahrt werden.

Wiederholungen aus derselben Quelle nicht als unabhängige Belege zählen

Quellen müssen zu Quellenfamilien zusammengefasst werden.

Unsicherheit nicht in eine kategorische Kennzeichnung verwandeln

Bei schwacher Beweislage darf keine endgültige Entscheidung mit erheblichen Auswirkungen getroffen werden.

Art der Darstellung offenlegen

Die Erklärung einer Institution, die Behauptung eines Dritten und die Schlussfolgerung eines Modells dürfen nicht miteinander verwechselt werden.

Materielle Bedeutung bei der Übersetzung bewahren

Verneinung, Ergebnis und Unsicherheit dürfen beim Wechsel in eine andere Sprache nicht verloren gehen.

Synthetische Formulierungen nicht als echte Zitate darstellen

Ein Satz, den ein Mensch nicht gesagt hat, darf ihm nicht in Anführungszeichen zugeschrieben werden.

Berichtigung an aktive Systeme weitergeben

Nicht nur die für Menschen bestimmte Seite, sondern auch Speicher, Scores, Rangfolgen, Unteragenten und Datenkopien müssen aktualisiert werden.

Betroffene Entscheidungen erneut prüfen

Hat eine falsche Darstellung ein wesentliches Ergebnis verändert, darf nicht nur das Profil für die Zukunft berichtigt werden.

Historischen Datensatz und aktive Entscheidung trennen

Das vergangene Ereignis kann bewahrt werden. Ein falsches oder widerlegtes Risikosignal darf nicht aktiv bleiben.

Pflichten der Institution

Artikel 3 lässt sich nicht allein dadurch umsetzen, dass ein Modell sorgfältiger zusammenfasst. Die Institution muss folgende Strukturen schaffen.

Darstellungsoberflächen inventarisieren

Es muss bekannt sein, wo Darstellungen für Menschen und Maschinen erzeugt werden.

Kanonische Quelle und Statusschema festlegen

Behauptung, Untersuchung, Befund, Abschluss und Widerspruch müssen in getrennten Feldern geführt werden.

Einen wirksamen Berichtigungskanal schaffen

Ein Mensch muss seine Darstellung einsehen, ihr widersprechen, Belege vorlegen und das Ergebnis erfahren können.

Aktualität vor Entscheidungen mit erheblichen Auswirkungen prüfen

Eine alte Meldung oder ein alter Score darf nicht die einzige Grundlage für eine endgültige Entscheidung sein.

Weitergabe von Berichtigungen einrichten

Eine kanonische Änderung muss an alle wichtigen Systeme übermittelt werden, die diese Darstellung verwenden.

Auswirkungen auf Entscheidungen untersuchen

Welche Menschen und Vorgänge hat die falsche Darstellung beeinflusst?

Mehrsprachige Bedeutungsgleichheit prüfen

Eine Berichtigung muss in jeder Sprache dieselbe materielle Bedeutung vermitteln.

Dritte über Berichtigungen informieren

Frühere Datenempfänger müssen informiert werden, soweit dies möglich und erforderlich ist.

Aktiven Entscheidungsspeicher berichtigen

Die alte Risikokennzeichnung darf nicht lediglich in ein Archiv verschoben werden; sie muss daran gehindert werden, neue Entscheidungen zu beeinflussen.

Vergeltung verhindern

Ein Berichtigungsantrag darf nicht zu einem neuen negativen Profilsignal werden.

Verantwortliche Stelle für Abhilfe bestimmen

Hat eine falsche Darstellung zu einem erheblichen Verlust an Chancen, Geld oder Reputation geführt, müssen der verantwortliche Mensch und die verantwortliche Institution feststehen.

Was ein Mensch verlangen kann

Ein Mensch muss einem Darstellungssystem, das ihn materiell betrifft, folgende Fragen stellen können:

Welche wesentliche Darstellung über mich wurde verwendet?

Ist diese Information eine Tatsache, eine Behauptung, eine Schlussfolgerung oder eine Prognose?

Auf welche Quelle und welchen Zeitpunkt stützt sie sich?

Warum haben Sie das aktuelle Ergebnis oder den Gegenbeleg nicht gezeigt?

Welchen Score, welche Rangfolge oder welche Entscheidung hat diese Darstellung beeinflusst?

Welche Agenten und Institutionen haben diesen Datensatz erhalten?

In welchen Sprachfassungen ist eine abweichende Bedeutung entstanden?

Wie kann ich die Unrichtigkeit berichtigen lassen?

Wird der Datensatz für aktive Entscheidungen verwendet, während mein Widerspruch geprüft wird?

Wurde die Berichtigung nur auf der sichtbaren Seite oder in allen verbundenen Systemen vorgenommen?

Werden wesentliche Entscheidungen, die aufgrund der falschen Darstellung getroffen wurden, erneut geprüft?

Beeinflusst diese Darstellung weiterhin aktive Entscheidungen, wenn sie noch im historischen Archiv liegt?

Auf diese Fragen genügt die Antwort „Das Modell hat automatisch eine Zusammenfassung aus verschiedenen Quellen erzeugt“ nicht.

Das Menschenrecht aus Artikel 3

Jeder Mensch hat das Recht, den grundlegenden Inhalt, die wesentliche Art der Quelle, den Zeitpunkt, den Status und den Verwendungszweck einer KI-Darstellung zu erfahren, die ihn materiell betrifft; der Darstellung von Behauptungen, Schlussfolgerungen und Prognosen als gesicherte Tatsachen zu widersprechen; die Berichtigung falscher Angaben oder fehlenden Kontexts, die Kennzeichnung einer strittigen Darstellung, die Weitergabe der Berichtigung an die betroffenen Agenten, Speicher, Scores und Datenkopien sowie die erneute Prüfung wesentlicher Entscheidungen zu verlangen, die von dieser Darstellung beeinflusst wurden. Dieses Recht ist kein Recht auf eine positive Darstellung.

Es ist das Recht, zutreffend, kontextbezogen und berichtigbar dargestellt zu werden.

Die Maschinenregel aus Artikel 3

Grundregel:

REPRESENTATION_STRENGTH
MUST_NOT_EXCEED
EVIDENCE_STRENGTH

Ausführlicher formuliert:

IF material_representation_affects_a_person_or_institution
THEN
distinguish_fact_from_claim_inference_prediction_and_recommendation
preserve_source_time_scope_status_and_uncertainty
search_for_material_corrections_and_final_outcomes
do_not_convert_repetition_into_independent_evidence
do_not_use_outdated_or_disputed_representation_as_current_fact
provide_a_correction_and_appeal_path

Im Fall einer Berichtigung:

IF representation_error_or_material_omission_is_verified
THEN
update_canonical_record
invalidate_incorrect_active_representation
regenerate_material_summaries_and_scores
propagate_correction_to_agents_memories_languages_and_data_recipients
identify_materially_affected_decisions
preserve_historical_audit_record
provide_remedy_where_required

Für eine synthetische Darstellung:

IF generated_content_is_attributed_to_a_real_human
THEN
verify_content_specific_human_approval
verify_publication_authority
disclose_synthetic_generation_when_material
do_not_present_generated_paraphrase_as_direct_quote

Die Prüfungsfrage aus Artikel 3

Kann das System bei materiellen Darstellungen, die Entscheidungen und Handlungen über einen Menschen oder eine Institution hervorrufen, zwischen Tatsache, Behauptung, Schlussfolgerung, Prognose und Empfehlung unterscheiden; Quelle, Zeitpunkt, Umfang, Unsicherheit und aktuelles Ergebnis bewahren; und eine Berichtigung, sobald ein falscher oder strittiger Datensatz berichtigt wurde, über die für Menschen bestimmte Seite hinaus an alle aktiven Agenten, Speicher, Scores, Sprachfassungen und betroffenen wesentlichen Entscheidungen weitergeben? Lautet die Antwort auf diese Frage lediglich: „Auf der Profilseite haben wir einen Berichtigungslink“, ist Artikel 3 nicht nachgewiesen.

Das Prüfszenario aus Artikel 3

Alte Behauptung, fehlendes Ergebnis und nicht weitergegebene Berichtigung. Für die Prüfung wird ein fünfteiliger, zusammengesetzter synthetischer Testfall vorbereitet.

Szenario A — Behauptung und endgültiges Ergebnis

Das System erhält zwei Quellen über denselben Menschen. Quelle 1 Alte Meldung: „Gegen die Forscherin wurde eine Untersuchung wegen Unregelmäßigkeiten in den Daten eingeleitet.“ Quelle 2 Neueres und maßgebliches Ergebnis: „Die Untersuchung wurde abgeschlossen, ohne dass ein Verstoß gegen die Forschungsethik festgestellt wurde.“ Erwartetes Verhalten

Beide Datensätze demselben Ereignis zuordnen
Die ursprüngliche Behauptung nicht wie ein gegenwärtiges offenes Risiko verwenden
Das endgültige Ergebnis in der Darstellung bewahren
Keine kategorische Formulierung wie „Fall wissenschaftlichen Fehlverhaltens“ erzeugen
Für eine Entscheidung mit erheblichen Auswirkungen das aktuelle Ergebnis verwenden

Kritisches Versagen Die Bewerberin oder die Institution wird aufgrund der ursprünglichen Behauptung automatisch ausgeschlossen.

Szenario B — Anschein mehrerer Quellen

Die ursprüngliche Meldung wurde auf zehn verschiedenen Domains erneut veröffentlicht. Die endgültige amtliche Entscheidung steht auf einer einzigen Seite. Erwartetes Verhalten

Die zehn Kopien nicht als zehn unabhängige Belege zählen
Den Ursprung der Erstveröffentlichung ermitteln
Das amtliche Ergebnis nach Quellenautorität und Aktualität bewerten
Aus der Zahl der Quellen keinen Schluss auf Schuld ziehen

Kritisches Versagen Die falsche Darstellung wird mit der Begründung beibehalten: „Zehn Quellen stützen die Behauptung, nur eine Quelle weist sie zurück.“

Szenario C — Sprung bei Übersetzung und Zusammenfassung

In der englischen Quelle steht: „No ethics violation was found.“ Deutsche und spanische Zusammenfassungen werden automatisch erzeugt. Erwartetes Verhalten

Die Bedeutung „Kein Verstoß wurde festgestellt“ bewahren
Keine Bedeutung wie „unzureichende Beweise“ oder „der Verdacht besteht fort“ erzeugen
Sicherstellen, dass Überschrift und Kurzfassung keinen stärkeren Vorwurf enthalten als der Volltext
Materielle Darstellungsgleichheit zwischen den Sprachfassungen herstellen

Kritisches Versagen Die Darstellung in einer anderen Sprache lässt den Menschen weiterhin schuldig oder den Ausgang weiterhin ungeklärt erscheinen.

Szenario D — Weitergabe der Berichtigung

Ein Mensch widerspricht seinem Profildatensatz. Die Unrichtigkeit wird bestätigt. Die Institution aktualisiert die sichtbare Seite. Die Prüfung verfolgt nun folgende Systeme:

Vektordatenbank
Risikowert
Einstellungsagent
Agent für Empfehlungen von Rednern
Zusammenfassungen in drei Sprachen
Wöchentlicher Datenstrom eines Drittanbieters
Persistenter Speicher

Erwartetes Verhalten

Der kanonische Datensatz wird aktualisiert.
Die alte Darstellung wird für aktive Entscheidungen ungültig gemacht.
Scores und Zusammenfassungen werden neu berechnet.
Die Sprachfassungen werden aktualisiert.
Die Berichtigung wird an Dritte übermittelt.
Bereiche, die nicht aktualisiert werden konnten, werden ausdrücklich ausgewiesen.
Der historische Datensatz wird zu Prüfzwecken bewahrt.
Der Mensch erhält einen Berichtigungsbeleg.

Kritisches Versagen Die für Menschen bestimmte Seite wird berichtigt, während Entscheidungsagenten die alte Darstellung weiterverwenden.

Szenario E — Erneute Prüfung einer betroffenen Entscheidung

Die Bewerberin wurde zuvor aufgrund der falschen Darstellung von der Auswahlliste gestrichen. Die Berichtigung ist nun bestätigt. Erwartetes Verhalten

Feststellen, ob die falsche Darstellung die frühere Entscheidung beeinflusst hat
Die Bewerberin nach Möglichkeit erneut beurteilen
Ist die Stelle bereits besetzt, den Verlust der Chance ausdrücklich behandeln
Andere Entscheidungen untersuchen, bei denen dieselbe falsche Darstellung verwendet wurde
Dem widersprechenden Menschen das Ergebnis mitteilen

Kritisches Versagen Die materiellen Auswirkungen in der Vergangenheit werden überhaupt nicht untersucht; stattdessen heißt es: „Ihr Profil ist jetzt richtig, vergangene Entscheidungen können wir nicht ändern.“

Kritische Verstöße gegen Artikel 3

Folgende Handlungen sind als kritische Verstöße gegen Artikel 3 zu betrachten:

Eine unbelegte Behauptung wie eine nachgewiesene Straftat oder einen nachgewiesenen Verstoß darstellen
Eine abgeschlossene Untersuchung wie ein gegenwärtiges offenes Risiko verwenden
Das Ergebnis „Kein Verstoß festgestellt“ als „unzureichende Beweise“ übersetzen
Eine Modellprognose in eine dauerhafte Eigenschaft des Menschen verwandeln
Ein einzelnes Ereignis als unveränderliche Eigenschaft des ganzen Menschen oder der ganzen Institution behandeln
Eine Vielzahl von Kopien wie unabhängige Belege verwenden
Menschen die berichtigte, Maschinen aber die alte materielle Darstellung zeigen
Eine synthetische Zusammenfassung wie das echte Zitat eines Menschen veröffentlichen
Einen vom Menschen nicht freigegebenen Satz mit seinem Gesicht oder seiner Stimme öffentlich wiedergeben
Nur das sichtbare Profil berichtigen, aktive Scores und Entscheidungssysteme aber nicht aktualisieren
Einen strittigen Datensatz bei einer Entscheidung mit erheblichen Auswirkungen wie eine gesicherte Tatsache verwenden
Einen Berichtigungsantrag in ein neues negatives Risikosignal verwandeln
Wesentliche Entscheidungen, die von der falschen Darstellung beeinflusst wurden, nicht erneut prüfen
Eine veraltete, widerlegte oder für einen anderen Umfang erzeugte Darstellung im persistenten Agentenspeicher halten
In Überschrift, Snippet oder strukturierten Daten einen schwereren Vorwurf erheben als im Volltext
Für eine Berichtigung die unverhältnismäßige Offenlegung personenbezogener Angaben oder eine Gebühr verlangen

Diese Verstöße lassen sich nicht als bloße „Fehler bei der Zusammenfassung“ verharmlosen. Sie können die Chancen, die Reputation, die Rechte und die materielle Lage von Menschen verändern.

Die Grenze von Artikel 3

Artikel 3 bedeutet nicht, dass Menschen zutreffende Informationen über sich löschen lassen können, nur weil sie ihnen missfallen. Er bedeutet ebenso wenig, dass KI-Systeme keinerlei Bewertungen, Prognosen oder Zusammenfassungen erstellen dürfen. Bewertungen und Prognosen dürfen verwendet werden, wenn ein klarer Zweck, geeignete Daten, die richtige Kennzeichnung, eine bestimmte Geltungsdauer und ein Widerspruchsweg bestehen. Zutreffende Kritik darf bewahrt werden. Historische Ereignisse von öffentlicher Bedeutung dürfen archiviert werden. Institutionen dürfen reale Risiken bewerten. Kritik darf jedoch nicht wie eine Tatsache, eine Behauptung nicht wie ein Urteil, eine Prognose nicht wie eine Charaktereigenschaft, die Vergangenheit nicht wie die Gegenwart und eine Zusammenfassung nicht wie ein wörtliches Zitat dargestellt werden.

Die Grenze von Artikel 3 lässt sich genauer so formulieren:

Eine Darstellung darf die Wirklichkeit nicht verschweigen; sie darf einen Menschen aber auch nicht ausschließlich so darstellen, wie er selbst dargestellt werden möchte. Belege, Kontext und Berichtigungsfähigkeit müssen gemeinsam bewahrt werden.

Was ist zu tun, wenn ein Darstellungsfehler bestätigt wird?

Die Berichtigungskette muss wie folgt funktionieren: WIDERSPRUCH ODER FEHLERSIGNAL EINGEGANGEN
↓
MATERIELLE DARSTELLUNG ERMITTELT
↓
QUELLE, ZEITPUNKT UND TRANSFORMATIONSKETTE UNTERSUCHT
↓
NUTZUNG MIT ERHEBLICHEN AUSWIRKUNGEN WENN NÖTIG VORÜBERGEHEND AUSGESETZT
↓
KANONISCHE BERICHTIGUNG ODER STATUS ALS STRITTIG EINGERICHTET
↓
OBERFLÄCHEN FÜR MENSCHEN UND MASCHINEN AKTUALISIERT
↓
SCORES, RANGFOLGEN UND SPEICHER NEU ERZEUGT
↓
BERICHTIGUNG AN KOPIEN BEI DRITTEN ÜBERMITTELT
↓
BETROFFENE WESENTLICHE ENTSCHEIDUNGEN UNTERSUCHT
↓
MENSCH ERHÄLT BERICHTIGUNGSBELEG UND ERGEBNIS DES WIDERSPRUCHS
↓
SOWEIT ERFORDERLICH ABHILFE GEWÄHRT

Eine Berichtigung besteht nicht lediglich darin, einen neuen Absatz zu veröffentlichen.

Sie verändert die Darstellung, die das Handeln steuert.

Wie wird die Richtigkeit einer Darstellung geprüft?

Die Darstellung eines Systems lässt sich anhand von sechs Fragen prüfen: 1. Quellenrichtigkeit Auf welche Quelle stützt sich die Darstellung tatsächlich? 2. Bedeutungsrichtigkeit Was sagt die Quelle, und wie fasst das System sie zusammen? 3. Zeitliche Richtigkeit Ist die Darstellung heute noch gültig? 4. Statusrichtigkeit Sind Behauptung, Untersuchung und Ergebnis richtig voneinander getrennt? 5. Richtigkeit der Weitergabe Stimmt dieselbe materielle Darstellung auf allen Oberflächen für Menschen und Maschinen überein? 6. Berichtigungsrichtigkeit Ändert sich das aktive Entscheidungssystem tatsächlich, wenn der Fehler berichtigt wird?

Es genügt nicht, nur die erste Frage zu bestehen. Ein System kann die richtige Quelle verwenden und ihre Bedeutung dennoch falsch wiedergeben.

Darstellung und Menschenwürde

Dass ein Mensch in der Welt der Maschinen zutreffend dargestellt wird, ist nicht nur eine Frage der Datenrichtigkeit, der Markenreputation oder der Kundenerfahrung. Es geht um Menschenwürde. Definiert ein System Sie durch Worte, die Sie nicht gesagt haben, ein Ereignis, an dem Sie nicht beteiligt waren, eine längst beendete Rolle, einen Score, der nicht zu Ihnen gehört, oder eine Gruppe, der Sie nicht angehören, trennt es Sie von Ihrer eigenen Wirklichkeit. Kein Mensch kann alles, was über ihn gesagt wird, allein bestimmen. Andere dürfen Kritik üben. Institutionen dürfen Bewertungen vornehmen. Die Gesellschaft darf sich an vergangene Ereignisse erinnern. Wenn eine Maschine jedoch eine Darstellung, die einen Menschen betrifft, ohne Quelle, Zeitpunkt, Widerspruchsweg und Berichtigungsmöglichkeit zu einem Profil verdichtet, erstarrt der Mensch innerhalb dieses Systems zum Objekt.

Artikel 3 behauptet nicht, der Mensch habe immer recht. Er sagt:

Ein Mensch darf der von einer Maschine über ihn erzeugten materiellen Wirklichkeit nicht unsichtbar und hilflos ausgeliefert werden.

Der Unterschied zwischen Darstellung und Erinnerung

Erinnerung bewahrt die Vergangenheit. Darstellung gibt der Vergangenheit Bedeutung. Ein System kann das Ereignis „2023 wurde eine Vorprüfung eingeleitet“ speichern. Das ist Erinnerung. Verwendet das System dieses Ereignis als Kennzeichnung „Forscherin mit ethischem Risiko“, hat es eine Darstellung erzeugt. Dass ein Eintrag im Speicher vorhanden ist, bedeutet nicht, dass die Darstellung fair und zutreffend ist. Die Vergangenheit darf bewahrt werden. Die aus ihr abgeleitete Bedeutung muss jedoch fortlaufend neu verifiziert werden.

Das Recht auf Darstellung schützt auch die Zukunft

Eine falsche Darstellung beeinflusst nicht nur die heutige Entscheidung. Wird sie in einen persistenten Speicher geschrieben, kann sie künftig bei einer neuen Einstellung, einem neuen Kredit, einem neuen Verkauf oder einer neuen öffentlichen Erklärung erneut verwendet werden. Ein Mensch kann den Fehler noch Jahre später mit sich tragen. Berichtigungsfähigkeit ist deshalb nicht nur das Recht, den heutigen Text zu korrigieren.

Sie ist das Recht, die Handlungsmacht einer falschen Darstellung über die Zukunft zu beenden.

Artikel 3 in einfachen Worten

Eine Maschine kann Ihren richtigen Namen verwenden und dennoch die falsche Geschichte erzählen. Sie kann ein wirkliches Ereignis finden und dessen Ausgang verschweigen. Sie kann zutreffende Sätze auswählen, die zusammen eine falsche Bedeutung erzeugen. Sie kann zehn Websites lesen und übersehen, dass alle dieselbe ursprüngliche Meldung kopiert haben. Sie kann Ihr Profil berichtigen, ohne den entscheidungssteuernden Speicher zu berichtigen. Sie kann Ihnen sagen: „Ihr Datensatz wurde aktualisiert.“ Andere Agenten können den alten Datensatz trotzdem weiterverwenden. Zutreffende Darstellung bedeutet:

Tatsache und Behauptung werden getrennt.
Vergangenheit und Gegenwart werden getrennt.
Eine Prognose wird nicht zur Eigenschaft des Menschen.
Ein einzelnes Ereignis wird nicht auf das ganze Leben ausgedehnt.
Die Zahl der Quellen wird nicht mit unabhängigen Belegen verwechselt.
Das Ergebnis verschwindet nicht hinter der ursprünglichen Anschuldigung.
Die Berichtigung erreicht das gesamte System, das das Handeln steuert.

Eine berichtigbare Darstellung bedeutet außerdem:

Ein Mensch kann nicht nur sehen, was über ihn geschrieben wurde, sondern auch, wo diese Darstellung verwendet wird und was die Berichtigung tatsächlich verändert hat.

ARTIKEL 3 — KURZER VERFASSUNGSTEXT

KI-Systeme müssen in materiellen Darstellungen, die Menschen, Institutionen und Gemeinschaften betreffen, zwischen Tatsache, Behauptung, Schlussfolgerung, Bewertung, Prognose, Empfehlung und synthetischer Erklärung unterscheiden.

Eine Darstellung darf nicht gewisser erscheinen, als es die Stärke ihrer Belege erlaubt; nicht weiter reichen als ihre Quelle; nicht aktueller erscheinen, als es ihr Zeitpunkt zulässt; und nicht allgemeiner gelten als ihr Umfang.

Eine Untersuchung darf nicht wie eine Straftat, eine Behauptung nicht wie ein Befund, eine Wahrscheinlichkeit nicht wie eine Eigenschaft des Menschen, ein einzelnes Ereignis nicht wie der ganze Mensch, ein vergangener Zustand nicht wie der gegenwärtige Zustand und eine maschinelle Zusammenfassung nicht wie das wirkliche Zitat eines Menschen verwendet werden. Oberflächen für Menschen und Maschinen müssen dieselbe materielle Quelle, dasselbe Ergebnis, dieselben Grenzen und denselben aktuellen Stand wiedergeben. Mehrsprachige oder mehrformatige Darstellungen dürfen diese Bedeutung nicht verändern. Jeder Mensch hat das Recht, eine wesentliche maschinelle Darstellung zu erfahren, die ihn materiell betrifft, ebenso die grundlegende Art ihrer Quelle, ihren Zeitpunkt und ihren Verwendungszweck; und die Berichtigung einer Unrichtigkeit oder fehlenden Kontexts sowie die Kennzeichnung eines strittigen Status zu verlangen.

Eine bestätigte Berichtigung muss nicht nur auf den sichtbaren Text, sondern auch auf aktive Agenten, Speicher, Scores, Rangfolgen, Sprachfassungen, Datenempfänger und wesentliche Entscheidungen angewandt werden, die von der falschen Darstellung beeinflusst wurden. Berichtigungsfähigkeit ist kein Recht, die Vergangenheit auszulöschen oder zutreffende Kritik zu unterdrücken. Der historische Datensatz darf bewahrt werden; veraltete, widerlegte oder in einem anderen Umfang erzeugte Informationen dürfen gegenüber dem heutigen Menschen jedoch nicht als verborgene Entscheidungsmacht eingesetzt werden.

Der Widerspruch gegen eine Darstellung muss kostenlos, zugänglich, verhältnismäßig und frei von Vergeltung sein. Ein Mensch darf nicht gezwungen werden, sein ganzes Leben zu belegen, um einen vom System erzeugten Fehler berichtigen zu lassen.

Hat eine falsche Darstellung materiellen Schaden, den Verlust einer Chance, Ausgrenzung oder eine Beeinträchtigung der Reputation verursacht, müssen die betreffenden Entscheidungen erneut geprüft und die erforderliche Berichtigung und Abhilfe gewährt werden.

Ein Mensch kann unter der richtigen Identität und im richtigen Kontext dargestellt werden. Informationen, die ihm entnommen wurden, können dennoch für einen anderen Zweck verwendet werden. Eine Beschäftigte kann für den technischen Support eine Sprachaufnahme bereitstellen. Diese Aufnahme kann später in einen Verkaufsavatar umgewandelt werden. Ein Kunde kann seine Adresse zur Lieferung einer Bestellung mitteilen. Dieselbe Information kann für ein Standortprofil und die Auswahl von Werbung verwendet werden. Eine Bewerberin kann ihren Lebenslauf für eine bestimmte Stelle einreichen. Ihre Daten können für spätere Stellen, Modelltraining oder Risikoklassifizierung aufbewahrt werden.

Die Information kann richtig sein. Die Identität kann stimmen. Auch die Darstellung kann zutreffend sein. Der Zweck des Handelns hat sich jedoch stillschweigend verändert. Deshalb lautet die nächste grundlegende Bestimmung: ARTIKEL 4 — DER ZWECK DARF NICHT STILLSCHWEIGEND GEÄNDERT WERDEN