Direkte Antwort
Eine wirksame Erklärung nennt zuerst die genaue Entscheidung und ihre Wirkung auf die Person. Danach zeigt sie Rollen von KI und Menschen, wesentliche verwendete Daten samt Quelle sowie Regeln, Schwellenwerte und Unsicherheiten, die das Ergebnis beeinflussten. Fehlende oder korrigierbare Angaben und der Anfechtungsweg müssen ebenfalls klar sein. „Der Algorithmus hat es berechnet“ erklärt nicht, warum dieses Ergebnis entstand.
Einfach erklärt
Wird ein Antrag abgelehnt, hilft „Das System hat Sie als nicht berechtigt eingestuft“ nicht. Sie müssen wissen, welche Angabe als falsch oder fehlend galt, welche Regel angewandt wurde und was Sie berichtigen oder bestreiten können.
Warum ist das wichtig?
Ohne wesentlichen Grund kann eine Person weder falsche Daten korrigieren noch Gegenbelege einreichen oder die Entscheidung sinnvoll anfechten. Eine geschliffene, aber sachfremde Darstellung erzeugt nur den Anschein von Transparenz.
Nicht verwechseln
- Eine allgemeine Systemerklärung beschreibt das Modell grob; eine entscheidungsspezifische Erklärung beschreibt das konkrete Ergebnis.
- Eine Datenerklärung benennt verwendete Informationen; eine Faktorenerklärung zeigt deren Einfluss auf das Ergebnis.
- Eine Erklärung nennt Entscheidungsgründe; sie macht die Entscheidung nicht automatisch richtig oder rechtmäßig.
- Offenlegung stellt Informationen bereit; eine wirksame Anfechtungserklärung muss ausreichend handlungsorientiert sein.
- Vertrauliche oder sicherheitsrelevante Angaben können geschützt sein, doch der wesentliche Grund darf nicht vollständig verborgen werden.
Was ist zu tun?
- Nennen Sie Entscheidungskennung, Datum, Umfang, Wirkung und Fortgeltung.
- Trennen Sie Rollen von KI-System, menschlichem Prüfer und letztem Entscheider.
- Benennen Sie wesentliche Daten, Quelle, Datum und Zuordnung zur Person.
- Erklären Sie Faktoren, Regeln, Schwellenwerte und wesentliche Gegenbelege, die dieses Ergebnis beeinflussten.
- Machen Sie Unsicherheit, fehlende Angaben und Grenzen der Erklärung sichtbar.
- Nennen Sie korrigierbare Daten, einreichbare neue Belege, Frist und sicheren Anfechtungsweg.
- Prüfen Sie die Erklärung am tatsächlichen Entscheidungsdatensatz und auf Verständlichkeit für die Zielperson.
Wie wird geprüft?
- Kann die Person verstehen, welche Entscheidung und Wirkung sie betrifft?
- Sind die Grenzen zwischen KI- und Menschenrollen richtig beschrieben?
- Sind wesentliche Daten, Quelle, Datum und Entitätszuordnung sichtbar?
- Werden die Faktoren und Regeln erklärt, die das Ergebnis tatsächlich beeinflussten?
- Wurde eine allgemeine Modellbeschreibung als entscheidungsspezifische Erklärung ausgegeben?
- Weiß die Person, was sie wo korrigieren oder anfechten kann?
- Wurden Datenschutz oder Geschäftsgeheimnisse vorgeschoben, um den wesentlichen Grund vollständig zu verbergen?
Grenze
Der erforderliche Umfang einer Erklärung hängt von Rechtsordnung, Entscheidungsart und Risiko ab. Sicherheit, Rechte Dritter und rechtliche Vertraulichkeit können Details begrenzen. Das Vorhandensein einer Erklärung belegt für sich allein weder Richtigkeit noch Fairness oder Rechtmäßigkeit.
Merksatz
Eine Erklärung, die keine Anfechtung ermöglicht, ist nur der Anschein von Information.
Quellen dieses Eintrags
- S35W3C, *PROV-O: The PROV Ontology*Standard
- S45Europäische Union, Verordnung (EU) 2024/1689 — *Gesetz über künstliche Intelligenz*Rechtsvorschrift
- S48Europäische Union, Verordnung (EU) 2016/679 — *Datenschutz-Grundverordnung*Rechtsvorschrift
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Freiwilliges, standardorientiertes institutionelles Rahmenwerk
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)Internationales Übereinkommen und offizielle Institution
- S62European Data Protection Board, *Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679*Offizieller Leitfaden eines Gremiums