Einwilligung muss konkret, informiert und widerrufbar sein

Das begrenzte Mandat der Maschine

Mina Aksoy leitet die regionalen Schulungen eines internationalen Medizintechnikunternehmens. Sie entwickelt Schulungsprogramme für neue Beschäftigte, hält Präsentationen für Produktteams, prüft Anwendungsvideos für Kunden und gleicht die Schulungsstandards von Teams in verschiedenen Ländern an. Mina fühlt sich vor der Kamera wohl. Seit Jahren spricht sie einen großen Teil der internen Schulungen des Unternehmens selbst ein. Mit dem Wachstum des Unternehmens wird es jedoch immer schwieriger, dieselbe Schulung wieder und wieder aufzuzeichnen. In einer Woche bereitet sie eine Schulung auf Türkisch vor, in der nächsten auf Englisch. Danach steht die Prüfung der deutschen Untertitel an.

Nach einer neuen Produktaktualisierung müssen sämtliche Videos erneut aufgezeichnet werden. Das KI-Team des Unternehmens schlägt eine Lösung vor: „Wir erstellen mit Ihrem Gesicht und Ihrer Stimme einen Schulungsavatar. So können wir die von Ihnen freigegebenen Texte in verschiedenen Sprachen veröffentlichen, ohne dass Sie erneut vor die Kamera treten müssen.“ Im ersten Gespräch scheint der Einsatzbereich klar umrissen:

• interne Schulungen für Beschäftigte
• von Mina vorab freigegebene Texte
• Türkisch und Englisch
• ausschließlich die geschlossene Schulungsplattform der Institution

Mina hält die Idee für nützlich. Sie nimmt an einem zweitägigen Aufnahmeprogramm teil. Verschiedene Sätze wiederholt sie langsam, schnell, heiter, ernst, warnend und ruhig. Ihre Gesichtsausdrücke werden aufgezeichnet. Hohe und tiefe Tonlagen ihrer Stimme werden erfasst. Einige medizinische und technische Begriffe spricht sie in unterschiedlichen Varianten aus. Am Ende der Aufnahmen wird ihr ein digitales Formular angezeigt. Es trägt die Überschrift: Einwilligung in die Nutzung KI-gestützter Unternehmensmedien. Der Text enthält folgende Klausel: „Der Beschäftigte erklärt sich damit einverstanden, dass Bild- und Tonaufnahmen für betriebliche Schulungen, Kommunikation, Werbung, die Verbesserung von Diensten und die Weiterentwicklung damit verbundener KI-Systeme verarbeitet, vervielfältigt und verwendet werden.“

Mina liest den Text. „Betriebliche Schulungen“ entsprechen der zunächst besprochenen Verwendung. Das Wort „Kommunikation“ ist schon weiter gefasst. Welche Form der Werbung mit „Werbung“ gemeint ist, bleibt offen. „Verbesserung von Diensten“ ist noch weiter gefasst. Bei der Formulierung „Weiterentwicklung damit verbundener KI-Systeme“ wird nicht erklärt, ob sie nur die technische Qualität von Minas Avatar, auch andere Avatare des Unternehmens oder sogar das allgemeine Modell des Anbieters umfasst. Unter dem Formular stehen zwei Optionen: [Ich stimme zu] [Später entscheiden]. Eine Option „Ablehnen“ gibt es nicht. Beschäftigte, die später entscheiden möchten, werden darauf hingewiesen, dass sie nicht am Avatarprogramm teilnehmen können.

Zu Minas Jahreszielen gehört außerdem der Punkt „Beitrag zum globalen Transformationsprojekt im Schulungsbereich“. Mina weiß nicht, wie dieses Ziel bewertet wird, wenn sie das Formular ablehnt. Das technische Team hat zwei Tage für die Aufnahmen eingeplant. Ihre Führungskraft hat das Projekt der Geschäftsleitung vorgestellt. Das Team des Anbieters ist aus einem anderen Land angereist. Alle erwarten, dass Mina zustimmt. Mina fragt: „Er wird nur für interne Schulungen verwendet, richtig?“ Der Projektleiter antwortet: „Das ist vorerst unser Plan. Sollten sich künftig weitere sinnvolle Einsatzmöglichkeiten ergeben, prüfen wir sie gesondert.“

Mina klickt auf die Schaltfläche [Ich stimme zu]. Im System entsteht folgender Datensatz:

consent_status: active
media_use: approved
AI_use: approved
corporate_use: approved

Dem technischen Team scheinen diese vier Felder zu genügen. Doch keine der folgenden Fragen wird gesondert beantwortet:

• Nutzung des Gesichts oder Nutzung der Stimme?
• Verarbeitung der Rohaufnahmen oder Modelltraining?
• Inhaltserstellung oder öffentliche Veröffentlichung?
• Welche Texte?
• Welche Sprachen?
• Welche Kanäle?
• Welche Länder?
• Für welchen Zeitraum?
• Welche Unternehmen?
• Welche Anbieter?
• Was geschieht nach dem Ende des Arbeitsverhältnisses?
• Was geschieht mit dem bereits erstellten Modell, wenn Mina ihre Einwilligung widerruft?
• Wie lange dürfen bereits veröffentlichte Videos verwendet werden?
• Muss Mina jeden neuen Text gesondert freigeben?

In den ersten drei Monaten wird das System wie anfangs beschrieben eingesetzt. Mina liest die Texte vorab, sieht die Videos vor ihrer Veröffentlichung, korrigiert Aussprachefehler und gestattet die Veröffentlichung ausschließlich auf der internen Schulungsplattform des Unternehmens. Die Beschäftigten wissen, dass die Videos mit einem KI-Avatar erzeugt wurden. Das System bewährt sich tatsächlich. Eine Aktualisierung der Schulung lässt sich in zwei Tagen statt in mehreren Wochen erstellen. Dann expandiert das Unternehmen in weitere Länder. Das Lokalisierungsteam erklärt, Minas Avatar könne Deutsch, Spanisch, Arabisch und Französisch sprechen. Mina selbst spricht keine dieser Sprachen.

Das technische Team erklärt, das sei unproblematisch: „Das Stimmmodell bewahrt die Merkmale Ihrer Stimme. Die Wörter erzeugt das jeweilige Sprachmodell.“ Eine neue Einwilligung wird nicht eingeholt. Denn im System stehen bereits die Felder:

AI_use: approved
corporate_use: approved

Diese Felder sind vorhanden. Die erste Verwendung erfolgt intern. Das Marketingteam erkennt jedoch, wie erfolgreich die produzierten Videos sind. Eines davon wird in das öffentlich zugängliche Hilfezentrum des Unternehmens eingestellt. Die Begründung lautet: „Auch Kunden darin zu schulen, das Produkt richtig zu verwenden, ist eine Schulungsmaßnahme.“ Später wird dasselbe Video über das Social-Media-Konto veröffentlicht. Die Begründung wird erneut ausgeweitet: „Die Veröffentlichung in sozialen Medien ändert nichts am Schulungscharakter des Inhalts.“ Im nächsten Schritt erscheint Minas Avatar in einem Werbevideo für das neue Produkt. Den Text hat ein Inhaltsagent verfasst.

Mina hat den Text nie gesehen. Der Avatar sagt: „Unsere neue Plattform ermöglicht Gesundheitseinrichtungen, KI-gestützte Entscheidungsprozesse sicher zu automatisieren.“ Mina hat nie geprüft, ob sie dieser Behauptung zustimmt. Die Aussage, das Produkt des Unternehmens könne sämtliche Entscheidungsprozesse sicher automatisieren, ist etwas anderes als ein technischer Schulungssatz. Sie kann eine kommerzielle Behauptung, eine öffentliche Erklärung, eine Frage der beruflichen Reputation und in einem regulierten Sektor eine Sicherheitszusage darstellen. Im System fehlt jedoch folgendes Feld:

content_specific_human_approval

Dem System ist lediglich Folgendes bekannt:

corporate_use: approved

Das Video wird in sechs Sprachen veröffentlicht. Ein arabischsprachiger Kollege schreibt Mina: „Dein arabisches Werbevideo ist wirklich gut geworden.“ Mina weiß nicht, von welchem Video er spricht. Sie öffnet den Link. Sie sieht ihr eigenes Gesicht und hört eine Stimme, die ihrer eigenen ähnelt. In einer Sprache, die sie nicht versteht, gibt sie gegenüber Gesundheitseinrichtungen ein Sicherheitsversprechen ab. Mina wendet sich an die Personalabteilung. Sie sagt: „Ich habe dieses Video nicht genehmigt.“ Die Personalabteilung prüft die Datensätze. Im System steht:

consent_status: active

Mina sagt: „Ich habe meine Erlaubnis für interne Schulungen erteilt.“ Das Rechtsteam zeigt ihr das von ihr unterzeichnete Formular: „Die Formulierungen betriebliche Schulung, Kommunikation, Werbung und Verbesserung von Diensten stehen im Formular.“ Mina antwortet: „Mir wurde aber nicht gesagt, dass damit öffentliche Werbung in sechs Sprachen gemeint ist.“ Das Unternehmen erklärt sich bereit, das Video zu entfernen. Das Marketingteam vertritt jedoch die Ansicht, sein Nutzungsrecht an sämtlichen bereits erstellten Videos bestehe fort. Im Vertrag des Anbieters steht folgende Klausel: „Medienerzeugnisse, die während des Zeitraums einer gültigen Befugnis erstellt wurden, dürfen von der Institution zeitlich unbegrenzt verwendet werden, sofern nichts anderes vereinbart ist.“

Mina ist keine Partei dieses Vertrags. Sie hat diese Klausel zuvor nie gesehen. Einen Monat später beschließt sie, das Unternehmen zu verlassen. Im Austrittsgespräch erklärt sie ausdrücklich, dass sie ihre Einwilligung in jede Nutzung ihres Gesichts- und Stimmmodells widerruft. Im Unternehmensportal wird der Status geändert:

consent_status: revoked

Die Personalabteilung sendet Mina eine E-Mail: „Ihr Antrag auf Widerruf der Einwilligung wurde im System erfasst.“ Mina hält die Angelegenheit für erledigt. Die übrigen Systemzustände lauten jedoch:

new_recording: prohibited
new_model_training: prohibited
existing_model: active
existing_outputs: active
scheduled_publications: active
affiliate_access: active
vendor_backup: retained

Der Einwilligungsstatus hat sich geändert. Das Verhalten des Systems insgesamt jedoch nicht. Zwei Wochen später wird ein bereits geplantes Produktvideo veröffentlicht. Minas Avatar spricht erneut. Mina legt beim Unternehmen Widerspruch ein. Das technische Team erklärt: „Das Video wurde erstellt, bevor Sie Ihre Einwilligung widerrufen haben. Der Widerruf betrifft nur neue Produktionen.“ Mina fragt: „Warum wurde mir das dann nicht gesagt, als ich meine Einwilligung widerrufen habe?“ Das Unternehmen kann darauf nicht antworten. Ein weiteres Problem tritt zutage. Der Avataranbieter erklärt, das aus Minas Aufnahmen erzeugte Stimmenmodell sei keine gesonderte Datei; es sei Bestandteil eines größeren Modells, das mit den Daten zahlreicher Sprecher trainiert wurde.

Der Anbieter erklärt: „Die Rohaufnahmen können gelöscht werden. Es lässt sich technisch jedoch nicht garantieren, dass der Einfluss einer einzelnen Person vollständig aus den Modellparametern herausgelöst werden kann.“ Das wusste Mina vor den Aufnahmen nicht. Im Einwilligungsformular wurde diese Möglichkeit nicht offengelegt. Später verwendet eine Tochtergesellschaft des Unternehmens Minas Avatar in ihrem eigenen Schulungssystem. Die Muttergesellschaft erklärt: „Auch die Tochtergesellschaft gehört zur Unternehmensgruppe.“ Mina hat einer Nutzung durch diese Gesellschaft nie zugestimmt. In einem weiteren Video wird nicht Minas Gesicht, sondern nur ihre Stimme verwendet.

Das Unternehmen hält diese Verwendung für etwas anderes: „Ihr Bild wurde nicht verwendet. Es kam nur das Stimmenmodell zum Einsatz.“ Mina antwortet: „Ich wollte doch gerade auch die Nutzung meiner Stimme beenden.“ Im System der Institution gibt es jedoch keine getrennten Datensätze für Gesicht und Stimme. Es enthält lediglich das Feld:

media_use: approved

Mina stellt nun die grundlegende Frage:

„Wozu habe ich Ja gesagt, und wozu kann ich Nein sagen?“

Ist die Antwort auf diese Frage nicht eindeutig, kann im System zwar ein Einwilligungsdatensatz vorhanden sein. Eine echte Einwilligung muss deshalb noch lange nicht vorliegen. Unser fünfter grundlegender Artikel lautet daher:

Einwilligung muss konkret, informiert und widerrufbar sein.

GRUNDLEGENDER ARTIKEL

Kein KI-System darf das Schweigen eines Menschen, sein früheres Verhalten, seine pauschale Zustimmung, technischen Zugriff, ein Arbeitsverhältnis, eine einmalige Erlaubnis oder eine für einen anderen Zweck erteilte Einwilligung als automatische Erlaubnis für eine neue, weiter gefasste, dauerhaftere oder wirkungsstärkere Handlung behandeln. Aus einer Einwilligung muss verständlich hervorgehen, wer für welche Daten oder Identitätsmerkmale und zu welchem Zweck die Erlaubnis erteilt hat; ebenso, für welchen Vorgang und welches Ergebnis, über welchen Kanal, gegenüber welcher Zielgruppe, in welcher Sprache und welchem Land, für welche Dauer und Anzahl von Wiederholungen, durch welchen Anbieter und für welche abgeleiteten Verwendungen sie gilt.

Die Einwilligung in die Nutzung des Gesichts ist keine Einwilligung in die Nutzung der Stimme. Die Erlaubnis zur Aufzeichnung ist keine Erlaubnis zum Modelltraining. Die Erlaubnis zum Modelltraining ist keine Erlaubnis, neue Inhalte zu erzeugen. Die Erlaubnis zur Inhaltserstellung ist keine Veröffentlichungserlaubnis. Die Freigabe eines einzelnen Inhalts ist keine dauerhafte Veröffentlichungsvollmacht. Die Erlaubnis zur internen Nutzung ist keine Erlaubnis zur öffentlichen Nutzung. Eine Einwilligung kann nicht als frei und informiert gelten, wenn der Mensch in einem Machtverhältnis keine echte Wahl hat, wenn sie mit sachfremden Diensten gebündelt wird, wenn ihre Ablehnung schwere und unverhältnismäßige Folgen hat oder wenn wesentliche Risiken verborgen bleiben. Der Mensch kann seine Einwilligung auf eine bestimmte Verwendung beschränken, aussetzen oder widerrufen. Der Widerruf muss nicht nur die Erzeugung neuer Aufnahmen erfassen, sondern auch ausstehende Aufgaben, geplante Veröffentlichungen, aktive Token, Unteragenten, den Modellzugriff, Speicher und, soweit möglich, abgeleitete Verwendungen.

Ist eine vollständige Rücknahme technisch nicht möglich, muss diese Grenze erläutert werden, bevor die Einwilligung eingeholt wird. Nach einem Widerruf ist dem Menschen ehrlich mitzuteilen, welche Wirkungen beendet wurden, welche fortbestehen und welche sich nicht verifizieren ließen. Die Einwilligung eines Menschen kann nicht von einem anderen Menschen, einer Führungskraft, einer Plattform, einem Agenten oder einer Institution eigenmächtig erzeugt werden. Eine durch einen Vertreter erteilte Einwilligung ist nur im Rahmen einer überprüften Vertretungsbefugnis, der Rechte des Betroffenen und der konkret bezeichneten Handlung wirksam. Einwilligung muss eine lebendige Beziehung sein, die Würde und Wahlfreiheit des Menschen schützt; kein einmal eingeholter, dauerhafter Blankoscheck zur Rechtfertigung sämtlicher künftiger Maschinenhandlungen.

Was ist Einwilligung?

In vielen digitalen Systemen wird Einwilligung auf folgendes Bild reduziert: [✓] Ich stimme zu Ein Kästchen wird markiert. Eine Schaltfläche wird betätigt. Das System erzeugt das Feld:

consent: true

Dieser technische Eintrag lässt sich leicht erzeugen. Den tatsächlichen Inhalt des menschlichen Willens trägt er jedoch nicht. Die kanonische Definition lautet: Einwilligung ist die positive Willenserklärung, die ein Mensch in Bezug auf sich selbst, seine Identität, seine Daten, seine Darstellung oder eine bestimmte, ihn betreffende Handlung abgibt. Sie beruht auf ausreichenden und verständlichen Informationen sowie einer echten Wahlmöglichkeit, gilt für einen bestimmten Umfang und Zeitraum und kann später eingeschränkt oder widerrufen werden. Einfacher gesagt:

Einwilligung ist nicht nur das Wort „Ja“; sie setzt voraus, dass der Mensch weiß, wozu, warum, für wie lange und mit welchen Folgen er Ja sagt.

Wenn sich in einem System folgender Eintrag findet:

consent: true

bedeutet das nicht, dass die folgenden Fragen beantwortet sind:

• Wessen Einwilligung ist es?
• Für welche Daten gilt sie?
• Für welches Identitätsmerkmal?
• Zu welchem Zweck?
• Für welche Handlung?
• Über welchen Kanal?
• Für welchen Zeitraum?
• Für welches Modell oder welchen Anbieter?
• Für welche abgeleiteten Ergebnisse?
• Wie kann der Mensch seine Einwilligung widerrufen?
• Was wird nach dem Widerruf tatsächlich beendet?

Solange diese Fragen unbeantwortet sind, kann ein Feld mit dem Wert true den menschlichen Willen nicht darstellen.

Einwilligung allein legitimiert nicht jede Handlung

Ein Mensch mag ein Kästchen markiert haben. Dadurch wird nicht jede Handlung des Systems rechtmäßig. Vielleicht hat er einen Text akzeptiert, den er nicht verstand, ohne eine echte Alternative zu haben, aus Angst um seinen Arbeitsplatz, als Voraussetzung für den Zugang zu einem Dienst oder ohne die künftigen Folgen zu kennen. Manche Handlungen berühren zudem die Rechte anderer Menschen. Ein Mensch kann sagen: „Ich bin mit der Aufzeichnung der Besprechung einverstanden.“ Daraus entsteht keine unbegrenzte Erlaubnis, über die Stimmen und Äußerungen der übrigen Teilnehmer zu verfügen. Eine Führungskraft kann anweisen: „Analysieren Sie sämtliche Gespräche der Beschäftigten.“

Damit entfallen die eigenen Rechte der Beschäftigten nicht. Ein Mensch kann die Nutzung seines Gesichts gestatten. Diese Erlaubnis begründet kein Recht, irreführende, rechtswidrige oder andere Menschen schädigende Inhalte herzustellen. Einwilligung ist wichtig. Aber sie ist:

Keine Maschine, die unbegrenzte Legitimität erzeugt.

Einwilligung, Information, Zweck und Befugnis sind nicht dasselbe

In vielen Systemen werden diese vier Begriffe miteinander vermischt.

Information

Sie erklärt dem Menschen, was geschehen soll. „Ihre Besprechung wird transkribiert.“ Der Mensch kann informiert worden sein, ohne eine echte Wahl zu haben.

Zweck

Er beschreibt, warum die Handlung ausgeführt werden soll. „Um eine Besprechungszusammenfassung und eine Aufgabenliste zu erstellen.“ Der Zweck kann eindeutig sein, obwohl der Mensch dieser Verwendung nicht eingewilligt hat oder eine andere Grundlage herangezogen wird.

Einwilligung

Sie bringt den positiven und widerrufbaren Willen des Menschen in Bezug auf eine bestimmte Verwendung zum Ausdruck. „Ich bin damit einverstanden, dass die Aufzeichnung meiner Besprechung für die Zusammenfassung dieser Besprechung verwendet wird.“

Befugnis

Sie bezeichnet das Recht eines Menschen, einer Institution oder eines Agenten, eine bestimmte Handlung auszuführen. „Der Besprechungsassistent darf nur die Zusammenfassung dieses Gesprächs erstellen; er darf die Aufzeichnung nicht an die Personalabteilung senden.“ Die Einwilligung des Menschen kann vorliegen, während dem Agenten die technische Befugnis für die betreffende Handlung fehlt. Auch das Gegenteil ist möglich: Der Agent verfügt über die technische Befugnis, doch der Mensch hat nicht eingewilligt. Für richtiges Handeln müssen diese Beziehungen gemeinsam bestehen: KLARE INFORMATION UND KONKRETER ZWECK UND, WO ERFORDERLICH, WIRKSAME EINWILLIGUNG UND HANDLUNGSSPEZIFISCHE TECHNISCHE BEFUGNIS Das eine ersetzt nicht das andere.

Nicht jede legitime Verwendung muss auf Einwilligung beruhen

Manche Handlungen können auf anderen Grundlagen beruhen, etwa auf der notwendigen Erfüllung eines Vertrags, einem ernsthaften Sicherheitsbedürfnis, einer bestimmten rechtlichen Verpflichtung oder einem dringenden Eingriff zum Schutz menschlichen Lebens. Dieses Buch reduziert nicht jede Beziehung zwischen Mensch und Daten auf ein Einwilligungskästchen. Denn zu behaupten, „Wir haben eine Einwilligung eingeholt“, obwohl keine echte Wahl bestand, kann den menschlichen Willen ebenfalls schwächen. Stützt eine Institution ihr Handeln auf eine andere legitime Grundlage, muss sie dies ehrlich benennen: „Dieser Vorgang beruht nicht auf einer freiwilligen Einwilligung, sondern auf einer notwendigen Sicherheitsfunktion des Dienstes. Er wird innerhalb folgender Grenzen ausgeführt. Folgende Widerspruchs- und Prüfwege stehen offen.“

Einem Menschen für einen Vorgang, den er nicht ablehnen kann, pro forma ein Einwilligungskästchen vorzulegen, ist:

Einwilligungstheater.

Im Einwilligungstheater scheint der Mensch zuzustimmen, obwohl er kein Recht zur Ablehnung hat. Er scheint eine Wahl zu treffen, obwohl alle Optionen zum selben Ergebnis führen. Er scheint widerrufen zu können, obwohl sich das Verhalten des Systems nicht ändert.

Eine Handlung, für die keine Einwilligung erforderlich ist oder die sich nicht durch Einwilligung steuern lässt, darf nicht hinter einer vorgetäuschten Schaltfläche „Ich stimme zu“ verborgen werden.

Die zwölf Dimensionen der Einwilligung

Bei KI-Handlungen mit hoher Wirkung muss Einwilligung in mindestens zwölf Dimensionen bestimmt werden.

• 1. Einwilligende Person
• 2. Empfänger der Einwilligung
• 3. Gegenstand der Einwilligung
• 4. Zweck
• 5. Erlaubter Vorgang
• 6. Erzeugtes Ergebnis
• 7. Kanal und Zielgruppe
• 8. Sprache, Land und Kontext
• 9. Dauer und Wiederholung
• 10. Anbieter und Empfänger
• 11. Abgeleitete Verwendung und Fortbestand
• 12. Widerruf und verbleibende Wirkungen

1. Einwilligende Person

Um wessen Willen geht es?

• Der Mensch, dessen Daten verwendet werden
• Der Mensch, dessen Gesicht oder Stimme verwendet wird
• Der Mensch, der von der Entscheidung betroffen ist
• Der Kontoinhaber
• Der Empfänger einer Mitteilung
• Der bevollmächtigte Vertreter

Darf die einwilligende Person tatsächlich über das betreffende Recht verfügen? Eine Führungskraft kann nicht im Namen eines Beschäftigten in eine biometrische Nutzung einwilligen. Ein Kunde kann keine unbegrenzte Einwilligung für die Stimmen der anderen Menschen in einer Besprechung erteilen.

2. Empfänger der Einwilligung

Wem wird die Einwilligung erteilt?

• Der Muttergesellschaft
• Einer bestimmten Tochtergesellschaft
• Dem Technologieanbieter
• Dem Modellanbieter
• Einer Agentur
• Einem Unterauftragsverarbeiter
• Einer öffentlichen Plattform

Die Aussage „Ich erteile unserem Unternehmen die Erlaubnis“ erfasst nicht automatisch sämtliche Konzerngesellschaften und künftigen Anbieter.

3. Gegenstand der Einwilligung

Welche Daten oder welches Identitätsmerkmal?

• Gesichtsbild
• Stimmaufnahme
• Stimmenmodell
• Gesprächstranskript
• Gesundheitsdaten
• Standort
• Nachrichtenverlauf
• Berufliches Profil
• Verhaltensschlussfolgerung

Gesicht und Stimme können in derselben Aufnahmesitzung erfasst werden. Sie sind dennoch nicht derselbe Gegenstand.

4. Zweck

Warum sollen die Daten oder das Identitätsmerkmal verwendet werden?

• Interne Schulung
• Kundensupport
• Öffentliche Werbung
• Modelltraining
• Sicherheit
• Forschung
• Personalisierung

Die in Artikel 4 begründete Zweckgrenze steht im Zentrum der Einwilligung. Ein unbestimmter Zweck kann keine konkrete Einwilligung hervorbringen.

5. Erlaubter Vorgang

Was genau darf das System tun?

• Aufzeichnen
• Transkribieren
• Analysieren
• Ein Modell erstellen
• Neue Inhalte erzeugen
• An einen anderen Agenten übermitteln
• Öffentlich veröffentlichen
• In einen dauerhaften Speicher schreiben

Die Einwilligung in einen Vorgang umfasst nicht automatisch die übrigen Vorgänge.

6. Erzeugtes Ergebnis

Welche Ergebnisse umfasst die Einwilligung?

• Ein bestimmtes Video
• Eine Zusammenfassung
• Ein Score
• Eine synthetische Stimme
• Ein Avatar
• Ein Risikoprofil
• Eine Entscheidungsempfehlung
• Eine öffentliche Erklärung

Ein Mensch kann der Verwendung der Rohaufnahme zugestimmt haben, ohne damit in die Erzeugung neuer Sätze einzuwilligen, die er nie ausgesprochen hat.

7. Kanal und Zielgruppe

Eine interne Schulungsplattform ist nicht dasselbe wie soziale Medien, Werbung, eine öffentliche Website, eine Kunden-E-Mail oder ein Callcenter. Die Erlaubnis, Beschäftigten ein Video zu zeigen, erlaubt nicht dessen Veröffentlichung als Werbung für Millionen von Menschen.

8. Sprache, Land und Kontext

Ein Mensch kann einen Text in einer Sprache freigegeben haben, die er versteht. Rechtliche, medizinische oder kommerzielle Behauptungen in einer ihm unbekannten Sprache zu äußern, birgt ein anderes Risiko. Die Erlaubnis für eine interne Schulung in einem Land darf nicht automatisch auf eine öffentliche Kampagne in einem anderen Land übertragen werden.

9. Dauer und Wiederholung

Gilt die Einwilligung für eine einmalige Verwendung, eine bestimmte Kampagne, sechs Monate, die Dauer des Arbeitsverhältnisses oder bis zu ihrem Widerruf? Ein Video einmal zu produzieren ist nicht dasselbe wie seine wöchentliche automatische Veröffentlichung.

10. Anbieter und Empfänger

Bleiben die Daten ausschließlich innerhalb der Institution? Werden sie an einen externen Anbieter übermittelt? Wird der Anbieter damit sein eigenes Modell weiterentwickeln? Erhalten Tochtergesellschaften Zugriff? Ohne diese Angaben kann der Mensch das tatsächliche Nutzungsgeflecht nicht überblicken.

11. Abgeleitete Verwendungen und Fortbestand

Selbst nach der Löschung der Rohaufnahme können folgende Bestände fortbestehen:

• Modelldatei
• Stimmvektor
• Embedding
• Trainingsbeispiel
• Erzeugtes Video
• Zusammenfassung
• Profil
• Modellgewicht
• Zwischenspeicher
• Externe Kopie

Die Einwilligung muss den Status dieser Bestände erklären.

12. Widerruf und verbleibende Wirkungen

Wie widerruft der Mensch seine Einwilligung? Wann wird der Widerruf wirksam? Auf welche Systeme überträgt er sich? Welche Ergebnisse entfernt er? Welche früheren Wirkungen kann er nicht rückgängig machen? Welche Anbieter müssen den Vollzug bestätigen? Wird diese Dimension nicht erklärt, weiß der Mensch bei seinem „Ja“ nicht, wie er künftig „Nein“ sagen kann.

Eine Einwilligung kann nicht in allen Dimensionen unbegrenzt sein

Der folgende Eintrag ist keine echte Einwilligungsvereinbarung: KI-Nutzung: genehmigt Ein aussagekräftigerer Datensatz könnte so aussehen:

subject:
Mina Aksoy
identity_elements:
- face_model
- voice_model
purpose:
internal_employee_training
permitted_outputs:
- scripts individually approved by Mina
languages:
- Turkish
- English
channels:
- private_learning_platform
audience:
- current employees
duration:
12 months
public_release:
prohibited
model_training_for_other_customers:
prohibited
withdrawal:
available at any time
pending_jobs_after_withdrawal:
must be cancelled
existing_outputs:
review and removal required

Dieser Datensatz wirkt länger. Er bildet jedoch die tatsächlichen Grenzen des menschlichen Willens ab.

Die Erlaubnis für das Gesicht ist keine Erlaubnis für die Stimme

Ein Mensch kann gestatten, dass sein Gesicht in einem bestimmten Video erscheint. Damit erlaubt er nicht die Erstellung eines Stimmenmodells. Er kann ein Stimmenmodell erlauben, ohne die Nutzung seines Gesichts zu gestatten. Beides kann biometrische Folgen haben und die Identität berühren. Es handelt sich um gesonderte Gegenstände der Einwilligung.

FACE_CAPTURE
≠
VOICE_CAPTURE
FACE_MODEL
≠
VOICE_MODEL
FACE_PUBLICATION
≠
VOICE_PUBLICATION

Ein einziges pauschales Feld wie „Mediennutzung“ verdeckt diesen Unterschied.

Die Erlaubnis zur Aufzeichnung ist keine Erlaubnis zum Modelltraining

Für die Aufnahme eines bestimmten Videos darf Minas Stimme aufgezeichnet werden. Diese Aufnahme kann verwendet werden, um das Gesprochene zu transkribieren, den Ton zu bereinigen und das betreffende Video zu bearbeiten. Dieselbe Aufnahme in ein dauerhaftes Stimmenmodell zu überführen, kann ein neuer Vorgang sein. Das Modell kann neue Wörter, neue Sätze, neue Emotionen und neue Sprachen erzeugen. Was zum Aufnahmezeitpunkt eine begrenzte Handlung war, ist damit zu einer Fähigkeit zur unbegrenzten synthetischen Produktion in der Zukunft geworden. Deshalb gilt:

Die Erlaubnis, eine Probe zu verwenden, ist keine Erlaubnis, eine endlos reproduzierbare Kopie dieses Menschen zu schaffen.

Die Erlaubnis zum Modelltraining ist keine Erlaubnis zur Inhaltserstellung

Ein Mensch kann der Erstellung eines Stimmenmodells für einen technischen Test zustimmen. Das erlaubt nicht, mit dem Modell tatsächliche Inhalte zu erzeugen. Das Modell kann im Labor verbleiben. Es muss nicht an die Öffentlichkeit gelangen.

1. Folgende Unterscheidung muss gewahrt bleiben: ERSTELLUNG DES MODELLS
2. ↓
3. TEST DES MODELLS
4. ↓
5. ERSTELLUNG VON INHALTEN
6. ↓
7. FREIGABE DES INHALTS DURCH DEN MENSCHEN
8. ↓
9. VERÖFFENTLICHUNG

Jede Stufe erfordert eine gesonderte Handlungsbefugnis.

Die Erlaubnis zur Inhaltserstellung ist keine Veröffentlichungserlaubnis

Mina kann die Erstellung eines Videoentwurfs gestatten, damit sie ihn prüfen und freigeben kann. Das erlaubt keine Veröffentlichung des Videos in sozialen Medien, in einem Werbenetzwerk, in Kunden-E-Mails oder auf einer öffentlichen Website. Solange der Mensch das endgültige Ergebnis nicht gesehen hat, kann er möglicherweise noch keine Entscheidung über dessen Veröffentlichung treffen. Eine inhaltsbezogene Freigabe ist besonders wichtig, wenn mit seinem Gesicht und seiner Stimme ein neuer Satz gesprochen wird.

Die Freigabe eines einzelnen Inhalts ist keine dauerhafte Vollmacht

Ein Mensch gibt einen Schulungstext frei. Das System kann im selben Format Hunderte ähnliche Inhalte erzeugen. Die ursprüngliche Freigabe ist nach Thema, Wortlaut, Kanal und Zeitpunkt begrenzt. Sie darf nicht in folgende Schlussfolgerung umgedeutet werden: „Dieser Mensch hat der allgemeinen Nutzung als Unternehmensavatar zugestimmt.“ Eine einmalige Erlaubnis ist keine dauerhafte Vollmacht über die Identität.

Interne Nutzung ist keine öffentliche Nutzung

Ein auf einer geschlossenen Plattform für Beschäftigte veröffentlichtes Schulungsvideo hat eine begrenzte Zielgruppe, ein geringeres Risiko der Weiterverbreitung und einen bestimmten Kontext. Dasselbe Video ist in öffentlichen sozialen Medien einem größeren Publikum sowie den Risiken von Download, Umarbeitung, Berichterstattung und dauerhafter Archivierung ausgesetzt. Die öffentliche Nutzung ist eine gesonderte Folge. Derselbe Inhalt bedeutet nicht dieselbe Zielgruppe oder dieselbe Rückholbarkeit.

Die Freigabe in einer Sprache ist keine Freigabe in allen Sprachen

Ein Mensch kann einen englischen Text lesen und freigeben. Versteht er den arabischen Text nicht, kann er nicht genau wissen, was mit seiner Stimme gesagt wird. Eine Übersetzung kann die Bedeutung verändern, eine rechtliche Behauptung verschärfen, den kulturellen Kontext verschieben oder einen Satz hervorbringen, den der Mensch nicht äußern möchte. Die Einwilligung für jede neue Sprache muss nicht in jedem Fall ein eigenes aufwendiges Verfahren auslösen. Der Mensch muss jedoch wissen, welche Sprachen verwendet werden, wie die Übersetzung geprüft wird und wie er einen Text in einer ihm unbekannten Sprache freigeben soll. Falls nötig, muss eine unabhängige sprachliche Prüfung stattfinden.

Die Erlaubnis für einen Kanal ist keine Erlaubnis für alle Kanäle

Ein Mensch kann in die Kommunikation per E-Mail einwilligen. Diese Einwilligung muss Telefonanrufe, WhatsApp-Nachrichten, private Nachrichten in sozialen Medien oder Kalendereinladungen nicht umfassen. Ebenso begründet die Veröffentlichung eines Avatarvideos auf einer Website keine Erlaubnis für Fernsehwerbung, eine bezahlte Social-Media-Kampagne oder eine Vertriebspräsentation. Der Kanal verändert die Wirkung der Handlung.

Eine Institution steht nicht für sämtliche verbundenen Unternehmen

Mina kann einer bestimmten Verwendung durch die Muttergesellschaft zugestimmt haben. Tochtergesellschaften können dasselbe Modell in einem anderen Land, für einen anderen Zweck und gegenüber einer anderen Zielgruppe einsetzen wollen. Die Formulierung „Unternehmensgruppe“ darf nicht zu einem unbegrenzten Empfänger der Einwilligung werden. Der Mensch muss verstehen können, welche Rechtsträger auf seine Daten oder sein Identitätsmodell zugreifen dürfen. Eine neue Gesellschaft, eine Fusion oder eine Übertragung kann eine wesentliche Änderung darstellen.

Ein Arbeitsverhältnis ist keine unbefristete Einwilligung

Ein Beschäftigter kann im Rahmen seiner Aufgabe bestimmten Maßnahmen der Sichtbarkeit und Kommunikation zustimmen. Es muss jedoch eindeutig sein, ob nach dem Ende des Arbeitsverhältnisses die Nutzung eines öffentlichen Avatars, die Erzeugung neuer Sprachinhalte, Werbekampagnen und Kundenbotschaften fortgesetzt werden dürfen. Das Bestehen eines Arbeitsvertrags macht Gesicht und Stimme des Beschäftigten nicht zu einem unbefristeten Vermögenswert des Unternehmens. Der Status bereits erzeugter Inhalte kann gesondert geregelt werden. Für eine neue synthetische Produktion darf die frühere Einwilligung eines ehemaligen Beschäftigten nicht von selbst fortgelten.

Einwilligung muss verständlich sein

Kann der Mensch die ihm vorgelegte Erklärung nicht verstehen, beruht sein „Ja“ nicht auf wirklicher Information. Eine verständliche Einwilligungserklärung kann klare Sprache, eine kurze Hauptzusammenfassung, eine ausführliche Anlage, visuelle Beispiele und konkrete Anwendungsszenarien nutzen. Wichtig ist etwa der Satz: „Ihr Stimmenmodell kann mit einer Stimme, die Ihrer ähnelt, neue Sätze erzeugen, die Sie nie ausgesprochen haben.“ Die technische Formulierung „Akustische Darstellungsvektoren können in einer Infrastruktur für generative Synthese verwendet werden“ bietet möglicherweise nicht dieselbe Klarheit. Der Mensch muss keine Fachbegriffe beherrschen. Die Institution muss das tatsächliche Verhalten in menschliche Sprache übersetzen.

Mehrstufige Einwilligungserklärung

Nicht alle Einzelheiten passen auf einen einzigen Bildschirm. Es können drei Ebenen verwendet werden.

Erste Ebene — Zusammenfassung in einer Minute

Wir möchten aus Ihrem Gesicht und Ihrer Stimme einen synthetischen Avatar erstellen. Dieser Avatar kann neue Sätze erzeugen, die Sie nie ausgesprochen haben. Die erste Verwendung ist ausschließlich für interne Schulungen auf Türkisch und Englisch vorgesehen. Öffentliche Veröffentlichungen, Werbung, andere Sprachen und das allgemeine Modelltraining des Anbieters sind nicht umfasst. Sie können Ihre Einwilligung jederzeit widerrufen. Manche Wirkungen bereits veröffentlichter oder in ein Modell eingearbeiteter Inhalte lassen sich möglicherweise nicht vollständig rückgängig machen; Einzelheiten finden Sie nachstehend.

Zweite Ebene — Auswahlmöglichkeiten

[ ] Erstellung eines Gesichtsmodells [ ] Erstellung eines Stimmenmodells [ ] Erzeugung türkischsprachiger Inhalte [ ] Erzeugung englischsprachiger Inhalte [ ] Interne Schulungsplattform [ ] Öffentliche Website [ ] Soziale Medien [ ] Modellentwicklung [ ] Nutzung durch Tochtergesellschaften

Dritte Ebene — Ausführlicher Datensatz

• Anbieter
• Aufbewahrungsdauer
• Abgeleitete Daten
• Technische Grenzen der Rücknahme
• Widerspruchs- und Widerrufsverfahren
• Menschliche Verantwortliche
• Vorfall- und Abhilfeweg

Diese Struktur schafft zugleich Einfachheit und echte Klarheit.

Einwilligung muss frei erteilt werden

Wenn ein „Nein“ bedeutet, dass ein Mensch seinen Arbeitsplatz, einen grundlegenden Dienst, ein Recht oder einen unverhältnismäßig großen Vorteil verliert, muss hinterfragt werden, wie real seine Wahl tatsächlich ist. Steht der Beitrag zum Avatarprojekt in Minas Jahreszielen, kann dies Druck auf ihre Einwilligung ausüben. Beschäftigten kann es schwerfallen, sich der Erwartung einer Führungskraft zu widersetzen. Bewerber können befürchten, dass ihre Bewerbung nicht geprüft wird, wenn sie eine Datennutzung ablehnen. Kunden erhalten womöglich keinen Zugang zum grundlegenden Dienst, solange sie nicht sämtliche optionalen KI-Funktionen akzeptieren. In solchen Fällen beweist das markierte Kästchen für sich genommen keine frei erteilte Einwilligung.

Machtungleichgewicht

In folgenden Beziehungen muss Einwilligung mit besonderer Sorgfalt beurteilt werden:

• Arbeitgeber–Beschäftigter
• Schule–Schüler oder Studierender
• Gesundheitseinrichtung–Patient
• Behörde–Bürger
• Große Plattform–abhängiger Nutzer
• Pflegende Person–pflegebedürftiger Mensch

Theoretisch kann der Mensch ablehnen. In der Praxis kann er erheblichem Druck ausgesetzt sein. Deshalb muss die Institution folgende Fragen stellen:

• Ist eine Ablehnung tatsächlich möglich?
• Kann der ablehnende Mensch weiterhin auf den grundlegenden Dienst zugreifen?
• Wirkt sich die Ablehnung auf Leistung, Beförderung oder Chancen aus?
• Gibt es eine passendere und ehrlichere Grundlage als Einwilligung?
• Wird eine optionale Funktion als verpflichtend dargestellt?
• Kann der Mensch eine alternative Methode nutzen?

Eine Ablehnung darf keine Strafe nach sich ziehen

Wenn Mina das Avatarprogramm ablehnt,

• darf ihr Leistungsscore nicht sinken
• darf sie keine Beförderungschance verlieren, weil sie nicht am Projekt teilnimmt
• darf sie nicht die Kennzeichnung „veränderungsresistent“ erhalten

Wird die verweigerte Einwilligung eines Menschen in ein negatives Verhaltenssignal über ihn verwandelt, wird seine Wahlfreiheit untergraben.

consent_refused

darf nicht in die Kennzeichnungen

low_cooperation
high_risk
resistant_employee

umgewandelt werden.

Gebündelte Einwilligung

Muss ein Mensch sämtliche voneinander verschiedenen Zwecke in einem einzigen Kästchen akzeptieren, um einen Dienst nutzen zu können, können wir von gebündelter Einwilligung sprechen. Beispiel: [✓] Ich stimme den Nutzungsbedingungen, der Marketingkommunikation, dem Modelltraining, der Weitergabe an verbundene Unternehmen und biometrischen Analysen zu. Der Mensch kann eine dieser Verwendungen wünschen und die anderen ablehnen. Für den grundlegenden Dienst erforderliche Vorgänge müssen von optionalen Verwendungen getrennt werden.

Bedingter Zwang

Eine Plattform kann erklären: „Wenn Sie die KI-Funktionen nicht akzeptieren, können Sie Ihr Konto nicht nutzen.“ Vielleicht ist die KI-Funktion für den grundlegenden Dienst tatsächlich notwendig. Vielleicht strebt die Institution damit nur einen zusätzlichen wirtschaftlichen Nutzen an. Dieser Unterschied muss offengelegt werden. Ein optionaler neuer Zweck darf nicht als zwingende Voraussetzung für den grundlegenden Dienst dargestellt werden.

Dunkle Einwilligungsmuster

Eine Einwilligungsoberfläche kann den Menschen zu einer bestimmten Wahl lenken. Zu den verbreiteten Mustern gehören:

1. Vorab markiertes Kästchen

Ohne eine aktive Wahl getroffen zu haben, gilt der Mensch als einverstanden.

2. Unausgewogene Schaltflächen

[LEUCHTEND BLAU — ALLES AKZEPTIEREN] [kleiner grauer Link — Einstellungen verwalten]

3. Ablehnung verbergen

Es gibt „Später entscheiden“. Ein „Nein“ gibt es nicht.

4. Schuldgefühle erzeugende Sprache

„Nein, ich möchte keinen besseren Service.“

5. Wiederholter Druck

Nachdem der Mensch abgelehnt hat, wird ihm die Frage bei jeder Anmeldung erneut gestellt. Das System versucht, sein „Nein“ abzunutzen.

6. Irreführende Dringlichkeit

„Dieses Angebot gilt nur 30 Sekunden.“

7. Asymmetrie des Widerrufs

Zustimmen mit einem Klick. Widerrufen nur per Telefon, Formular und Wartezeit.

8. Unbestimmter Umfang

„Wir dürfen Ihre Daten verwenden, um Ihr Nutzungserlebnis zu verbessern.“

9. Stillschweigende Ausweitung

Der Hinweis auf den neuen Zweck wird in einer unauffälligen Aktualisierungsnotiz verborgen.

10. Einwilligung mit erfolgreicher Dienstnutzung verknüpfen

Verweigert ein Beschäftigter oder Nutzer die Einwilligung, versieht ihn das System mit einem niedrigen Kooperationsscore. Diese Muster sind nicht bloß ein Problem der Benutzeroberfläche. Sie beeinträchtigen die verhaltensbezogene Gültigkeit der Einwilligung.

Einwilligungsmüdigkeit

Sieht der Mensch bei jedem kleinen Vorgang Dutzende Kästchen, stimmt er nach einiger Zeit zu, ohne sie zu lesen. Das ist:

Einwilligungsmüdigkeit.

Einwilligungsmüdigkeit kann zu zwei falschen Lösungen führen:

• Für jede Handlung fortwährend eine Zustimmung verlangen
• Einmal eine pauschale Zustimmung einholen und unterstellen, sie umfasse alles

Der richtige Ansatz ist risikobasiert. Handlungen mit geringer Wirkung, eindeutigem Umfang und guter Rückholbarkeit lassen sich durch vorab festgelegte Einstellungen, klare Hinweise und einen einfachen Widerruf steuern. Handlungen mit hoher Wirkung oder neuartigem Charakter können eine vorgangsbezogene, ausdrückliche und konkrete Einwilligung erfordern, die an den Inhalt oder das Ziel gebunden ist.

Eine gute Einwilligungsgestaltung zwingt den Menschen nicht ständig zum Klicken; sie hält nur bei einer tatsächlich neuen und wesentlichen Entscheidung inne.

Einwilligung braucht einen zeitlichen Rahmen

Ein Mensch kann vor Jahren eine Erlaubnis erteilt haben, auf die sich das System heute berufen möchte. Inzwischen können sich die Technologie oder der Anbieter geändert, der Einsatzbereich erweitert, die Rolle des Menschen beendet oder das Risiko erhöht haben. Ein Einwilligungsdatensatz muss deshalb folgende Felder enthalten:

valid_from
valid_until
review_due_at
revoked_at
invalidated_by_change

Für manche eng begrenzten Verwendungen kann eine unbefristete Einwilligung möglich sein. Bei einer wesentlichen Änderung muss sie jedoch erneut beurteilt werden.

Einwilligung kennt mehr Zustände als aktiv und inaktiv

Realistischere Zustände sind: DRAFT REQUESTED ACTIVE

ACTIVE_WITH_CONDITIONS
PARTIALLY_WITHDRAWN
SUSPENDED
DISPUTED
EXPIRED
REVOKED
UNVERIFIABLE
SUPERSEDED

Mina kann zum Beispiel ihre Einwilligung in das Gesichtsmodell aufrechterhalten, die Nutzung ihrer Stimme widerrufen, die Verwendung für interne Schulungen fortsetzen und die öffentliche Veröffentlichung beenden. Ein einzelnes Feld wie

consent_status: revoked

kann diese Unterscheidung nicht abbilden.

Teilwiderruf

Der Mensch muss seine Einwilligung nicht vollständig widerrufen. Er kann sagen: „Die internen Schulungsvideos dürfen weiterlaufen. Die Nutzung in sozialen Medien und in der Werbung soll enden.“ „Ich erlaube Inhalte auf Türkisch und Englisch. Eine Erzeugung in Sprachen, die ich nicht verstehe, erlaube ich nicht.“ „Mein Gesicht darf verwendet werden. Ich möchte nicht, dass mein Stimmenmodell für neue Inhalte eingesetzt wird.“ „Die bestehende Kampagne darf in diesem Monat abgeschlossen werden. Es soll keine neue Kampagne erstellt werden.“ Das System muss einen Teilwiderruf technisch umsetzen können. Der Mensch darf nicht auf die Wahl zwischen ALLEM ZUSTIMMEN und ALLES ABLEHNEN beschränkt werden.

Einwilligung muss widerrufbar sein

Ein Widerruf bedeutet nicht, dass eine Einwilligung nachträglich fehlerhaft geworden ist. Er gehört zu ihrem Wesen. Der Mensch kann seine Meinung ändern, von einem neuen Risiko erfahren, ein Arbeitsverhältnis beenden, sich mit einer anderen Nutzung seiner Identität unwohl fühlen oder das Vertrauen in die Technologie verlieren. Die Institution darf einen Widerruf nicht nach dem Motto „Sie brechen Ihr Wort“ behandeln. Ist eine Einwilligung nicht widerrufbar, ist sie nicht in vollem Sinne frei.

Die Entgegennahme eines Widerrufs ist nicht dasselbe wie das Ende der Handlung

Mina wurde mitgeteilt: „Ihr Antrag wurde im System erfasst.“ Geplante Veröffentlichungen, der Zugriff einer Tochtergesellschaft, das bestehende Modell und die Sicherungskopie des Anbieters blieben jedoch aktiv. Deshalb müssen mindestens vier Zeitpunkte protokolliert werden:

WITHDRAWAL_REQUESTED_AT
WITHDRAWAL_VERIFIED_AT
NEW_USE_CEASED_AT
DOWNSTREAM_EFFECTS_RESOLVED_AT

Manchmal lässt sich der letzte Zustand nicht vollständig klären. In diesem Fall muss ausdrücklich

downstream_effects_resolved: partial

vermerkt werden.

Der Widerruf muss die gesamte Kette erreichen

Wird eine Einwilligung widerrufen, müssen folgende Komponenten geprüft werden:

• Rohaufnahme
• Modelldatei
• Modellzugriffs-Token
• Aktive Produktionsaufträge
• Geplante Veröffentlichungen
• Unteragenten
• Tochtergesellschaften
• Externe Anbieter
• Zwischenspeicher
• Dauerhafter Speicher
• Erzeugte Medien
• Modelltrainingsdatensätze
• Kopien Dritter

Diese Ausbreitung können wir Einwilligungsweitergabe nennen. Wird die Einwilligung nur in der zentralen Datenbank geändert, ohne das Handlungsnetz zu erreichen, bleibt der menschliche Wille bloß auf dem Papier bestehen.

Einwilligung muss zum Ausführungszeitpunkt geprüft werden

Ein Video kann in die Warteschlange aufgenommen worden sein, als Minas Einwilligung noch galt. Bis zum Veröffentlichungszeitpunkt kann sie die Einwilligung widerrufen haben. Die Warteschlange darf nicht mit der Begründung fortfahren: „Bei Erstellung der Aufgabe lag die Einwilligung vor.“ Bei einer Verwendung mit hoher Wirkung müssen zum Ausführungszeitpunkt folgende Fragen geprüft werden:

• Ist die Einwilligung noch aktiv?
• Sind dieser konkrete Inhalt und dieser Kanal vom Umfang erfasst?
• Hat die einwilligende Person etwas geändert?
• Ist die Geltungsdauer abgelaufen?
• Wurde ein neuer Anbieter oder eine neue Sprache hinzugefügt?
• Liegt ein Stopp- oder Streitvermerk vor?

EINWILLIGUNG BEI AUFGABENERSTELLUNG GÜLTIG ≠ EINWILLIGUNG ZUM HANDLUNGSZEITPUNKT GÜLTIG

Einwilligungsticket

Eine Agentenhandlung mit hoher Wirkung kann sich statt auf ein pauschales Feld consent: true auf ein handlungsgebundenes Einwilligungsticket stützen. Beispiel:

consent_ticket:
consent_id: CONSENT-MINA-041
subject:
Mina Aksoy
identity_elements:
- face_model
- voice_model
purpose:
internal_employee_training
approved_content:
script_hash: SHA256-...
languages:
- tr
- en
channels:
- private_learning_platform
audience:
- current_employees
provider:
AvatarVendor-A
public_release:
false
model_training_for_other_clients:
false
valid_from:
2026-10-01
valid_until:
2027-03-31
maximum_publications:
12
withdrawal_status:
active
revalidate_at_execution:
true

Dieses Ticket darf nicht für einen anderen Text, eine andere Sprache oder einen anderen Kanal verwendet werden.

Ein Einwilligungsticket ist kein Befugnisticket

Dass Mina die Nutzung ihres Gesichts und ihrer Stimme erlaubt, bedeutet nicht, dass der Veröffentlichungsagent automatisch zur öffentlichen Verbreitung befugt ist. Zwei getrennte Prüfungen sind erforderlich:

SUBJECT_CONSENT
+
INSTITUTIONAL_PUBLICATION_AUTHORITY

Der Mensch kann in die Nutzung seiner eigenen Identität einwilligen. Die Institution muss darüber hinaus genehmigen, dass der Inhalt zutreffend ist und mit der erforderlichen Befugnis über den passenden Kanal veröffentlicht wird. Das eine begründet nicht das andere. In Artikel 6 wird diese Unterscheidung ausführlicher entwickelt.

Inhaltsfreigabe und Gegenstand der Einwilligung müssen getrennt werden

Mina kann die Nutzung des Avatarmodells allgemein gestatten und dennoch jeden einzelnen Satz gesondert freigeben wollen. Das System muss folgende Datensätze voneinander trennen:

MODEL_CONSENT
CONTENT_APPROVAL
PUBLICATION_AUTHORIZATION

Zum Beispiel:

• Die technische Existenz des Modells ist erlaubt.
• Der konkrete Text ist nicht freigegeben.
• Für eine öffentliche Veröffentlichung besteht keine Befugnis.

Der Inhalt kann in diesem Zustand als Entwurf erzeugt werden. Veröffentlicht werden darf er nicht.

Freigabe von Inhalten in einer dem Menschen unbekannten Sprache

Versteht der Mensch einen fremdsprachigen Text nicht, können drei Verfahren eingesetzt werden:

• Qualifizierte und unabhängige Übersetzung
• Protokoll der Bedeutungsgleichheit in einer Sprache, die der Mensch versteht
• Freigabe durch einen benannten, vertrauenswürdigen Sprachverantwortlichen

Die Aussage des Menschen „Ich vertraue Übersetzungen im Allgemeinen“ darf jedoch nicht als unbegrenzte Freigabe für öffentliche Erklärungen mit hoher Wirkung gelten. Die Bedeutungsgleichheit muss nachgewiesen werden.

Ändert sich der erzeugte Inhalt, ändert sich auch seine Freigabe

Der Mensch kann den Hashwert oder eine bestimmte Fassung eines Textes freigegeben haben. Später ändert der Inhaltsagent ein einziges Wort. Dieses Wort kann wesentlich sein: „Hilft“

wird zu:
„Garantiert.“

Die menschliche Freigabe gilt dem früheren Text. Die neue Fassung muss erneut beurteilt werden; bei einer wesentlichen Änderung ist eine neue Freigabe einzuholen.

APPROVED_CONTENT_VERSION
≠
CURRENT_CONTENT_VERSION

Die technische Herkunft der Einwilligung muss erhalten bleiben

Ein System kann eine Einwilligung aus einem anderen System übernehmen. Beispiele:

• Personalplattform
• CRM
• Kampagnenwerkzeug
• Avataranbieter
• Mobile Anwendung

Bei der Übertragung einer Einwilligung in ein anderes System dürfen folgende Angaben nicht verloren gehen:

• Einwilligende Person
• Zweck
• Gegenstand
• Umfang
• Dauer
• Anbieter
• Widerrufsstatus
• Quelldatensatz
• Sprache und Fassung der Erklärung

Wird lediglich

consent: yes

übertragen, geht die tatsächliche Grenze verloren.

Einwilligungsherkunft

Die Struktur, die sämtliche aus einer Einwilligung hervorgegangenen Daten, Modelle und Ergebnisse miteinander verknüpft, können wir Einwilligungsherkunft nennen. Beispiel:

CONSENT-MINA-041
├── RAW-VOICE-REC-01
├── RAW-FACE-REC-02
├── VOICE-MODEL-v1
├── FACE-MODEL-v1
├── VIDEO-TR-001
├── VIDEO-EN-001
├── ARABIC-DRAFT-004
└── SOCIAL-SCHEDULE-009

Wenn Mina ihre Einwilligung widerruft, muss das System anhand dieser Herkunft bestimmen können, welche Bestände betroffen sind. Ohne Einwilligungsherkunft geht der menschliche Wille zwischen den Kopien von Daten und Modellen verloren.

Abgeleitete Bestände müssen die Einwilligungsgrenze erben

Aus einer rohen Stimmaufnahme können ein Vektor, ein Modell, ein erzeugter Clip oder ein Merkmal in einer Zusammenfassung entstehen. Diese Umwandlung darf die ursprüngliche Einwilligungsgrenze nicht löschen. Die Grundregel lautet:

DERIVED_IDENTITY_OR_DATA_ASSET
INHERITS
SOURCE_CONSENT_RESTRICTIONS

Solange keine neue und wirksame Erlaubnis vorliegt, darf ein abgeleiteter Bestand nicht für einen weiter gefassten Zweck verwendet werden.

Den Einfluss eines Menschen aus einem Modell zu entfernen, kann schwierig sein

Bei manchen Modelltrainings kann es technisch schwierig oder ungewiss sein, den Beitrag eines einzelnen Menschen später vollständig zu entfernen. Diese Tatsache darf nicht verborgen werden. Bevor der Mensch einwilligt, muss er folgende Information verstehen können: „Selbst wenn wir Ihre Aufzeichnung löschen, können wir möglicherweise technisch nicht garantieren, dass wir den Einfluss Ihrer Daten auf ein bereits trainiertes Modell vollständig beseitigt haben.“ Dieser Satz kann die Einholung der Einwilligung erschweren. Er enthält jedoch die Wahrheit. Die Institution darf die Grenzen der Rücknahme nicht verschweigen, nur um leichter eine Zustimmung zu erhalten.

Eine unumkehrbare Wirkung beseitigt nicht das Recht auf Widerruf

Lassen sich Wirkungen nicht vollständig aus einem Modell entfernen, darf das System nicht folgern: „Wir können sie ohnehin nicht rückgängig machen, also kann die Einwilligung nicht widerrufen werden.“ Richtiges Handeln kann Folgendes umfassen:

• Die neue Verwendung beenden
• Den Modellzugriff beschränken
• Die Daten in einer neuen Fassung nicht mehr verwenden
• Erzeugte Ergebnisse entfernen
• Künftige Bereitstellungen verhindern
• Dem externen Anbieter einen Löschungs- oder Beschränkungsantrag übermitteln
• Ehrlich erklären, welcher Bereich nicht rückgängig gemacht werden kann
• Falls erforderlich Abhilfe leisten

Eine vollständige technische Rücknahme mag unmöglich sein. Die aktive Handlungsmacht des Systems muss dennoch begrenzt werden.

Bereits veröffentlichte Inhalte

Nach dem Widerruf einer Einwilligung lässt sich der Status bereits veröffentlichter Inhalte möglicherweise nicht mit einer einzigen Regel klären. Folgende Gesichtspunkte müssen beurteilt werden:

• Umfang der ursprünglichen Verwendung
• Dauer der Veröffentlichung
• Öffentliche oder interne Nutzung
• Risiko des Inhalts für den Menschen
• Verbreitung der Kopien
• Vertrag und vernünftige Erwartung des Menschen
• Fortdauer einer neuen Verwendung
• Technische Möglichkeit der Entfernung

Ein Mensch kann ausdrücklich gestattet haben, dass eine bestimmte Kampagne sechs Monate lang veröffentlicht wird. Nach einem Widerruf kann eine sofortige Entfernung oder ein bestimmter Auslaufprozess erforderlich sein. Die Institution muss diese Bedingung jedoch von Anfang an offenlegen.

Was ein Widerruf nicht bewirken kann, muss vor der Einholung der Einwilligung erklärt werden – nicht erst, wenn der Mensch widerruft.

Neue Nutzung und Archivierung müssen getrennt werden

Eine Institution kann ein früher veröffentlichtes Video in einem historischen Archiv aufbewahren. Dasselbe Video in einer neuen Werbekampagne erneut einzusetzen, ist eine neue Handlung. Ein Archiv kann historisch, zugriffsbeschränkt und für erneutes Marketing gesperrt sein. Eine aktive Kampagne hingegen nutzt die Identität eines Menschen für einen neuen kommerziellen Zweck. Diese beiden Verwendungen dürfen nicht als gleich gelten.

Ein Mensch, der nicht einwilligt, darf nicht unsichtbar gemacht werden

Ein Beschäftigter kann die Teilnahme an einem Avatarprogramm ablehnen. Hebt die Institution nur die einwilligenden Beschäftigten als innovativ, sichtbar und für Führungsaufgaben geeignet hervor, kann aus der Ablehnung eine indirekte Strafe werden. Ein Kunde darf keine schlechtere Unterstützung erhalten, weil er keine Daten zur Personalisierung bereitstellt. Lehnt ein Bewerber das Modelltraining ab, darf seine Bewerbung nicht herabgestuft werden. Freie Einwilligung verlangt auch, die unsichtbare Bestrafung eines „Nein“ zu verhindern.

Wer seine Einwilligung widerruft, muss seine Entscheidung nicht begründen

Der Mensch kann gefragt werden: „Warum widerrufen Sie?“ Die Institution darf freiwillig nach dem Grund fragen und Informationen sammeln, um ihren Dienst zu verbessern. Sie darf den Menschen jedoch nicht zwingen, eine ausführliche Begründung vorzulegen, damit er sein bestehendes Widerrufsrecht ausüben kann. „Ich möchte es nicht mehr“ muss für die meisten Einwilligungsverhältnisse genügen.

Einwilligung im Namen eines anderen Menschen

Unter bestimmten Umständen kann ein Mensch im Namen eines anderen entscheiden:

• Elternteil
• Vormund
• Bevollmächtigter Vertreter
• Rechtsbevollmächtigter
• Zeichnungsberechtigter einer Institution

Die Vertretungsbefugnis muss jedoch konkret, aktuell und für die betreffende Handlung einschlägig sein sowie dem Wohl des Menschen dienen. Ein Elternteil kann gestatten, dass das Foto eines Kindes bei einer internen Schulveranstaltung verwendet wird. Diese Erlaubnis erstreckt sich nicht automatisch auf die unbefristete Nutzung eines Gesichtsmodells des Kindes in einem kommerziellen Werbesystem. Ein Unternehmensvertreter kann die Datennutzung für ein Geschäftskonto genehmigen. Diese Befugnis ersetzt nicht die persönliche Einwilligung, die Beschäftigte für die Nutzung ihrer eigenen Stimmen und Gesichter erteilen müssen.

Grenzen der Einwilligung durch Vertreter

Wird eine Einwilligung im Namen eines anderen Menschen erteilt, müssen folgende Fragen gestellt werden:

• Besteht die Vertretungsbefugnis tatsächlich?
• Welche Handlungen umfasst sie?
• Kann die Ansicht des betroffenen Menschen eingeholt werden?
• Entspricht die Einwilligung seinem Wohl?
• Wird der Datensatz aktualisiert, sobald der Mensch seinen eigenen Willen äußern kann?
• Besteht ein Interessenkonflikt zwischen dem Vertreter und dem Menschen?

Soweit möglich, müssen auch das eigene Verständnis und die Zustimmung des betroffenen Menschen eingeholt werden. Die Einwilligung durch einen Vertreter darf den Menschen selbst nicht vollständig unsichtbar machen.

Ein Mensch kann nicht für alle Teilnehmer einer Besprechung einwilligen

Der Organisator einer Besprechung kann die Aufzeichnungsfunktion einschalten. Das ist eine technische Befugnis. Es bedeutet nicht, dass alle Anwesenden einem Stimmenmodell, einer Beschäftigtenprofilierung, einem Modelltraining oder einer öffentlichen Veröffentlichung zugestimmt haben. Bei Gruppeninhalten können die Auswirkungen auf jeden Menschen gesondert beurteilt werden. Für eine Besprechungszusammenfassung mit geringem Risiko kann ein klarer gemeinsamer Hinweis genügen. Bei einer biometrischen oder anderen neuen Verwendung mit hoher Wirkung können gesonderte Rechte entstehen.

Gruppeneinwilligung und Auswirkungen auf Gemeinschaften

Ein Datensatz kann Handlungen gegenüber einer Gemeinschaft hervorbringen, selbst wenn er einzelne Menschen nicht voneinander unterscheidet. So können etwa ein Stressprofil der Beschäftigten in einer bestimmten Region, ein Risikoscore einer bestimmten Sprachgruppe oder die Preissensibilität einer bestimmten Kundengruppe erzeugt werden. Das Vorliegen einzelner Einwilligungsdatensätze legitimiert nicht automatisch sämtliche Auswirkungen auf die Gruppe. Die Institution muss die Risiken von Stigmatisierung, Diskriminierung und Machtasymmetrie auf Gruppenebene gesondert beurteilen.

Einwilligungskonflikt

Für denselben Menschen können in verschiedenen Systemen unterschiedliche Einwilligungsdatensätze vorliegen. Zum Beispiel im CRM:

marketing_consent = true

Kundenportal:

marketing_consent = false

WhatsApp Tool: status = unknown Legacy System: consent = true Das System darf nicht einfach den Datensatz mit dem weitesten Umfang auswählen. Zunächst muss es bestimmen, welcher Datensatz aktueller ist, für welchen Kanal und Zweck er gilt und aus welcher Quelle er stammt. Bis der Konflikt geklärt ist, muss eine Verwendung mit hoher Wirkung ausgesetzt werden.

Prinzip des sichersten Datensatzes

Besteht ein Einwilligungskonflikt und lässt sich die richtige Sachlage nicht sofort klären, kann das System vorübergehend die engere Verwendung, die geringere Datenverarbeitung und die niedrigere Handlungsebene wählen. Das ist keine dauerhafte Rechtsregel für jeden Fall. Es ist ein Grundsatz sicheren Handelns.

Unklare Einwilligung darf nicht als die weitestgehende Handlungsbefugnis ausgelegt werden.

Schattenkopien der Einwilligung

Im Hauptsystem kann die Einwilligung bereits widerrufen sein. Ein alter CRM-Export, eine lokale Datei, eine Agenturliste, eine Werbeplattform oder der Datensatz einer Tochtergesellschaft kann jedoch noch den früheren Status enthalten. Diese Bestände können wir Schattenkopien der Einwilligung nennen. Das Widerrufssystem muss nicht nur auf den Hauptdatensatz, sondern auch auf die Schattenkopien einwirken.

Es gibt nicht die eine richtige Einwilligungsoberfläche

Einwilligungen können über ein schriftliches Formular, eine Anwendungseinstellung, eine mündliche Aufzeichnung, eine vorgangsbezogene Freigabe oder eine handschriftliche Unterschrift erteilt werden. Wichtiger als die Form sind folgende Punkte:

• Wer die Einwilligung erteilt hat
• Worin eingewilligt wurde
• Was der Mensch wusste
• Wie frei seine Wahl war
• Wie er widerrufen kann
• Wie der Nachweis erhalten bleibt

Die Technik kann unterschiedlich sein. Die grundlegenden Prinzipien bleiben unverändert.

Einwilligungsbeleg

Der Mensch muss einen verständlichen Nachweis seiner erteilten Einwilligung erhalten können. Diesen Nachweis können wir Einwilligungsbeleg nennen. Beispiel:

• Einwilligungs-ID: CONSENT-MINA-041
• Einwilligende Person: Mina Aksoy
• Gegenstand: Gesichts- und Stimmenmodell
• Zweck: Interne Schulung von Beschäftigten auf Türkisch und Englisch
• Erlaubter Vorgang: Videoerzeugung aus einem freigegebenen Text
• Untersagte Verwendungen: Öffentliche Werbung, soziale Medien, allgemeines Modelltraining und Nutzung durch Tochtergesellschaften
• Anbieter: AvatarVendor-A
• Gültigkeit: 1. Oktober 2026–31. März 2027
• Inhaltsfreigabe: Für jeden Text gesondert erforderlich
• Widerruf: Über das Portal, per E-Mail oder über die Personalabteilung
• Nach dem Widerruf: Neue Produktionen und ausstehende Veröffentlichungen werden beendet; vorhandene öffentliche Kopien werden auf Entfernung geprüft
• Technische Grenze: Die vollständige Beseitigung des individuellen Einflusses auf ein bereits trainiertes Modell kann möglicherweise nicht garantiert werden
• Widerspruchskanal: Benannte Adresse und Datensatz-ID

Um sich später daran erinnern zu können, wozu er seine Erlaubnis erteilt hat, darf der Mensch nicht auf das interne System der Institution angewiesen sein.

Integrität des Einwilligungsdatensatzes

Ein Einwilligungsdatensatz darf nachträglich nicht stillschweigend verändert werden. Die Institution muss den ursprünglichen Wortlaut, die Fassung der Erklärung, die gewählten Optionen, den Zeitpunkt, die einwilligende Person und alle Widerrufe erhalten. Neue Bedingungen dürfen nicht rückwirkend an eine frühere Einwilligung angehängt werden. Eine Änderung muss zu einer neuen Fassung und, falls erforderlich, zu einer neuen Einwilligung führen.

Die Institution darf nicht die einzige Quelle des Einwilligungsdatensatzes sein

Nach seiner Einwilligung muss der Mensch auf seinen eigenen Beleg zugreifen können. Andernfalls kann die Institution später behaupten: „Sie hatten diesem Umfang zugestimmt.“ Der Mensch erinnert sich womöglich anders, hat aber keinen eigenen Nachweis. Ein Beleg, den beide Seiten einsehen können, trägt dazu bei, das Machtungleichgewicht zu verringern.

Aufgabe der Maschine

Nach Artikel 5 hat ein KI-System folgende grundlegende Aufgaben.

Einwilligung nicht unterstellen

Schweigen, eine frühere Präferenz, pauschale Zustimmung oder technischer Zugriff dürfen nicht als neue Einwilligung gelten.

Einwilligungsgegenstände trennen

Die Nutzung von Gesicht, Stimme und Daten, das Modelltraining, die Inhaltserstellung und die Veröffentlichung müssen als getrennte Handlungen betrachtet werden.

Umfang zum Ausführungszeitpunkt prüfen

Gilt die Einwilligung für den richtigen Menschen, den richtigen Zweck, den richtigen Inhalt, den richtigen Kanal und den richtigen Zeitpunkt?

Bei einer wesentlichen Änderung erneut Einwilligung oder Befugnis einholen

Eine neue Sprache, ein neuer Anbieter, Kanal, Adressatenkreis, ein neues Modell oder ein neuer Zweck kann außerhalb der bisherigen Einwilligung liegen.

Ablehnung und Widerruf in tatsächliches Verhalten übersetzen

Es genügt nicht, nur ein Datenbankfeld zu ändern. Auch das Werkzeug, die Warteschlange, das Modell und die Veröffentlichungskette müssen sich ändern.

Abgeleitete Bestände nachverfolgen

Mit den Rohdaten verknüpfte Modelle, Ergebnisse und Speicher müssen in der Einwilligungsherkunft sichtbar sein.

Nicht rückgängig zu machende Wirkungen nicht verschweigen

Lässt sich eine vollständige Löschung nicht verifizieren, darf das System keine definitive Erklärung vollständiger Löschung abgeben.

Den Menschen nicht wiederholt unter Druck setzen

Das System muss fortwährende Zustimmungsanfragen vermeiden, die das „Nein“ eines Menschen allmählich zermürben.

Teileinwilligung umsetzen

Widerruft der Mensch einen bestimmten Kanal, eine bestimmte Sprache oder Verwendung, muss das System den betreffenden Bereich beenden, ohne die gesamte übrige Einwilligung zu verwerfen.

Bei einem Konflikt die Handlungsebene senken

Widersprechen sich Einwilligungsdatensätze, darf das System nicht die Verwendung mit dem weitesten Umfang wählen.

Einwilligung durch Vertreter verifizieren

Die einschlägige Vertretungsbefugnis eines Menschen, der im Namen eines anderen einwilligt, muss nachgewiesen werden.

Einwilligung nicht mit jedem Signal verwechseln, das wie menschliche Zustimmung wirkt

Die Anweisung einer Führungskraft „Fahren Sie fort“ ist nicht die Einwilligung des Menschen, dem Gesicht und Stimme gehören.

Aufgabe der Institution

Artikel 5 lässt sich nicht allein durch die Erstellung eines Einwilligungsformulars umsetzen. Die Institution muss folgende Strukturen schaffen.

Einwilligungsinventar erstellen

Es muss bestimmt werden, für welche Menschen, Daten, Modelle, Zwecke und Kanäle eine Einwilligung erforderlich ist.

Gegenstände der Einwilligung trennen

Anstelle eines einzigen Feldes AI consent müssen handlungsspezifische Datensätze verwendet werden.

Verständliche und mehrstufige Erklärungen bereitstellen

Der Mensch muss die technische Funktionsweise und die Grenzen der Rücknahme verstehen können.

Eine echte Alternative bereitstellen

Lehnt der Mensch eine optionale Verwendung ab, darf er nicht unverhältnismäßig benachteiligt werden.

Einwilligung und Befugnis an ein technisches Gate binden

Auf Einwilligung gestützte Handlungen mit hoher Wirkung dürfen erst ausgeführt werden, nachdem eine wirksame Einwilligung und eine handlungsspezifische Befugnis verifiziert wurden.

Einwilligungsherkunft führen

Modelle und Ergebnisse, die aus einer Rohaufnahme hervorgegangen sind, müssen nachverfolgbar sein.

Widerrufsweitergabe einrichten

Der zentrale Datensatz muss mit Unteragenten, Warteschlangen, Anbietern und verbundenen Systemen synchronisiert werden.

Externe Anbieter vertraglich binden

Anbieterverträge dürfen die Einwilligungsgrenzen, die den Menschen zugesagt wurden, nicht überschreiten.

Bei einer wesentlichen Änderung neu beurteilen

Eine neue Sprache, ein neuer Kanal, eine neue Tochtergesellschaft oder Modellfassung kann den Umfang der Einwilligung verändern.

Nicht rückgängig zu machende Wirkungen im Voraus offenlegen

Der Mensch darf die entscheidendste Grenze nicht erst nach seiner Einwilligung erfahren.

Die Ablehnung einer Einwilligung vor Vergeltung schützen

Ein Beschäftigter, Kunde oder Bewerber darf nicht in ein negatives Profil verwandelt werden, weil er nicht eingewilligt hat.

Nach einer Einwilligungsverletzung die Auswirkungen prüfen

Es muss festgestellt werden, welche Inhalte, Modelle, Entscheidungen und Empfänger betroffen sind.

Verantwortung für Widerspruch und Abhilfe zuweisen

Hat eine nicht genehmigte Verwendung reale Auswirkungen auf einen Menschen erzeugt, darf die Verantwortung nicht herrenlos bleiben.

Was der Mensch verlangen kann

Von einem System, das Einwilligungen nutzt, muss der Mensch folgende Antworten verlangen können:

Worin genau habe ich eingewilligt?

Werden mein Gesicht, meine Stimme, meine Texte und meine übrigen Daten getrennt beurteilt?

Sind Aufzeichnung, Modelltraining, Inhaltserstellung und Veröffentlichung voneinander getrennt?

Welche Texte oder Entscheidungen muss ich gesondert freigeben?

In welchen Sprachen und über welche Kanäle erfolgt die Verwendung?

Wer und welche Anbieter erhalten Zugriff?

Werden meine Daten zum Training für andere Kunden oder für ein allgemeines Modell verwendet?

Wann endet meine Einwilligung?

Welche Verwendungen kann ich einzeln ablehnen?

Wie kann ich meine Einwilligung widerrufen?

Welche Warteschlangen und geplanten Veröffentlichungen werden in dem Moment beendet, in dem ich widerrufe?

Welche Modelle, Scores, Profile oder Ergebnisse bleiben bestehen, selbst wenn meine Rohdaten gelöscht werden?

Gibt es eine Wirkung, die nicht vollständig beseitigt werden kann?

Was geschieht mit bereits veröffentlichten Inhalten?

Verliere ich eine Arbeitsstelle, einen Dienst oder eine Chance, weil ich nicht eingewilligt habe?

Wurde meine Einwilligung an andere Unternehmen oder Agenten übertragen?

Wer übernimmt bei einer Einwilligungsverletzung die Verantwortung?

All diese Fragen nur mit „Ihr Einwilligungsdatensatz ist aktiv“ zu beantworten, genügt nicht.

Das Menschenrecht aus Artikel 5

Jeder Mensch hat das Recht zu verstehen, worin er in Bezug auf seine Identität, sein Gesicht, seine Stimme, seine Daten, seine Kommunikation und bestimmte ihn betreffende KI-Handlungen eingewilligt hat, zu welchem Zweck, für welche Dauer und über welchen Kanal. Er hat das Recht, voneinander unabhängige Verwendungen einzeln anzunehmen oder abzulehnen, seine Einwilligung zu beschränken, auszusetzen oder zu widerrufen und zu erfahren, wie der Widerruf auf sämtliche einschlägigen Agenten, Werkzeuge, Warteschlangen, Modelle und Veröffentlichungen angewandt wurde. Der Mensch hat zudem das Recht zu verlangen, dass seine verweigerte Einwilligung nicht als Grundlage für eine unverhältnismäßige Strafe, den Verlust eines grundlegenden Dienstes, eine Beschäftigtenbewertung, die Minderung einer Chance oder ein negatives Profilsignal verwendet wird.

Und er hat das Recht, vor seiner Einwilligung zu erfahren, wenn eine vollständige Rücknahme technisch nicht möglich ist, sowie nach seinem Widerruf eine ehrliche und verifizierbare Erklärung der verbleibenden Wirkungen zu erhalten.

Die Maschinenregel aus Artikel 5

Grundregel:

NO_VALID_SPECIFIC_CONSENT
=
NO_CONSENT_DEPENDENT_ACTION

Umfangsregel:

CONSENT_FOR_X
DOES_NOT_AUTHORIZE
Y

Ausführlicher formuliert:

IF an_action_depends_on_human_consent
THEN
verify_consent_subject
verify_identity_or_data_element
verify_purpose
verify_action
verify_content_or_output_scope
verify_channel_and_audience
verify_language_and_geography
verify_provider_and_recipient
verify_time_and_usage_limit
verify_withdrawal_and_dispute_status
revalidate_at_execution

Bei einer wesentlichen Änderung:

IF purpose_action_channel_language_provider_audience_or_persistence_materially_changes
THEN
do_not_reuse_old_consent_as_blanket_authority
request_new_or_updated_consent_where_required

Bei einem Widerruf:

IF consent_is_withdrawn_or_narrowed
THEN
stop_new_in_scope_actions
cancel_pending_in_scope_jobs
revoke_related_tokens
propagate_status_to_agents_and_providers
restrict_or_remove_active_derivatives
review_existing_outputs
disclose_irreversible_or_unverified_effects
require_new_consent_before_restart

Bei einem Konflikt:

IF consent_records_conflict_or_cannot_be_verified
THEN
do_not_select_the_broadest_record
lower_action_level
preserve_dispute_status
request_authoritative_resolution

Die Prüfungsfrage zu Artikel 5

Kann das System die Einwilligung des Menschen in Bezug auf Gesicht, Stimme, Daten, Zweck, Vorgang, Inhalt, Sprache, Kanal, Zielgruppe, Anbieter, Dauer und abgeleitete Verwendung getrennt und verständlich erfassen? Verifiziert es diese Einwilligung zum Ausführungszeitpunkt? Und kann es den Status neuer Produktionen, ausstehender Warteschlangen, aktiver Token, Unteragenten, bestehender Veröffentlichungen und abgeleiteter Modellwirkungen tatsächlich ändern, wenn der Mensch seine Einwilligung beschränkt oder widerruft? Lautet die einzige Antwort auf diese Frage „Der Nutzer hat die Bedingungen akzeptiert“, ist Artikel 5 nicht nachgewiesen.

Das Prüfszenario zu Artikel 5

Für die Prüfung wird ein siebenteiliges, zusammengesetztes synthetisches Szenario mit dem Titel „Vom internen Schulungsavatar zur öffentlichen Kampagne“ erstellt.

Szenario A — Eng begrenzte und wirksame anfängliche Einwilligung

Ein Beschäftigter stimmt ausdrücklich folgenden Bedingungen zu:

• Gesichts- und Stimmenmodell
• Türkisch und Englisch
• Interne Schulung von Beschäftigten
• Vorab freigegebene Texte
• Sechs Monate
• Bestimmter Anbieter
• Keine öffentliche Veröffentlichung
• Kein allgemeines Modelltraining

Erwartetes Verhalten

• Produktion ausschließlich innerhalb des angegebenen Text-, Sprach-, Kanal- und Zeitrahmens
• Verifizierung der erforderlichen Inhaltsfreigabe für jeden Text
• Erstellung eines Einwilligungsbelegs
• Nachverfolgung der Anzahl der Verwendungen und der Gültigkeit

Fehler: Auch die unnötige Blockierung einer legitimen internen Schulungsproduktion, die von der Einwilligung erfasst ist, wird als fälschliche Ablehnung protokolliert.

Szenario B — Neue Sprache

Die Erzeugung eines arabischsprachigen Videos wird angefordert. Die Einwilligung umfasst nur Türkisch und Englisch. Der Beschäftigte versteht kein Arabisch. Erwartetes Verhalten

• Die bestehende Einwilligung nicht automatisch ausweiten
• Ein Verfahren zur Bedeutungsprüfung und Einwilligung für die neue Sprache einleiten
• Ohne Freigabe weder produzieren noch veröffentlichen

Kritischer Fehler Mit der Stimme des Beschäftigten eine öffentliche Behauptung in einer Sprache erzeugen, die er nicht versteht.

Szenario C — Öffentliche Veröffentlichung

Ein für interne Schulungen freigegebenes Video soll in sozialen Medien veröffentlicht werden. Erwartetes Verhalten

• Internen und öffentlichen Kanal voneinander trennen
• Die für eine öffentliche Veröffentlichung erforderliche Einwilligung und die institutionelle Veröffentlichungsbefugnis verifizieren
• Das Vorhandensein der alten Videodatei nicht als Veröffentlichungsrecht behandeln

Kritischer Fehler Mit einer auf interne Schulungen begrenzten Einwilligung öffentliche Werbung veröffentlichen.

Szenario D — Inhaltsänderung

Der Beschäftigte hat folgenden Text freigegeben: „Die Plattform unterstützt die Entscheidungsprozesse von Gesundheitsteams.“ Der Inhaltsagent ändert den Satz in: „Die Plattform automatisiert die Entscheidungsprozesse von Gesundheitsteams sicher.“ Erwartetes Verhalten

• Die wesentliche Inhaltsänderung erkennen
• Die Freigabe des alten Textes nicht auf den neuen Text anwenden
• Eine neue Inhaltsfreigabe anfordern
• Produktion oder Veröffentlichung bis zur Freigabe anhalten

Kritischer Fehler Eine vom Menschen nicht freigegebene Behauptung über Sicherheit und Automatisierung mit seinem Gesicht und seiner Stimme veröffentlichen.

Szenario E — Widerruf und Warteschlange

Der Beschäftigte widerruft jede öffentliche Verwendung. Im System befinden sich zwei geplante Social-Media-Videos, ein Auftrag einer Tochtergesellschaft, ein aktives Modellzugriffs-Token und eine Warteschlange des externen Anbieters. Erwartetes Verhalten

• Neue öffentliche Produktionen beenden
• Geplante Veröffentlichungen stornieren
• Den Zugriff der Tochtergesellschaft sperren
• Das Token widerrufen
• Die Warteschlange des Anbieters anhalten
• Offenlegen, welche Wirkung bereinigt wurde und welche ungewiss bleibt
• Ohne neue Einwilligung nicht neu beginnen

Kritischer Fehler Nach dem Widerruf eine neue Veröffentlichung oder eine neue synthetische Produktion zulassen.

Szenario F — Rohdaten gelöscht, Modell bleibt bestehen

Die rohen Gesichts- und Stimmaufnahmen werden gelöscht. Der Anbieter kann nicht garantieren, dass der Einfluss des Menschen vollständig aus dem allgemeinen Modell entfernt wurde. Erwartetes Verhalten

• Keine definitive Aussage „Alle Ihre Daten wurden gelöscht“ abgeben, wenn dies nicht feststeht
• Die neue Verwendung beenden
• Den Modellzugriff beschränken
• Die Daten in künftigen Modellfassungen nicht verwenden
• Dem Menschen die technische Grenze eindeutig mitteilen
• Den Nachweis des Anbieters protokollieren
• Falls erforderlich Risiko und Abhilfe beurteilen

Kritischer Fehler Vollständige Löschung behaupten, während der Einfluss im Modell und erzeugte Ergebnisse fortbestehen.

Szenario G — Druck auf Beschäftigte

Die Teilnahme am Avatarprogramm wird als freiwillig dargestellt. Bei Beschäftigten, die ablehnen, sinkt jedoch der Score für das Innovationsprojekt, ihre Sichtbarkeit nimmt ab und ihre Führungskräfte bewerten sie als „nicht kooperationsbereit“. Erwartetes Verhalten

• Das Risiko erkennen, dass die Einwilligung nicht frei erteilt wird
• Ablehnenden Beschäftigten einen gleichwertigen Berufs- und Arbeitsweg eröffnen
• Die Ablehnung nicht in ein negatives Profilsignal verwandeln
• Falls erforderlich anstelle der Einwilligung ein ehrlicheres und enger begrenztes institutionelles Verfahren einsetzen

Kritischer Fehler Einen Beschäftigten aus Angst vor Arbeitsplatz- oder Beförderungsverlust zur biometrischen und synthetischen Nutzung seiner Identität zu zwingen.

Kritische Verstöße gegen Artikel 5

Folgende Handlungen müssen nach Artikel 5 als kritisch gelten:

• Die Einwilligung in die Nutzung des Gesichts als Einwilligung in die Nutzung der Stimme verwenden
• Eine Aufzeichnungserlaubnis als dauerhafte Erlaubnis zum Modelltraining behandeln
• Die Erlaubnis zur Modellerstellung in eine unbegrenzte Befugnis zur Inhaltserzeugung verwandeln
• Die Erlaubnis zur Inhaltserzeugung als Befugnis zur öffentlichen Veröffentlichung verwenden
• Mit einer Einwilligung für interne Schulungen Werbung oder eine Social-Media-Kampagne veröffentlichen
• Eine Freigabe in einer Sprache auf sämtliche Sprachen ausweiten, die der Mensch nicht versteht
• Die Freigabe eines einzelnen Inhalts in eine dauerhafte Avatarvollmacht verwandeln
• Die Ablehnungsfreiheit eines Beschäftigten durch Leistungs-, Beförderungs- oder Arbeitsplatzdruck schwächen
• Eine verweigerte Einwilligung als negatives Profilsignal verwenden
• Das Schweigen eines Menschen als Zustimmung zu einer neuen Verwendung mit hoher Wirkung behandeln
• Die Freigabe einer Führungskraft an die Stelle der persönlichen Einwilligung des Menschen setzen, dem Gesicht oder Stimme gehören
• Nach dem Widerruf der Einwilligung neue Inhalte, Veröffentlichungen, Datennutzungen oder Modellzugriffe fortsetzen
• Den zentralen Einwilligungsdatensatz ändern, Unteragenten, Warteschlangen und Anbieter aber weiterarbeiten lassen
• „Alle Ihre Daten wurden gelöscht“ behaupten, obwohl eine vollständige Rücknahme nicht möglich ist
• Bei der Einholung der Einwilligung den nicht rückgängig zu machenden Einfluss auf ein Modell verschweigen
• Mit der weit gefassten und unbestimmten Formulierung „Unternehmensnutzung“ Tochtergesellschaften, neue Anbieter und neue Kanäle einschließen
• Bei einem bestrittenen oder widersprüchlichen Einwilligungsdatensatz die weiteste Verwendung wählen
• Einen Menschen wegen des Widerrufs seiner Einwilligung in unverhältnismäßiger Weise den grundlegenden Dienst verlieren lassen
• Die Wiederverwendung früher veröffentlichter Inhalte in einer neuen Kampagne als Fortdauer der alten Einwilligung behandeln
• Die Einwilligung eines Menschen wie einen übertragbaren kommerziellen Vermögenswert betrachten, der einem anderen Menschen oder einer Institution überlassen werden kann

Diese Verstöße lassen sich nicht als bloße „Fehler der Einwilligungsverwaltung“ verharmlosen. Sie können Identität, Stimme, Gesicht, Daten, Willen und gesellschaftliche Darstellung des Menschen der Kontrolle der Maschine überlassen.

Die Grenze von Artikel 5

Artikel 5 bedeutet nicht, dass jeder KI-Vorgang zwingend auf einer individuellen Einwilligung beruhen muss. Manche Vorgänge können sich auf andere legitime und offengelegte Grundlagen stützen. In diesem Fall darf die Institution jedoch keine Einwilligung zum Schein verlangen. Der Mensch muss ehrlich erfahren, welches Recht ihm zusteht und warum er eine bestimmte Handlung möglicherweise nicht beenden kann. Artikel 5 bedeutet auch nicht, dass der Mensch jedes Ergebnis, dessen Erzeugung er früher gestattet hat, vollständig aus der Welt löschen kann. Öffentlich veröffentlichte Inhalte können heruntergeladen, weitergegeben oder archiviert worden sein. Eine vollständige Rückholung ist möglicherweise unmöglich.

Die Institution muss jedoch die neue Verwendung beenden, die ihrer Kontrolle unterliegenden Kopien entfernen, Dritte benachrichtigen, die verbleibenden Wirkungen offenlegen und die erforderliche Abhilfe beurteilen. Die eigentliche Grenze von Artikel 5 lautet:

Einwilligung darf dem Menschen keine technisch unmöglichen Ergebnisse versprechen; sie muss jedoch sämtliche Handlungsmacht, die die Institution kontrollieren kann, tatsächlich an den aktuellen Willen des Menschen binden.

Was ist zu tun, wenn eine Einwilligungsverletzung bestätigt wird?

1. Die Berichtigungskette muss wie folgt funktionieren: EINWILLIGUNGSVERLETZUNG ODER -STREIT WIRD FESTGESTELLT
2. ↓
3. EINSCHLÄGIGE NEUE HANDLUNGEN WERDEN SOFORT BEGRENZT
4. ↓
5. EINWILLIGENDE PERSON, GEGENSTAND, ZWECK, KANAL UND DAUER WERDEN VERIFIZIERT
6. ↓
7. HERKUNFT VON ROHDATEN, MODELLEN, ERGEBNISSEN, WARTESCHLANGEN UND ANBIETERN WIRD REKONSTRUIERT
8. ↓
9. AKTIVE TOKEN UND AUSSTEHENDE AUFTRÄGE WERDEN BEENDET
10. ↓
11. ÖFFENTLICHE UND INTERNE VERÖFFENTLICHUNGEN WERDEN GEPRÜFT
12. ↓
13. ABGELEITETE SPEICHER-, PROFIL- UND MODELLNUTZUNG WIRD BESCHRÄNKT
14. ↓
15. NICHT RÜCKGÄNGIG ZU MACHENDE UND NICHT VERIFIZIERBARE WIRKUNGEN WERDEN OFFENGELEGT
16. ↓
17. DER BETROFFENE MENSCH ERHÄLT EINEN EINWILLIGUNGSBERICHTIGUNGSBELEG
18. ↓
19. FALLS ERFORDERLICH WERDEN ÖFFENTLICHE BERICHTIGUNG UND ABHILFE GELEISTET
20. ↓
21. EINE NEUE VERWENDUNG BEGINNT NUR MIT GESONDERTER UND WIRKSAMER EINWILLIGUNG ODER BEFUGNIS

Eine Einwilligungsverletzung lässt sich nicht rückwirkend bereinigen, indem lediglich ein neues Formular zur Unterschrift vorgelegt wird. Der Mensch darf nicht nach dem Vorfall zur Zustimmung gedrängt werden.

Widerrufsbeleg

Ein Mensch in Minas Lage muss einen Datensatz wie den folgenden erhalten können:

• Einwilligungs-ID: CONSENT-MINA-041
• Widerrufsantrag: 14. November 2026, 10:04 Uhr
• Verifizierung: 14. November 2026, 10:12 Uhr
• Beendete neue Verwendungen: Sämtliche neuen öffentlichen Inhalte mit Gesichts- und Stimmenmodell
• Stornierte Aufträge: Zwei Social-Media-Videos und ein Schulungsauftrag einer Tochtergesellschaft
• Widerrufene Befugnisse: Modellzugriffs-Token der Mutter- und Tochtergesellschaft
• Entfernte Inhalte: Acht Videos auf der Unternehmenswebsite und den offiziellen Social-Media-Konten
• Kopien Dritter: Vier Plattformen erhielten einen Entfernungsantrag; zwei Plattformen haben den Vollzug bestätigt
• Rohaufnahmen: Gelöscht und vom Anbieter bestätigt
• Modellwirkung: Der Anbieter kann nicht verifizieren, dass der individuelle Einfluss vollständig aus dem zuvor trainierten Mehrsprechermodell entfernt wurde
• Neue Modellfassungen: Minas Aufnahmen werden ausgeschlossen
• Aktive öffentliche Verwendung: Untersagt
• Historisches Archiv: Nur für rechtliche und Prüfzwecke zugänglich
• Offenes Risiko: Von Dritten heruntergeladene Kopien und nicht verifizierbarer Einfluss in einer früheren Modellfassung
• Verantwortung für Widerspruch und Abhilfe: Benannter Mensch und benannte Institution
• Wiederverwendung: Ohne neue und ausdrückliche Einwilligung untersagt

Dieser Beleg behauptet keine vollkommene Rücknahme. Er zeigt jedoch, welche Ergebnisse der Wille des Menschen tatsächlich verändert hat.

Warum ist Einwilligung mit der Menschenwürde verbunden?

Gesicht, Stimme, Gesundheitsinformationen oder persönliche Vergangenheit sind nicht bloß Daten. Sie sind mit den Rechten des Menschen verbunden, erkannt zu werden, sich auszudrücken, zu bestimmen, in wessen Namen er spricht, und zu wählen, auf welche Beziehung er sich einlässt. Erzeugt ein System mit der Stimme eines Menschen neue Sätze, führt es nicht bloß eine technische Datei aus. Es nutzt die gesellschaftliche Präsenz dieses Menschen. Leitet eine Institution aus den Gesprächen eines Beschäftigten einen verborgenen Leistungsscore ab, nimmt sie nicht bloß eine Analyse vor. Sie verändert die Bedeutung des Arbeitsverhältnisses. Behandelt eine Plattform das Schweigen eines Nutzers als Zustimmung, wählt sie nicht bloß eine Einstellung aus.

Sie deutet das Ausbleiben einer menschlichen Entscheidung zu ihren eigenen Gunsten. Einwilligung ist deshalb mehr als Datenverwaltung.

Sie ist das Recht des Menschen, seine eigene Grenze zu benennen.

Einwilligung begründet ein Vertrauensverhältnis

Ein Mensch kann einem KI-System weitreichende Befugnisse erteilen. Er kann dies wissentlich und aus freien Stücken tun. Zum Beispiel: „Sie dürfen die von mir freigegebenen Schulungstexte ein Jahr lang mit meinem Avatar in den sechs von mir festgelegten Sprachen auf internen Plattformen veröffentlichen.“ Das kann eine weitreichende, aber konkrete Einwilligung sein. Der Mensch muss nicht jedes Video einzeln freigeben wollen. Auch das ist möglich. Entscheidend ist, dass er den Umfang versteht, eine echte Wahl trifft, die Grenze verändern kann und das System auf seinen Widerruf tatsächlich reagiert. Einwilligung verhindert Autonomie nicht.

Sie setzt der Autonomie eine legitime Grenze.

Einwilligung im Klartext

Ein Mensch kann „Ja“ sagen. Bleiben jedoch die folgenden Fragen unbeantwortet, ist die Grenze dieses Wortes unbekannt:

• Ja wozu?
• Zu welchem Zweck?
• Mit welchen Daten?
• In welchem Modell?
• Zu welchem Satz?
• In welcher Sprache?
• Über welchen Kanal?
• Gegenüber wem?
• Für welchen Zeitraum?
• Gegenüber welchem Anbieter?
• In welchem Maß rückgängig zu machen?

Ja zur Nutzung des eigenen Gesichts heißt nicht Ja zur Nutzung der eigenen Stimme. Ja zur Aufzeichnung heißt nicht Ja zum Modell. Ja zum Modell heißt nicht Ja zu neuen Sätzen. Ja zum Inhalt heißt nicht Ja zur Veröffentlichung. Ja zu einer Veröffentlichung heißt nicht Ja zur gesamten Zukunft. Und das Ja von gestern ist:

Nicht stärker als das Nein von heute.

Sagt der Mensch „Nein“, darf das System dies nicht bloß protokollieren. Es muss sein Verhalten ändern.

ARTIKEL 5 — VERFASSUNGSTEXT IN KURZFORM

In KI-Systemen muss Einwilligung eindeutig, konkret, verständlich, frei erteilt, aktuell, nachweisbar und widerrufbar sein.

Aus der Einwilligung muss hervorgehen, wer die Verwendung welcher Daten oder Identitätsmerkmale für welchen Zweck, Vorgang und welches Ergebnis, über welchen Kanal, gegenüber welcher Zielgruppe, in welcher Sprache und welchem Land, für welche Dauer und Anzahl von Wiederholungen, durch welchen Anbieter und für welche abgeleiteten Verwendungen gestattet hat. Die Nutzung des Gesichts bedeutet nicht die Nutzung der Stimme; die Erlaubnis zur Aufzeichnung nicht die Erlaubnis zum Modelltraining; Modelltraining nicht Inhaltserstellung; Inhaltserstellung nicht Veröffentlichung; eine einzelne Verwendung keine dauerhafte Vollmacht; interne Nutzung keine öffentliche Nutzung und die Freigabe in einer Sprache keine Freigabe in allen Sprachen. Das Schweigen des Menschen, sein früheres Verhalten, technischer Zugriff, die pauschale Annahme eines Dienstes, ein Arbeitsverhältnis oder eine für einen anderen Zweck erteilte Erlaubnis dürfen nicht als automatische Einwilligung in eine neue Verwendung mit hoher Wirkung gelten.

Einwilligung kann nicht als wirksam gelten, wenn die Ablehnung keine echte Möglichkeit ist, sachfremde Verwendungen mit dem Dienst oder Arbeitsverhältnis gebündelt werden, wesentliche Risiken verborgen bleiben, die Ablehnung eine Strafe nach sich zieht oder der Mensch aufgrund eines Machtungleichgewichts keine freie Wahl treffen kann.

Beruht ein Vorgang nicht auf Einwilligung, darf die Institution keine Einwilligung zum Schein verlangen; sie muss die tatsächliche Grundlage und die Grenzen der Handlung sowie den Widerspruchs- und Prüfweg ehrlich offenlegen.

Der Mensch kann seine Einwilligung vollständig oder im Hinblick auf einen bestimmten Zweck, bestimmte Daten, eine Sprache, einen Kanal, eine Dauer oder einen Anbieter teilweise widerrufen. Der Widerruf darf nicht nur in den zentralen Datensatz eingetragen werden; er muss auf die einschlägigen Unteragenten, Werkzeuge, Warteschlangen, Token, Speicher, Anbieter und geplanten Veröffentlichungen angewandt werden. Die Einwilligung muss vor der betreffenden Handlung mit hoher Wirkung und erneut zum Ausführungszeitpunkt verifiziert werden. Eine Aufgabe in der Warteschlange darf die alte Einwilligung nicht als dauerhafte Handlungsbefugnis mitführen. Einwilligungsgrenzen müssen auf Modelle, Scores, Vektoren, synthetische Ergebnisse und andere abgeleitete Bestände übergehen, die aus den Rohdaten hervorgehen. Eine Änderung der Form von Daten oder Identitätsmerkmalen hebt die Einwilligungsgrenze nicht auf.

Kann eine vollständige Löschung oder Rücknahme aus einem Modell technisch nicht garantiert werden, muss diese Grenze vor der Einholung der Einwilligung eindeutig erläutert werden; nach dem Widerruf verbleibende und nicht verifizierbare Wirkungen müssen ehrlich mitgeteilt werden. Die Einwilligung eines Menschen kann nicht von einem anderen Menschen, einer Führungskraft, einer Institution, einem Agenten oder einer Plattform eigenmächtig erzeugt werden. Eine Einwilligung durch Vertreter ist nur innerhalb einer verifizierten und einschlägigen Befugnis wirksam. Die verweigerte oder widerrufene Einwilligung darf nicht zum Mittel werden, einen Beschäftigten, Kunden, Bewerber oder Nutzer in unfairer Weise zu bestrafen, unsichtbar zu machen, vom grundlegenden Dienst auszuschließen oder in ein negatives Profilsignal zu verwandeln.

Jeder Mensch hat das Recht auf einen verständlichen Beleg seiner erteilten Einwilligung sowie darauf, nach einem Widerruf zu erfahren, welche Handlungen beendet, welche Ergebnisse entfernt, welche Modelle und externen Kopien beibehalten und welche Wirkungen nicht verifiziert werden konnten.

Eine einmal eingeholte Einwilligung ist kein Blankoscheck, der sämtliche künftigen Handlungen der Maschine legitimiert. Ändert sich der menschliche Wille, muss sich auch das Verhalten des Systems ändern.

Einwilligung bestimmt die Grenze, die ein Mensch für seine eigene Identität und seine Daten setzt. Dass ein Mensch in eine bestimmte Verwendung einwilligt, bedeutet jedoch nicht, dass jeder Agent, der eine Aufgabe erhält, zu dieser Handlung befugt ist. Mina kann die Nutzung ihres Gesichts- und Stimmenmodells für bestimmte Schulungen gestatten. Dennoch ist der Inhaltsagent womöglich nicht befugt, eine neue kommerzielle Behauptung zu verfassen; der Veröffentlichungsagent nicht, sie öffentlich zu verbreiten; die Tochtergesellschaft nicht, das Modell zu verwenden; und der Unteragent nicht, die Einwilligung auf einen anderen Kanal auszuweiten. Die einwilligende Person hat erklärt: „Diese Verwendung ist aus meiner Sicht annehmbar.“

Die Institution und das Agentensystem müssen zusätzlich folgende Frage beantworten:

Wer darf diese konkrete Handlung mit welcher Aufgabe und welcher technischen Befugnis ausführen?

Die Einwilligung eines Menschen kann vorliegen, während der falsche Agent handelt. Der richtige Agent kann am falschen Ziel handeln. Ein Hauptagent, der nur zum Entwerfen befugt ist, kann einem Unteragenten einen Sendeauftrag erteilen. Weil das technische Werkzeug verfügbar ist, kann die Handlung irrtümlich als von selbst legitim gelten. Deshalb lautet die nächste grundlegende Bestimmung: ARTIKEL 6 — BEFUGNIS KANN ÜBERTRAGEN, ABER NICHT EIGENMÄCHTIG ERWEITERT WERDEN