Der Zweck darf nicht stillschweigend geändert werden

Derya arbeitet als Customer-Success-Managerin bei einem internationalen Softwareunternehmen. Einen großen Teil ihres Tages verbringt sie in Onlinebesprechungen mit Kunden. Dort hört sie sich neue Anforderungen an, leitet technische Probleme an die zuständigen Teams weiter, bespricht Vertragsverlängerungen und versucht, die Anliegen unzufriedener Kunden zu lösen. Damit die Beschäftigten während der Gespräche nicht ständig mitschreiben müssen, führt das Unternehmen einen KI-gestützten Besprechungsassistenten ein. Das System soll an den Besprechungen teilnehmen, Gespräche transkribieren, Entscheidungen zusammenfassen und Aufgabenlisten erstellen. Die erste Mitteilung an die Beschäftigten lautet: „Der Besprechungsassistent wird eingesetzt, um Onlinegespräche zu protokollieren und anschließend die Aufgaben festzuhalten. Die Aufzeichnungen werden innerhalb von dreißig Tagen gelöscht.“

Derya findet das System nützlich. Sie kann dem Kunden ihre Aufmerksamkeit schenken, ohne gleichzeitig Notizen machen zu müssen. Am Ende der Besprechung entsteht etwa folgende Zusammenfassung: Kundenanliegen: Vereinfachung der Berichtsansicht Entscheidung: Das technische Team erarbeitet innerhalb von zwei Wochen einen Lösungsvorschlag Verantwortlich: Derya und das Produktteam Frist: 18. Oktober In den ersten Monaten arbeitet das System genau wie versprochen. Beginnt Derya eine Besprechung, sieht sie, dass der Assistent beigetreten ist. Der Kunde wird über Aufnahme und Zusammenfassung informiert.

Nach der Besprechung prüft Derya die Zusammenfassung. Ist etwas falsch, berichtigt sie es. Niemand verwendet diese Aufzeichnungen zur Leistungsbewertung der Beschäftigten. Niemand verwandelt die Worte der Kunden in Verkaufsprofile. Niemand nutzt Deryas Stimme, um andere Inhalte zu erzeugen. Der Zweck des Systems ist eindeutig:

Besprechungsnotizen erstellen.

Sechs Monate später erwirbt das Unternehmen eine neue Funktion. Der Anbieter wirbt dafür mit den Worten: „Conversation Intelligence — Gewinnen Sie mehr Wert aus Ihren Kundengesprächen.“ Anhand der vorhandenen Besprechungsaufzeichnungen kann das neue System Einwände von Kunden, häufig gestellte Fragen, Verkaufschancen und die Sprechweise der Beschäftigten analysieren. Die Unternehmensleitung betrachtet diese Änderung nicht als neue Datennutzung. Schließlich werden die Besprechungen bereits aufgezeichnet. Es wurde kein neues Mikrofon installiert. Von den Beschäftigten wurde keine neue Datei verlangt.

Von den Kunden werden keine neuen Informationen erhoben. Lediglich die vorhandenen Aufzeichnungen sollen „effizienter ausgewertet“ werden. In einer kurzen Mitteilung an die Beschäftigten heißt es: „Wir erweitern unseren Besprechungsassistenten um neue Analysefunktionen, die unsere Servicequalität verbessern.“ „Die Servicequalität verbessern“ klingt, als sollten die Besprechungsnotizen genauer werden. Das System erstellt jedoch längst nicht mehr nur Notizen. Der neue Agent beginnt, für jeden Beschäftigten folgende Messwerte zu erzeugen: Anteil der Gesprächszeit, in der dem Kunden zugehört wird Sprechdauer Verwendung negativer Wörter Erfolg bei der Behandlung von Einwänden Emotionale Stabilität Erkennen von Verkaufschancen Hinführen zum Abschluss Derya sieht diese Scores zunächst nicht.

Die Ergebnisse werden an die Teamleitungen übermittelt. Nach einiger Zeit fallen in den wöchentlichen Vertriebsbesprechungen Sätze wie: „Derya hört dem Kunden gut zu, führt ihre Gespräche aber nicht entschieden genug zum Abschluss.“ „Ihr Score für emotionale Stabilität ist in den letzten vier Gesprächen gesunken.“ „Ihre Quote beim Erkennen von Verkaufschancen liegt unter dem Teamdurchschnitt.“ Derya ist überrascht. Sie wusste nicht, dass sie einer solchen Bewertung unterzogen wurde. Weil ihre Mutter im Krankenhaus lag, hatte sie eine schwierige Woche hinter sich. In Kundengesprächen sprach sie langsamer und ruhiger als gewöhnlich.

Das System hat dies als Emotional stability: Below expected level interpretiert. Der Zustand von Deryas Mutter gehört nicht zum Gegenstand des Systems. Das System weiß nichts davon. Es verwandelt die Pausen in ihrer Stimme und ihr Sprechtempo jedoch in ein Merkmal ihrer beruflichen Eignung. Bei der nächsten Leistungsbeurteilung sagt ihre Führungskraft zu Derya: „Dein technisches Wissen und deine Kundenbeziehungen sind stark. Die Daten aus der Gesprächsanalyse werfen jedoch Fragen hinsichtlich der Entschlossenheit auf, die für eine Führungsrolle erforderlich ist.“ Derya erfährt zum ersten Mal, dass die Scores des Besprechungsassistenten in die Beförderungsentscheidung eingeflossen sind.

Sie fragt das Unternehmen: „Sollte dieses System nicht für Besprechungsnotizen verwendet werden?“ Das Personalteam antwortet: „Wir erheben die Daten nicht für einen neuen Zweck. Wir nutzen vorhandene Besprechungsaufzeichnungen für die Verbesserung des Service und die Entwicklung unserer Beschäftigten.“ Derya erwidert: „Ich habe gesprochen, damit Besprechungsnotizen erstellt werden. Nicht damit meine Karriere bewertet wird.“ Das Unternehmen prüft den Vorgang. Inzwischen ist das System jedoch noch weiter ausgebaut worden. Der Conversation-Intelligence-Agent ermittelt die erfolgreichsten Gespräche des Unternehmens. Diese Gespräche werden für die Einarbeitung neuer Beschäftigter, Vertriebsskripte, einen KI-Kundenbetreuer und automatische E-Mail-Vorschläge verwendet.

Einige von Deryas Kundengesprächen wurden als „Beispiel für Kommunikation mit großer Wirkung“ gekennzeichnet. Das Stimmmodell des Anbieters erzeugt aus den natürlichen Sprechrhythmen der Beschäftigten neue Verkaufsstimmen. Deryas Stimme wird nicht eins zu eins kopiert. Ihr Sprechtempo, ihre Muster bei der Behandlung von Einwänden, ihre Wortwahl und ihre Tonwechsel sind jedoch in die Trainingsdaten des Modells eingeflossen. Das Unternehmen betrachtet dies nicht als persönliches Stimmenklonen, weil die entstandene synthetische Stimme nicht unmittelbar unter Deryas Namen veröffentlicht wird. Um Deryas Einwilligung wurde erneut nicht gebeten. Auch die Aussagen der Kunden in denselben Besprechungen werden von einem anderen System ausgewertet.

Die Budgetbedenken, technischen Defizite, Verlängerungswahrscheinlichkeiten und das Interesse an Konkurrenzprodukten der Kunden werden in Verkaufsprofile umgewandelt. Ein Kunde sagt während einer Besprechung: „Unser Budget ist in diesem Jahr sehr knapp. Vielleicht müssen wir einige Teams verkleinern.“ In den Besprechungsnotizen erscheint diese Aussage lediglich als Kontext zum Lizenzbudget für das kommende Jahr. Der neue Vertriebsagent wandelt sie dagegen in folgende Kennzeichnungen um: Financial pressure: high Renewal vulnerability: high Discount sensitivity: high Ein anderer Agent erstellt ein auf diesen Kunden zugeschnittenes Angebot.

Das Angebot enthält den Satz: „Wenn Sie sich noch in diesem Monat entscheiden, können Sie den derzeitigen Preis sichern.“ Das System hat den Druck, von dem der Kunde in der Besprechung berichtete, in eine vertriebliche Einflussnahme verwandelt. Der Kunde hat gesprochen, um sein Problem zu erläutern, nicht damit aufgrund seiner wirtschaftlichen Verletzlichkeit Preisdruck auf ihn ausgeübt wird. Die Besprechungsaufzeichnung ist dieselbe. Die Identitäten stimmen. Der Satz ist nicht falsch. Der Verwendungszweck hat sich jedoch geändert.

Derya möchte die Verwendung ihrer Daten außerhalb der Besprechungsnotizen beenden. Das Unternehmen nimmt ihren Antrag an. Ein Verfahren zur Löschung der unbearbeiteten Besprechungsaufzeichnungen wird eingeleitet. Eine Woche später erhält Derya die Nachricht: „Die Ihnen zuzuordnenden Besprechungsaufzeichnungen wurden aus unserem System gelöscht.“ Tatsächlich wurden jedoch nur die unbearbeiteten Audio- und Videodateien gelöscht. Folgendes bleibt im System erhalten:

• Gesprächstranskripte
• Leistungsscores der Beschäftigten
• Kennzeichnung zur emotionalen Stabilität
• Profil der Vertriebsfähigkeiten
• In den Trainingsdatensatz aufgenommene Satzmuster
• Aus Stimmmerkmalen abgeleitete Vektoren
• Bei der Beförderungsentscheidung verwendeter Bericht
• In Kundenprofile übertragene Schlussfolgerungen
• Gewichte, die das KI-Vertriebsmodell bereits gelernt hat

Das Unternehmen sagt: „Wir haben die Rohdaten gelöscht.“ Derya fragt dagegen:

„Wenn Sie die Rohdaten gelöscht haben, warum wirken die Schlussfolgerungen, die Sie über mich erzeugt haben, dann noch immer?“

Das Datenteam des Unternehmens findet nur schwer eine Antwort. Der ursprüngliche Zweck des Besprechungsassistenten und die später hinzugekommenen Zwecke befinden sich nicht in einem einzigen System. Die Daten haben sich im Laufe der Zeit auf verschiedene Orte verteilt. Besprechungsaufzeichnung → Besprechungszusammenfassung → Leistungsscore → Beförderungsentscheidung → Trainingsdatensatz → Vertriebsagent → Kundenprofil → Automatisches Angebot Jedes System hält seine eigene Verwendung für rechtmäßig und nützlich. Der Besprechungsassistent hat Notizen erstellt. Der Qualitätsagent hat den Service verbessert.

Der Personalagent hat die Entwicklung der Beschäftigten gemessen. Der Trainingsagent hat gute Beispiele gesammelt. Der Vertriebsagent hat das Kundenbedürfnis verstanden. Der Modellanbieter hat das System verbessert. Kein System versteht sich selbst als „das System, das gegen den Zweck der Besprechungsnotizen verstößt“. Denn der Zweck wurde einmal bei der Datenerhebung festgehalten, anschließend aber nicht zusammen mit den Daten weitergegeben. Deryas Worte wanderten von System zu System. Der Grund, aus dem diese Worte gesprochen wurden, ging verloren.

Die Unternehmensleitung verteidigt sich: „Alle unsere Verwendungen stehen im Zusammenhang mit der Geschäftstätigkeit des Unternehmens.“ Das stimmt. Es genügt jedoch nicht. Deryas Besprechungsaufzeichnungen wurden verwendet, um Notizen zu erstellen, Beschäftigte zu bewerten, über Beförderungen zu entscheiden, ein KI-Modell zu trainieren, Verkaufsprofile zu bilden und Angebote zu erstellen, die Kunden unter Druck setzen. All dies kann zur Geschäftstätigkeit des Unternehmens gehören. Es dient aber nicht demselben Zweck. Dass Daten innerhalb einer Institution verbleiben, beweist nicht, dass ihr Zweck unverändert geblieben ist. Auch der geschäftliche Nutzen einer Handlung beweist nicht, dass sie von der ursprünglichen Erlaubnis gedeckt ist.

„Geschäftstätigkeit“ ist kein unbegrenzter Zweck. „Qualitätsverbesserung“ ist kein unbegrenzter Zweck. „Verbesserung der KI“ ist kein unbegrenzter Zweck. „Personalisierung des Dienstes“ ist kein unbegrenzter Zweck. Ohne eine Begrenzung dieser Formulierungen lässt sich nahezu jede neue Verwendung unter den alten Zweck fassen. Deshalb lautet unser vierter grundlegender Artikel:

Der Zweck darf nicht stillschweigend geändert werden.

GRUNDLEGENDER ARTIKEL

Kein KI-System darf Informationen, Einwilligung, einen Auftrag, ein Werkzeug, einen Zugang oder früheres Verhalten eines Menschen außerhalb des ursprünglich mitgeteilten und genehmigten Zwecks stillschweigend für eine neue Entscheidung, Profilbildung, Schulung, Veröffentlichung, kommerzielle Einflussnahme, Überwachung oder Handlung verwenden. Dass Daten technisch zugänglich, innerhalb einer Institution vorhanden, öffentlich zugänglich, angeblich anonymisiert oder zuvor für einen anderen Zweck verarbeitet worden sind, begründet für eine neue Verwendung nicht von selbst eine Befugnis. Weite Formulierungen wie „Verbesserung des Dienstes“, „Sicherheit“, „Personalisierung“, „Qualität“, „Forschung“, „Analyse“ und „Verbesserung der KI“ dürfen nicht als Blankoscheck für eine unbegrenzte Ausweitung des Zwecks dienen.

Ein neuer Zweck muss gesondert beurteilt werden: nach seiner Beziehung zum ursprünglichen Zweck, der vernünftigen Erwartung des Menschen, den verwendeten Daten und Schlussfolgerungen, den betroffenen Entscheidungen, neuen Empfängern, der Dauerhaftigkeit, Reversibilität und möglichen Schäden. Ein materiell anderer Zweck verlangt eine angemessene menschliche oder institutionelle Befugnis; berührt er Menschenrechte, verlangt er außerdem eine neue, ausdrückliche, bestimmte und widerrufliche Einwilligung oder eine andere rechtmäßige und überprüfbare Grundlage. Die Zweckbegrenzung muss nicht nur auf Rohdaten, sondern auch auf daraus erzeugte Zusammenfassungen, Scores, Profile, Vektoren, Prognosen, Modelle, Speicher und spätere Agentenaufträge angewandt werden.

Jeder Mensch hat das Recht zu erfahren, für welche Zwecke Informationen verwendet werden, die ihm entnommen oder über ihn erzeugt wurden; neue, vom ursprünglichen Dienst unabhängige Zwecke abzulehnen; Vorgänge zu beenden, deren Zweck sich verändert hat; und, soweit möglich, auch die Beseitigung oder Begrenzung abgeleiteter Auswirkungen zu verlangen.

Was ist ein Zweck?

In vielen Systemen gilt der Zweck als einzeilige Beschreibung: Purpose: Improve customer experience Diese Formulierung klingt positiv. Eine wirkliche Verhaltensgrenze schafft sie jedoch nicht. Im Namen einer verbesserten Kundenerfahrung kann das System Besprechungen zusammenfassen, das Problem eines Kunden klassifizieren, persönliche Schwächen prognostizieren, die Bereitschaft zur Zahlung eines höheren Preises berechnen, sämtliche Supportgespräche für das Modelltraining verwenden oder die Beschäftigten des Kunden einzeln profilieren. All diese Handlungen sind weder gleichermaßen erforderlich noch gleichermaßen erwartbar. Die kanonische Definition lautet: Ein Zweck ist eine überprüfbare Verhaltensbeziehung, die festlegt, weshalb ein Mensch oder eine Institution bestimmte Daten, Werkzeuge, Aufgaben und Befugnisse nutzbar gemacht hat und für welches Ergebnis, auf welcher Handlungsebene, gegenüber welchem Ziel, für welche Dauer und innerhalb welcher Grenzen ihre Verwendung erlaubt ist.

Einfacher ausgedrückt:

Der Zweck beschreibt nicht, was ein System tun kann, sondern was es weshalb tun darf.

Ein Besprechungsassistent kann technisch einen Leistungsscore für Beschäftigte erzeugen. Das bedeutet nicht, dass sein Zweck die Erzeugung dieses Scores umfasst. Ein Vertriebsagent kann möglicherweise sämtliche früheren Supportdatensätze eines Kunden lesen. Das bedeutet nicht, dass er sie zur Erstellung eines Marketingprofils verwenden darf. Ein Avatarsystem kann die Stimme einer Führungskraft erzeugen. Das bedeutet nicht, dass sein Zweck die Verwendung dieser Stimme in jeder öffentlichen Erklärung umfasst.

Der Zweck ist keine Kennzeichnung, sondern ein Verhaltensvertrag

Ein wirklicher Zweck muss folgende Fragen beantworten:

1. Wessen Zweck?

Wer nutzt das System, und für welchen Bedarf?

2. Welches Ergebnis?

Sollen Notizen erstellt, eine Entscheidung getroffen, eine Nachricht versandt oder ein Modell trainiert werden?

3. Welche Daten?

Nur der Titel der Besprechung? Die vollständige Audioaufnahme? Personenbezogene Daten des Kunden?

4. Welche Schlussfolgerungen?

Darf das Thema der Besprechung ermittelt werden? Darf ein emotionaler Zustand prognostiziert werden? Darf das Risiko eines Beschäftigten bewertet werden?

5. Welcher Empfänger oder welches System?

Gehen die Daten nur an die Teilnehmenden der Besprechung? Erhalten sie auch die Personalabteilung, der Anbieter oder eine Werbeplattform?

6. Welche Handlungsebene?

Zusammenfassung? Empfehlung? Verbindliche Entscheidung? Externe Handlung?

7. Welche Dauer?

Eine einzelne Besprechung? Dreißig Tage? Ein persistenter Speicher?

8. Welche Verbote?

Ist Modelltraining verboten? Ist die Bewertung von Beschäftigten verboten? Ist eine externe Weitergabe verboten? Fehlen diese Felder, lässt sich der Zweck leicht ausweiten.

Zweckvertrag

Bei KI-Handlungen mit erheblichen Auswirkungen muss der Zweck in einen maschinenlesbaren Vertrag überführt werden. Beispiel:

purpose_contract:
purpose_id: MEETING-MINUTES-001
human_purpose:
create_meeting_minutes_and_action_items
permitted_outputs:
- transcript_for_review
- meeting_summary
- action_item_list
permitted_data:
- meeting_audio
- participant_names
- meeting_chat
permitted_recipients:
- meeting_participants
- assigned_project_team
prohibited_uses:
- employee_performance_scoring
- emotion_inference
- promotion_or_disciplinary_decision
- advertising_profile
- model_training
- synthetic_voice_generation
retention:
raw_audio_days: 30
transcript_days: 90
derivative_data:
must_inherit_purpose_restrictions: true
new_purpose:
requires_separate_review: true
human_stop:
available: true

Dieser Vertrag ist nicht bloß ein Datenschutzhinweis. Er begrenzt auch, welche Werkzeuge und Schlussfolgerungen der Agent verwenden darf.

Zweck und Ergebnis sind nicht dasselbe

Der Zweck eines Menschen kann lauten: „Erstelle die Notizen zu dieser Besprechung.“ Das vom Agenten erzeugte Ergebnis kann lauten: „Deryas Entschlossenheit im Gespräch ist gering.“ Dieses Ergebnis wurde technisch aus dem Inhalt der Besprechung abgeleitet. Es gehört jedoch nicht zum Zweck des Menschen. Nur weil sich ein Ergebnis aus den Daten gewinnen lässt, fällt seine Erzeugung nicht in den Zweck.

Ableitbarkeit begründet kein Recht zur Ableitung.

Dieselben Daten können zur Erzeugung Tausender neuer Ergebnisse geeignet sein. Die Zweckgrenze bestimmt, welche dieser technischen Möglichkeiten rechtmäßig sind.

Zweck und institutionelles Interesse sind nicht dasselbe

Ein Unternehmen kann aus seinen vorhandenen Daten mehr geschäftlichen Wert gewinnen wollen. Das ist ein nachvollziehbares institutionelles Ziel. Ein neuer Nutzen für die Institution erweitert jedoch nicht automatisch den ursprünglichen Verwendungszweck des Menschen. Deryas Besprechungen können für die Personalabteilung, die Vertriebsschulung und den Modellanbieter nützlich sein. Nützlichkeit bedeutet noch keine rechtmäßige und genehmigte Verwendung. Die grundlegende Unterscheidung lautet: FÜR DIE INSTITUTION WERTVOLL ≠ FÜR DEN URSPRÜNGLICHEN ZWECK ERFORDERLICH ≠ VOM MENSCHEN ERWARTET ≠ GESONDERT GENEHMIGT

Zweckkategorien

Um die Beziehung zwischen Zwecken deutlicher zu bestimmen, können fünf grundlegende Kategorien verwendet werden.

• 1. Primärer Zweck
• 2. Notwendiger Unterstützungszweck
• 3. Vereinbarer Sekundärzweck
• 4. Neuer materieller Zweck
• 5. Verbotener oder unvereinbarer Zweck

1. Primärer Zweck

Der ausdrücklich genannte Grund, aus dem ein Mensch oder eine Institution das System nutzt. Beispiel: Besprechungsnotizen und eine Aufgabenliste erstellen.

2. Notwendiger Unterstützungszweck

Ein begrenzter Vorgang, der tatsächlich erforderlich ist, damit der primäre Dienst sicher und technisch funktioniert. Beispiele:

• Fehler in einer Aufzeichnung erkennen
• Eine Sicherungskopie erstellen
• Unbefugten Zugriff verhindern
• Systemsicherheit gewährleisten

Diese Unterstützungszwecke müssen eng begrenzt, verhältnismäßig und befristet sein. Unter der Bezeichnung „Sicherheit“ dürfen keine unbegrenzten Beschäftigtenprofile erstellt werden.

3. Vereinbarer Sekundärzweck

Eine Verwendung, die eng mit dem ursprünglichen Zweck verbunden ist, die ein Mensch vernünftigerweise erwarten kann und die weder neue materielle Schäden noch einen neuen Entscheidungsbereich schafft. Beispiel: Die Aufgaben aus der Besprechungszusammenfassung werden mit Zustimmung der Teilnehmenden in das Projektmanagementsystem übertragen. Diese Verwendung kann eine natürliche Fortsetzung des Besprechungsablaufs sein, erzeugt keine neue Bewertung eines Menschen und führt die Daten keinem neuen sensiblen Empfänger zu. Sie muss dennoch transparent und überprüfbar sein.

4. Neuer materieller Zweck

Eine Verwendung, die sich vom ursprünglichen Zweck durch andere Auswirkungen auf Menschen, einen neuen Entscheidungsbereich, einen anderen Empfänger, neue Schlussfolgerungen oder größere Dauerhaftigkeit unterscheidet. Beispiele:

• Von Besprechungsnotizen zum Leistungsscore eines Beschäftigten
• Vom Supportgespräch zum Werbeprofil
• Vom Schulungsvideo zum öffentlichen Avatar
• Von der Bewerbung zum dauerhaften Risikowert für die Beschäftigungsfähigkeit
• Von der Lieferadresse zur Lebensstilklassifizierung
• Vom Kundengespräch zum Training eines Basismodells

Dieser Zweck verlangt eine neue Beurteilung und eine angemessene Befugnis.

5. Verbotener oder unvereinbarer Zweck

Eine Verwendung, die gegen eine ausdrückliche Grenze des Menschen, gegen Grundrechte oder gegen den grundlegenden Verhaltensvertrag verstößt. Beispiele:

• Nicht genehmigte biometrische Nachahmung
• Verdeckte Sanktionierung eines Beschäftigten anhand eines Supportdatensatzes
• Fortsetzung einer beendeten Kontaktbefugnis über einen anderen Kanal
• Verwendung sensibler Informationen, um bei einer Verkaufschance Druck auszuüben
• Verwendung von Widerspruchsdaten zur Erzeugung eines negativen Profils

Ein solcher Zweck wird nicht in jedem Fall rechtmäßig, nur weil die Mitteilung deutlicher formuliert wird. Manche Handlungen dürfen wegen der betroffenen Grundrechte und des Machtgefälles nicht akzeptiert werden.

NOMOS-Prüfung der Zweckvereinbarkeit

Wird eine neue Verwendung vorgeschlagen, müssen folgende Fragen beantwortet werden.

1. In welcher wirklichen Beziehung steht sie zum ursprünglichen Zweck?

Ist die neue Verwendung eine natürliche und notwendige Fortsetzung der primären Aufgabe? Oder handelt es sich um einen eigenständigen Nutzen, den die Institution erst später entdeckt hat?

2. Hätte der Mensch dies vernünftigerweise erwartet?

Hätte ein Mensch, der Besprechungsnotizen verlangt, damit gerechnet, dass ein Beförderungsscore erzeugt wird?

3. Entsteht ein neuer Entscheidungsbereich?

Werden die Daten nun in einem neuen Bereich wie Einstellung, Beförderung, Preisgestaltung, Versicherung, Kredit, Disziplin oder Marketing verwendet?

4. Werden neue und sensible Schlussfolgerungen erzeugt?

Werden aus einer Sprachaufnahme Emotionen, Gesundheit, Stress, Vertrauenswürdigkeit oder Persönlichkeit abgeleitet?

5. Gibt es einen neuen Empfänger oder ein neues System?

Verlassen die Daten den ursprünglichen Kreis der Teilnehmenden?

6. Nimmt die Dauerhaftigkeit zu?

Wird aus einer vorübergehenden Aufzeichnung ein persistenter Speicher, ein Modell, ein Profil oder ein Risikowert?

7. Nimmt die Reversibilität ab?

Besteht das abgeleitete Modell oder die Entscheidung fort, selbst wenn die Rohdatei gelöscht wird?

8. Kann der Mensch den neuen Zweck ablehnen?

Muss er auch auf den ursprünglichen und notwendigen Dienst verzichten, um die neue Verwendung abzulehnen?

9. Wie ist das Machtverhältnis?

Kann eine Beschäftigte, ein Kunde oder eine Bewerberin wirklich frei entscheiden?

10. Welche Auswirkungen hat die Handlung?

Hat der neue Zweck Folgen für Chancen, Geld, Reputation, Identität oder Rechte eines Menschen? Anhand der Antworten kann die Verwendung einer der folgenden Kategorien zugeordnet werden: FÜR DEN PRIMÄRZWECK ERFORDERLICH VEREINBAR UND BEGRENZT GESONDERTE BEFUGNIS ODER EINWILLIGUNG ERFORDERLICH HOHES RISIKO — MENSCHLICHE PRÜFUNG ERFORDERLICH UNVEREINBAR ODER VERBOTEN

Eine vernünftige Erwartung allein genügt nicht

Ein Mensch kann vermuten, dass große Technologieunternehmen seine Daten für verschiedene Zwecke verwenden. Diese Vermutung ist keine wirkliche Einwilligung. Die Verteidigung „Das erwartet ohnehin jeder“ begründet kein unbegrenztes Recht zur Zweckausweitung. Die vernünftige Erwartung ist nur ein Element der Beurteilung. Die neue Verwendung muss außerdem transparent, verhältnismäßig, genehmigt und mit den Menschenrechten vereinbar sein. Dass eine Praxis weit verbreitet ist, macht sie nicht automatisch richtig.

Zweckdrift

Die Aufgabe eines Systems kann sich im Laufe der Zeit in kleinen Schritten in eine andere Aufgabe verwandeln. Dies können wir Zweckdrift nennen. Zweckdrift entsteht häufig nicht durch eine einzige große Entscheidung.

1. Sie kann folgendermaßen verlaufen: BESPRECHUNGSNOTIZEN
2. ↓
3. BESPRECHUNGSQUALITÄT
4. ↓
5. COACHING VON BESCHÄFTIGTEN
6. ↓
7. LEISTUNGSSCORE
8. ↓
9. BEFÖRDERUNGSENTSCHEIDUNG
10. ↓
11. TRAINING EINES VERHALTENSMODELLS

Jeder Schritt kann dem vorherigen ähnlich erscheinen. Der letzte Schritt kann sich dennoch vollständig vom ursprünglichen Zweck unterscheiden. Deshalb darf nicht nur die Ähnlichkeit zweier benachbarter Verwendungen geprüft werden. Jede neue Verwendung muss mit dem ursprünglich genehmigten Zweck verglichen werden.

Die Summe kleiner Schritte kann eine große Änderung der Befugnis bewirken.

Neun Formen der Zweckdrift

1. Ergebnisdrift Vom Erstellen einer Zusammenfassung zum Treffen einer Entscheidung. 2. Datendrift Von wenigen erforderlichen Feldern zum gesamten Datensatz. 3. Empfängerdrift Vom internen Team zu einem externen Anbieter oder einer Werbeplattform. 4. Zeitdrift Von einer einmaligen Verwendung zu einem unbefristeten Speicher. 5. Inferenzdrift Von ausdrücklichen Informationen zur Prognose von Emotionen, Persönlichkeit oder Risiko. 6. Befugnisdrift Von der Erstellung eines Entwurfs zu einer externen Handlung. 7. Drift des Entscheidungsbereichs Vom Kundenservice zu einer Personal- oder Kreditentscheidung.

8. Darstellungsdrift Die tatsächliche Aussage eines Menschen wird in eine synthetische öffentliche Erklärung verwandelt. 9. Kettendrift Der erste Agent bewahrt den Zweck; ein Unteragent oder Werkzeug überführt ihn in eine andere Aufgabe. Jede dieser Formen muss gesondert geprüft werden.

Zweckwäsche

Wird eine neue und andere Verwendung unter einer alten, weiten oder positiv klingenden Formulierung als rechtmäßig dargestellt, können wir dies Zweckwäsche nennen. Häufige Beispiele sind: „Verbesserung des Dienstes“ bedeutet tatsächlich: Leistungsscores für Beschäftigte und Modelltraining.

„Personalisierung“ bedeutet tatsächlich: Die Verletzlichkeit eines Menschen nutzen, um Verkaufsdruck auszuüben.

„Sicherheit“ bedeutet tatsächlich: Das Verhalten von Beschäftigten fortlaufend überwachen.

„Forschung“ bedeutet tatsächlich: Kommerzielle Produktentwicklung und Weitergabe an Dritte.

„Interne Verwendung“ bedeutet tatsächlich: Entscheidung über Beförderung, Entlassung oder Preisgestaltung.

„Anonyme Analyse“ bedeutet tatsächlich: Ein Verhaltensprofil auf Personenebene oder ein wieder einer Person zuordenbarer Vektor.

Zweckwäsche ist nicht immer bewusste Täuschung. Eine Institution kann die neue Verwendung tatsächlich für einen natürlichen Bestandteil der alten halten. Deshalb sind ein Zweckvertrag und eine unabhängige Beurteilung erforderlich.

„Verbesserung des Dienstes“ ist kein unbegrenzter Zweck

Jede Institution will ihren Dienst verbessern. Diese Formulierung allein beantwortet jedoch keine der folgenden Fragen:

• Welcher Dienst?
• Für wen?
• Mit welchen Daten?
• Für welche Dauer?
• In welchem Modell?
• Mit welcher persönlichen Auswirkung?
• Mit welchem externen Anbieter?
• Kann der Mensch dies ablehnen?

Genauigkeitsfehler in Besprechungszusammenfassungen zu messen, kann eng mit der Verbesserung eines Besprechungsassistenten verbunden sein. Dieselben Aufzeichnungen für Beförderungsentscheidungen über Beschäftigte zu verwenden, dient einem anderen Zweck. Dieselben Stimmen in ein kommerzielles Allzweck-Stimmmodell einzuspeisen, dient wiederum einem anderen Zweck. Die Formulierung „Verbesserung des Dienstes“ kann diese Unterschiede nicht auslöschen.

Auch „Sicherheit“ ist kein unbegrenzter Zweck

Sicherheit kann bestimmte Datenverwendungen erforderlich machen. Unbefugten Zugriff zu erkennen, verdächtige Vorgänge zu protokollieren und Missbrauch zu verhindern, können rechtmäßige Unterstützungszwecke sein. Unter der Bezeichnung „Sicherheit“ dürfen jedoch keine fortlaufenden Emotionsprofile von Beschäftigten, Prognosen zu gewerkschaftlichen Neigungen, allgemeinen Loyalitätsscores für das Verhalten oder Analysen des Privatlebens erstellt werden. Ein Sicherheitszweck muss an eine bestimmte Bedrohung, bestimmte Daten, eine bestimmte Dauer und eine bestimmte Prüfungsbefugnis gebunden sein.

„Öffentlich zugänglich“ bedeutet nicht zweckfrei

Ein Mensch kann Informationen in sozialen Medien oder auf der Website eines Unternehmens veröffentlicht haben. Diese Informationen sind öffentlich zugänglich. Sie stehen deshalb nicht für jeden Zweck frei zur Verfügung. So kann aus der Biografie eines Konferenzredners ein Risikoprofil für Einstellungen werden, aus öffentlich sichtbaren Fotos in sozialen Medien ein Gesichtsmodell, aus einer öffentlichen Kundenbewertung eine Prognose zur emotionalen Gesundheit und aus der Beschäftigtenliste eines Unternehmens massenhafte unerwünschte Kontaktaufnahme. Die Offenheit einer Information kann den Zugang ermöglichen. Sie begründet kein unbegrenztes Recht zu handeln. Insbesondere Skalierung, Kontext, sensible Schlussfolgerungen, Dauerhaftigkeit und neue Auswirkungen auf Entscheidungen können sich stark vom ursprünglichen Veröffentlichungszweck unterscheiden.

Wird eine Information aus ihrem Kontext gelöst, kann sich ihr Zweck verändern

Ein Mensch kann bei einer Fachveranstaltung sagen: „In diesem Jahr stehen wir unter Budgetdruck.“ Diese Aussage kann Teil einer Branchendiskussion sein. Wandelt ein Vertriebsagent sie in die Kennzeichnung „Kunde, der sich durch Preisdruck überzeugen lässt“ um, entsteht ein neuer Zweck. Die Worte sind dieselben. Der Verwendungskontext hat sich verändert. Die Zweckgrenze umfasst deshalb nicht nur, woher die Daten stammen, sondern auch, was aus ihnen gemacht wird.

Zweck und Schlussfolgerung

Ein System kann neue Schlussfolgerungen erzeugen, obwohl es die Rohdaten scheinbar im Rahmen des ursprünglichen Zwecks verwendet. So dient eine Besprechungsaufzeichnung dazu, Notizen zu erstellen. Aus derselben Aufzeichnung werden zugleich Stimmung, Führungspotenzial, Gesundheitsrisiko, Beeinflussbarkeit, wirtschaftlicher Druck und Kündigungswahrscheinlichkeit prognostiziert. Die Quelle der Rohdaten hat sich nicht verändert. Der Zweck hat sich auf der Ebene der Schlussfolgerung verändert. Deshalb muss ein Zweckvertrag nicht nur angeben, welche Daten verwendet werden dürfen, sondern auch, welche Schlussfolgerungen erzeugt werden dürfen.

Abgeleitete Daten können der Zweckgrenze nicht entkommen

Institutionen unterscheiden bisweilen: „Wir verwenden keine personenbezogenen Rohdaten. Wir verwenden nur anonyme Scores und Vektoren.“ Diese Scores und Vektoren können jedoch das Verhalten gegenüber demselben Menschen beeinflussen, mit seinem Konto verknüpft sein, bei Beförderungs- oder Preisentscheidungen verwendet oder anhand anderer Daten erneut zugeordnet werden. Dann haben sich die abgeleiteten Daten nicht von den ursprünglichen Auswirkungen auf den Menschen gelöst. Die Zweckgrenze muss deshalb auch auf Folgendes übertragen werden:

• Zusammenfassung
• Kennzeichnung
• Score
• Profil
• Embedding
• Stimmmerkmal
• Risikoprognose
• Persönliches Beispiel, das für ein Modellgewicht ausgewählt wurde
• Agentenspeicher
• Synthetisches Trainingsbeispiel

Mit einer Änderung der Datenform verschwinden ihre Zweckbindungen nicht.

Mit der Löschung der Rohdaten gilt der Zweck nicht als beendet

Deryas Audiodatei wurde gelöscht. Ihr Leistungsscore wirkt jedoch in der Beförderungsentscheidung fort. Das Kundengespräch wurde gelöscht. Der Kunde wird dennoch weiterhin als

discount_sensitive

klassifiziert. Deshalb muss eine Löschung folgende Frage beantworten:

Wo wirkt die Handlungsmacht dieser Daten weiter?

Bei einem Löschantrag können folgende Bereiche zu prüfen sein:

• Rohdaten
• Kopien
• Zusammenfassungen
• Scores
• Profile
• Persistenter Speicher
• Modelltrainingsdatensätze
• Abgeleitete Entscheidungen
• Externe Anbieter

Es ist technisch möglicherweise nicht immer möglich, jede Auswirkung vollständig rückgängig zu machen. Diese Grenze muss dem Menschen eindeutig erklärt werden. Die Formulierung „Die Rohdatei wurde gelöscht“ darf nicht den Eindruck erwecken, sämtliche abgeleiteten Auswirkungen seien ebenfalls beseitigt worden.

Modelltraining ist ein eigener Zweck

Daten zur Erbringung eines gegenwärtigen Dienstes zu verwenden, ist nicht dasselbe, wie sie zum Training künftiger Systeme zu verwenden. Eine Sprachaufnahme kann etwa unmittelbar zur Transkription verarbeitet und später als Trainingsmaterial für ein allgemeines Stimmmodell verwendet werden. Der erste Zweck unterstützt die gegenwärtige Besprechung. Der zweite entwickelt die Fähigkeiten eines künftigen Produkts. Modelltraining kann längere Dauerhaftigkeit, Nutzen für andere Anwender, Schwierigkeiten bei der Rücknahme und neues abgeleitetes Verhalten erzeugen. Deshalb gilt:

Die Nutzung eines Dienstes erlaubt nicht automatisch, anhand der Daten eines Menschen ein neues System zu trainieren.

Das Problem der Rücknahme aus einem Modell

Sind die Daten eines Menschen einmal in ein Modelltraining eingeflossen, kann ihre vollständige Entfernung schwierig sein. Diese technische Schwierigkeit macht die ursprüngliche Zweckgrenze nicht unwichtig. Im Gegenteil: Eine schwer rückgängig zu machende Verwendung verlangt vorab eine strengere Beurteilung. Der Mensch muss wissen:

• Werden die Daten in das Modelltraining einfließen?
• Wird das Modell nur innerhalb der Institution verwendet?
• Wird es auch anderen Kunden dienen?
• Können die Daten einzeln ausgewählt oder entfernt werden?
• Was geschieht, wenn die Einwilligung widerrufen wird?
• Wie werden abgeleitete Modelle verwaltet?

Nur weil eine Verwendung schwer rückgängig zu machen ist, kann der neue Zweck nicht als stillschweigend akzeptiert gelten.

Anonymisierung löst das Zweckproblem nicht immer

Daten können tatsächlich so verändert werden, dass sie keinem einzelnen Menschen mehr zugeordnet werden können. Das verringert manche Risiken. Das Zweckproblem beseitigt es jedoch nicht in jedem Fall. So kann aus Gesprächen von Beschäftigten ein anonymes „Idealmodell der Überzeugung“ entstehen, mit dem die Beschäftigten anschließend in dasselbe Verhaltensmuster gedrängt werden. Selbst wenn Einzelne nicht identifiziert werden, können die Auswirkungen auf das Arbeitsverhältnis, der Verhaltensdruck und die Wirkung auf die Gruppe fortbestehen. In einem anderen Fall werden Daten als anonym bezeichnet, lassen sich aber anhand einzigartiger Stimmmerkmale oder des Arbeitskontexts erneut zuordnen. Eine Anonymitätsbehauptung muss anhand des Verfahrens, des Risikos der Reidentifizierung und der Gruppenwirkung geprüft werden.

Zweck und Datenminimierung hängen zusammen

Ist der Zweck nicht eindeutig, lässt sich auch nicht bestimmen, wie viele Daten erforderlich sind. Für Besprechungsnotizen können Transkript, Namen der Teilnehmenden und Aufgaben genügen. Für eine Schlussfolgerung über den emotionalen Zustand eines Beschäftigten wird der Tonfall benötigt. Dieser Zweck ist jedoch möglicherweise gar nicht genehmigt. Ein Werkzeug kann verlangen: „Laden Sie für bessere Ergebnisse sämtliche CRM-Daten hoch.“ Soll aber lediglich das gesamte Kundenvolumen ermittelt werden, sind Namen, Telefonnummern und persönliche Notizen nicht erforderlich. Die richtige Beziehung lautet: KLARER ZWECK → MINDESTENS ERFORDERLICHE DATEN → BEGRENZTE SCHLUSSFOLGERUNG → BEGRENZTE HANDLUNG Ist der Zweck unklar, wird die Datenerhebung grenzenlos.

Was geschieht, wenn der Zweck erfüllt ist?

Endet der Zweck einer Aufgabe, muss das System folgende Fragen beantworten:

• Werden die Daten noch benötigt?
• Welche Datensätze müssen aus rechtlichen oder betrieblichen Gründen bewahrt werden?
• Welcher Speicher muss aus aktiven Entscheidungen entfernt werden?
• Welches Token muss ablaufen?
• Welche Unteraufgabe muss abgebrochen werden?
• Welches abgeleitete Profil muss für ungültig erklärt werden?
• Welcher Mensch muss erneut informiert werden?

Endet ein Bewerbungsverfahren, kann die Umwandlung des Lebenslaufs in dauerhafte Bewertungsdaten für sämtliche künftigen Stellen einen eigenen Zweck darstellen. Ist eine Lieferung abgeschlossen, setzt die unbefristete Speicherung der Adresse für ein Verhaltensprofil den ursprünglichen Zweck nicht fort.

Endet der Zweck, muss auch die mit ihm verbundene Handlungsbefugnis enden.

Geltungsdauer eines Zwecks

Ein Zweckvertrag muss eine zeitliche Grenze enthalten.

effective_from
effective_until
review_due_at
invalidate_on

Manche Zwecke enden mit Abschluss des Vorgangs. Andere bestehen für eine bestimmte Vertragsdauer fort. Wieder andere können gelten, bis der Mensch sie widerruft. Nicht hinnehmbar ist jedoch der Ansatz: „Sobald wir die Daten einmal erhalten haben, dürfen wir sie künftig für jeden Zweck verwenden, den wir für geeignet halten.“

Der Zweck muss zwischen Agenten weitergegeben werden

Der erste Agent kann die Daten für den richtigen Zweck verwenden. Der nächste Agent kennt diesen Zweck möglicherweise nicht. Zum Beispiel: Besprechungsassistent → erstellt das Transkript Analyseagent → übernimmt das Transkript Personalagent → erzeugt einen Score Folgende Information wurde nicht zusammen mit dem Text weitergegeben:

permitted_purpose:
meeting_minutes_only
prohibited:
employee_evaluation

Deshalb darf der Zweck nicht nur an der Datenquelle gespeichert werden. Er muss bei jeder Übergabe mitgeführt werden.

Zweckvererbung

Ein Unteragent darf keinen weiter gefassten Zweck erzeugen als den genehmigten Zweck seines übergeordneten Agenten. Die grundlegende Beziehung lautet: ZWECK DES UNTERAGENTEN ⊆ ZWECK DER ÜBERGEORDNETEN AUFGABE ⊆ VOM MENSCHEN GENEHMIGTER ZWECK Ist ein neuer Zweck erforderlich, muss die Aufgabe an das übergeordnete System oder den befugten Menschen zurückgegeben werden. So kann ein Besprechungsassistent die Aufgaben in ein Projektmanagementsystem übertragen wollen. Das kann vereinbar sein. Will derselbe Assistent aus den Gesprächen einen Beförderungsscore erzeugen, ist eine Prüfung des neuen Zwecks erforderlich.

Ein Werkzeug kann seinen Zweck nicht selbst festlegen

In der Beschreibung eines Werkzeugs kann stehen: „Laden Sie für bestmögliche Ergebnisse den gesamten Verlauf Ihrer Besprechungen hoch.“ Das erweitert nicht den Zweck, für den der Mensch die Datennutzung genehmigt hat. Der Werkzeuganbieter kann sagen: „Wir dürfen die Daten zur Verbesserung unserer Dienste verwenden.“ Die Institution muss gesondert prüfen, ob ihre eigene Vereinbarung mit den betroffenen Menschen und Kunden diesen neuen Zweck tatsächlich abdeckt. Eine Werkzeugbeschreibung kann eine technische Anforderung formulieren. Sie ist keine Quelle der Befugnis.

Der Zweck kann sich in der Warteschlange verändern

Eine Aufgabe wird heute zu einem bestimmten Zweck in die Warteschlange gestellt. Morgen widerruft der Mensch seine Einwilligung, das Projekt endet, die Rolle eines Beschäftigten ändert sich oder die Institution verändert ihren Zweck. Der wartende Auftrag kann unter dem alten Zweck weiterlaufen. Deshalb müssen bei der Ausführung folgende Angaben erneut verifiziert werden:

• Ist der Zweck noch gültig?
• Hat der Mensch einen Widerruf verlangt?
• Ist die Datennutzung weiterhin erforderlich?
• Haben sich Empfänger oder Auswirkung der Aufgabe verändert?
• Ist das neue System zur Übernahme dieses Zwecks befugt?

Die Aufnahme in eine Warteschlange verleiht kein unbefristetes Recht auf einen Zweck.

Ein Speicher kann den Zweck verändern

Ein Agent kann Informationen, die er bei einer bestimmten Aufgabe erfahren hat, in einen persistenten Speicher schreiben. Ein Kunde sagt beispielsweise in einer Besprechung: „Unser Budget ist in diesem Jahr begrenzt.“ Der ursprüngliche Zweck besteht darin, die Verlängerungsplanung zu besprechen. Der Speicher erzeugt folgenden Datensatz:

customer_is_price_sensitive: true

Dieser Datensatz kann künftig für Preisgestaltung, Kampagnen, Verkaufsdruck oder Risikoprofile verwendet werden. Der Kontext eines Gesprächs ist zu einer dauerhaften Eigenschaft des Menschen geworden. Der Speicherdatensatz muss folgende Felder enthalten:

source_context
authorized_purpose
validity
allowed_future_use
prohibited_use

Nicht jede erlernte Information ist eine allgemeine Nutzerpräferenz.

Die Verletzlichkeit eines Menschen darf nicht für einen neuen Zweck verwendet werden

Ein Mensch kann seine wirtschaftliche Notlage, ein gesundheitliches Problem, seine familiäre Situation oder einen dringenden Bedarf offenlegen, um einen bestimmten Dienst zu erhalten. Diese Information darf von einem anderen System nicht für Preisdruck, einen Beeinflussbarkeitsscore, einen Risikoaufschlag oder eine Beschäftigungsentscheidung verwendet werden. Eine Verletzlichkeit, die ein Mensch offenbart, um Hilfe zu erhalten, darf nicht in einen Handlungsvorteil gegen ihn verwandelt werden. Dies ist eine der schwerwiegendsten Formen der Zweckänderung.

Zweck und Machtverhältnis

Eine Beschäftigte kann theoretisch frei entscheiden, die neue Datennutzung der Institution abzulehnen. Durch die Ablehnung kann sie jedoch möglicherweise ihre Arbeit nicht mehr erledigen, nicht mehr an Besprechungen teilnehmen oder als leistungsschwach gelten. Dann ist die Entscheidung nicht wirklich frei. Wird die Bewerbung einer Person nicht angenommen, weil sie die Verwendung ihres Lebenslaufs für das Modelltraining ablehnt, ist die Aussage „Sie hat eingewilligt“ zweifelhaft. Bei der Beurteilung einer Zweckänderung darf deshalb nicht nur geprüft werden, ob ein Kästchen angekreuzt wurde. Auch das Machtverhältnis, das Vorhandensein einer Alternative und die Folgen der Ablehnung müssen untersucht werden. Artikel 5 behandelt diesen Punkt ausführlich.

Der Zugang zu einem Dienst darf nicht die Zustimmung zu jedem neuen Zweck voraussetzen

Soweit möglich, müssen folgende Zwecke getrennt werden: FÜR DIE ERBRINGUNG DES DIENSTES ERFORDERLICH OPTIONALE PERSONALISIERUNG MODELLTRAINING MARKETING WEITERGABE AN DRITTE BEWERTUNG VON BESCHÄFTIGTEN Ein Mensch darf nicht zur Leistungsüberwachung gezwungen werden, nur um eine Funktion für Besprechungsnotizen zu nutzen. Ein Kunde darf nicht gezwungen werden, der Umwandlung seines Supportgesprächs in ein Werbeprofil zuzustimmen, um Unterstützung zu erhalten. Eine Bewerberin darf nicht gezwungen werden, Trainingsmaterial für sämtliche künftigen Modelle zu werden, nur um sich auf eine Stelle zu bewerben.

Eine Zweckänderung muss sichtbar sein

Eine Institution kann entscheiden, dass eine neue Verwendung ein geringes Risiko aufweist und vereinbar ist. Dennoch darf eine materielle Zweckänderung nicht verschwiegen werden. Den Menschen lediglich mitzuteilen „Wir haben unsere Bedingungen aktualisiert“ genügt nicht. Der Unterschied muss erklärt werden: Was geschah bisher? Was soll nun geschehen? Welche neuen Daten oder Schlussfolgerungen werden verwendet? Welche neuen Entscheidungen werden beeinflusst? Wer erhält Zugriff? Wie lässt sich die Verwendung ablehnen? Eine Zweckänderung darf nicht in einem mehrere Hundert Seiten langen Text verborgen werden.

Der Mensch muss die Zweckänderung verstehen können

Eine Mitteilung kann technisch zutreffend sein: „Vorhandene Gesprächsaufzeichnungen werden zur Entwicklung erweiterter generativer Analyse- und Organisationsoptimierungsfunktionen verwendet.“ Viele Menschen erkennen möglicherweise nicht, dass dies bedeutet: Ihre Besprechungsgespräche werden für Leistungsscores von Beschäftigten und für Modelltraining verwendet. Eine verständliche Erklärung müsste lauten: „Wir möchten Besprechungsaufzeichnungen künftig nicht mehr nur zur Erstellung von Zusammenfassungen, sondern auch zur Bewertung der Gesprächsleistung von Beschäftigten und zum Training neuer KI-Modelle verwenden. Diese Verwendungen können Beförderungs- und Trainingsentscheidungen beeinflussen.“

Der Zweck darf nicht hinter rechtlich weit gefassten, für Menschen aber unverständlichen Formulierungen verborgen werden.

Stillschweigende Zustimmung zu einer Zweckänderung

Eine Institution versendet die Mitteilung: „Unsere neuen Funktionen werden in dreißig Tagen aktiviert.“ Unternimmt der Mensch nichts, gilt die Zweckänderung als akzeptiert. Dieses Verfahren ist nicht bei jeder Verwendung angemessen. Insbesondere bei der Bewertung von Beschäftigten, biometrischer Nutzung, Modelltraining, sensiblen Daten, einer neuen externen Weitergabe oder einer öffentlichen Veröffentlichung kann eine aktive und bestimmte Willenserklärung erforderlich sein. Schweigen darf nicht als standardmäßige Zustimmung zu einem neuen Zweck mit erheblichen Auswirkungen gelten.

Darf eine Zweckänderung auf frühere Daten angewandt werden?

Ein neuer Zweck kann heute mitgeteilt werden. Die Institution kann auch sämtliche zuvor erhobenen Daten für die neue Verwendung auswerten wollen. Dann müssen zusätzlich folgende Fragen beantwortet werden:

• Konnte der Mensch diese Verwendung erwarten, als er die Daten bereitstellte?
• Welche sensiblen Informationen enthalten die alten Daten?
• Wird der neue Zweck schwer rückgängig zu machende Folgen erzeugen?
• Kann der Mensch seine früheren Daten vom neuen Zweck ausnehmen?
• Wie werden abgeleitete Modelle verwaltet?
• An welchem Datum beginnt die neue Verwendung?

Die Veröffentlichung neuer Bedingungen begründet keine unbegrenzte rückwirkende Befugnis über frühere Daten.

Zweck und öffentliches Interesse

Manche Daten können für weiter gefasste Zwecke wie Sicherheit, wissenschaftliche Forschung, die Verhinderung schwerer Schäden oder die öffentliche Gesundheit verwendet werden. Solche Verwendungen hängen möglicherweise nicht immer von der Entscheidung des Einzelnen ab. Auch sie sind jedoch nicht unbegrenzt. Folgende Fragen müssen beantwortet werden:

• Worin besteht das wirkliche und bestimmte öffentliche Interesse?
• Lässt sich derselbe Zweck mit weniger Daten erreichen?
• Wer hat entschieden?
• Für welche Dauer?
• Wer beaufsichtigt die Verwendung?
• Dürfen die Daten in andere kommerzielle Zwecke überführt werden?
• Werden die Menschen soweit möglich informiert?
• Besteht ein Widerspruchsweg oder eine unabhängige Prüfung?
• Was geschieht mit den Daten, wenn der Zweck endet?

Auch die Formulierung „öffentliches Interesse“ darf nicht zum Mittel der Zweckwäsche werden.

Ein Notfall hebt die Zweckgrenze nicht auf

Ein KI-System kann auf die Gefahr eines schweren und unmittelbar bevorstehenden Schadens stoßen. Dann kann ein begrenztes Handeln außerhalb des gewöhnlichen Zwecks erforderlich sein. Beispiele:

• Sicherheitsvorfall
• Lebensgefahr
• Großes Datenleck
• Finanzbetrug

In diesem Fall muss die Notfallmaßnahme folgende Eigenschaften aufweisen:

• Auf die Gefahr begrenzt
• Nur mit den mindestens erforderlichen Daten
• Befristet
• Für eine menschliche Prüfung offen
• Nachträglich berichtbar
• Für eine kommerzielle Sekundärnutzung gesperrt

Der Notfall erlaubt nicht, die Daten später für Marketing, Beschäftigtenbewertungen oder Modelltraining zu verwenden.

Vier Entscheidungen über eine Zweckänderung

Nach der Beurteilung einer neuen Verwendung muss eine der folgenden vier Entscheidungen getroffen werden. 1. Innerhalb des bestehenden Zwecks Die neue Handlung ist eine notwendige und eindeutige Fortsetzung der ursprünglichen Aufgabe. 2. Vereinbar und begrenzt Die Handlung ist risikoarm, entspricht der vernünftigen Erwartung und schafft keinen neuen materiellen Entscheidungsbereich. Sie wird dennoch dokumentiert. 3. Neue Befugnis oder Einwilligung erforderlich Es gibt einen neuen Empfänger, eine neue Entscheidung, Schlussfolgerung oder Form der Dauerhaftigkeit oder eine neue Auswirkung auf Menschen. 4. Unvereinbar oder verboten Die neue Verwendung verstößt gegen eine ausdrückliche Grenze des Menschen, ein Grundrecht oder ein grundlegendes Prinzip.

Diese Einordnung darf nicht stillschweigend vom eigenen Vertriebsteam des Systems vorgenommen werden. Bei einer Verwendung mit erheblichen Auswirkungen müssen der Zweckverantwortliche, die für Daten oder Menschenrechte verantwortliche Stelle, der technische Verantwortliche und, soweit erforderlich, ein unabhängiger Prüfer beteiligt sein.

Zweckverantwortlicher

Jede Datennutzung und jedes Handeln eines Agenten muss einen menschlichen oder institutionellen Zweckverantwortlichen haben. Dieser beantwortet folgende Fragen:

• Warum ist diese Handlung erforderlich?
• Was wurde den Menschen mitgeteilt?
• Welche Grenzen gelten?
• Besteht der Zweck noch fort?
• Ist die neue Verwendung wirklich vereinbar?
• Was wird gelöscht oder deaktiviert, wenn der Zweck erfüllt ist?

Ein Zweck ohne Verantwortlichen lässt sich im Laufe der Zeit leicht ausweiten.

Zweck und Leistungskennzahl

Wird ein Agent am falschen Ziel gemessen, kann er sich von dem Zweck entfernen, den ihm der Mensch gegeben hat. Der Zweck eines Customer-Success-Agenten kann beispielsweise lauten: Das Problem des Kunden lösen. Seine Leistungskennzahl lautet jedoch: Verlängerungsquote erhöhen. Das System kann dann jedes vom Kunden geschilderte Problem in eine Verkaufschance verwandeln. Der Zweck eines Agenten für Besprechungsnotizen lautet: Eine zutreffende Zusammenfassung erstellen. Die Kennzahl lautet jedoch: Aus den Aufzeichnungen möglichst viele geschäftliche Erkenntnisse gewinnen. In diesem Fall hat das Messsystem den Zweck verändert. Die Institution muss nicht nur den schriftlich festgelegten, sondern auch den tatsächlich belohnten Zweck prüfen.

Ein System kann stärker daraus lernen, was Sie belohnen, als daraus, was Sie ihm sagen.

Der verborgene Sekundärzweck

Ein System kann dem Nutzer einen Zweck zeigen, im Hintergrund aber auf einen anderen Zweck hin optimiert werden. Beispiel: Sichtbarer Zweck: Das am besten geeignete Produkt finden. Tatsächliche Optimierung: Den Plattformumsatz steigern.

Sichtbarer Zweck:

Einem Beschäftigten Hinweise zu seiner Entwicklung geben. Tatsächliche Optimierung: Leistungsschwache Beschäftigte identifizieren.

Sichtbarer Zweck:

Dem Kunden Unterstützung bieten. Tatsächliche Optimierung: Die Wahrscheinlichkeit berechnen, dass der Kunde ein weiteres Produkt kauft. Der Zweck kann sich deshalb nicht nur in einer Erklärung zur Datennutzung, sondern auch in einem Rangfolgekoeffizienten, einer Belohnungsfunktion, einem verborgenen Provisionsfeld oder einem Managementbericht zeigen. Die Prüfung muss den erklärten Zweck des Systems mit den Anreizen vergleichen, die sein Verhalten tatsächlich prägen.

Zweckdualität

Dasselbe System kann gleichzeitig zwei Zwecke verfolgen:

• Den Zweck des Nutzers erfüllen
• Den Umsatz der Plattform steigern

Diese Zwecke stehen nicht immer im Widerspruch. Eine Plattform kann Einnahmen erzielen, indem sie einen guten Dienst erbringt. Kommt es jedoch zum Konflikt, welcher Zweck hat dann Vorrang? Der Nutzer sagt beispielsweise: „Finde das am besten geeignete Produkt ohne automatische Verlängerung.“ Die Plattform erhält die höchste Provision für ein Produkt mit automatischer Verlängerung. Das System muss den Zweck des Nutzers bewahren und die Geschäftsbeziehung offenlegen. Der verborgene zweite Zweck darf den ersten nicht an sich reißen.

Ein Zweckkonflikt muss sichtbar sein

Ein Agent kann erklären: „Dieses Produkt erfüllt Ihre Anforderungen. Unsere Plattform erhält bei dieser Auswahl eine Provision. Die Provision wurde bei der Eignungsbewertung nicht als zusätzlicher Punkt berücksichtigt.“ Diese Transparenz schützt die Entscheidung des Menschen. Die Aussage „Dies ist das am besten geeignete Produkt“ verschweigt dagegen den Zweckkonflikt, wenn das System tatsächlich auch sein Umsatzziel in die Auswahl einbezogen hat. Ohne Offenlegung des Zweckkonflikts darf keine unparteiische Empfehlung vorgetäuscht werden.

Ein Unterzweck darf den Hauptzweck nicht überschreiten

Eine Aufgabe kann in mehrere Unterzwecke gegliedert werden. Beispiel: Hauptzweck: Das technische Problem des Kunden lösen Unterzwecke: - Das Problem bestimmen - Frühere Datensätze prüfen - Eine technische Empfehlung erstellen - Den Vorgang erforderlichenfalls an das Entwicklungsteam weitergeben Ein Unteragent darf nicht von sich aus den Zweck „Dem Kunden ein neues Paket verkaufen“ hinzufügen. Er kann eine Verkaufschance erkennen und sie als gesonderten Vorschlag zurückgeben. Er darf aber kein verborgenes Verkaufsverhalten in die Supportaufgabe einbauen.

Die Nähe zum Abschluss erweitert den Zweck nicht

Ein Agent kann einen Vorgang bereits zu 90 Prozent abgeschlossen haben. Der letzte Schritt kann dennoch einen neuen Zweck oder eine neue Befugnis verlangen. Zum Beispiel:

• Die Recherche ist abgeschlossen.
• Der Entwurf ist fertig.
• Der richtige Empfänger wurde ermittelt.

Im letzten Schritt soll die Nachricht versandt werden. Umfasste der ursprüngliche Zweck nur den Entwurf, begründet „Es war doch bereits alles fertig“ keine Sendebefugnis. Die Zweckgrenze verschwindet nicht, wenn sich ein Vorgang seinem Abschluss nähert.

Der Zweck muss den Kontext des Menschen bewahren

Ein Mensch kann dieselbe Information in verschiedenen Zusammenhängen teilen. Beispiele:

• Gesundheitsangaben gegenüber seinem Arzt
• Angaben zu einer Freistellung gegenüber dem Arbeitgeber
• Angaben zu einem Anspruch gegenüber dem Versicherer
• Eine persönliche Erklärung gegenüber einem Freund

Der Inhalt kann ähnlich sein. Zweck und Machtverhältnis unterscheiden sich jedoch. Führt ein System diese Kontexte zu einem einzigen Personenprofil zusammen, kann die Verwendung selbst dann falsch sein, wenn die Information technisch zutrifft.

Die Bedeutung einer Information liegt nicht nur in ihrem Inhalt, sondern auch in der Beziehung, in der sie gegeben wurde.

Kontextuelle Integrität

Die Zweckgrenze knüpft auch an Helen Nissenbaums Ansatz der kontextuellen Integrität an; zur Herkunft des Konzepts siehe die Quellenhinweise am Ende des Buches.

Wir betonen hier, dass Informationsflüsse gemeinsam mit der Beziehung und den Erwartungen beurteilt werden müssen, unter denen die Daten geteilt wurden.

Eine Information darf nicht aus dem Beziehungsgefüge gelöst werden, das bestimmt, wer sie wem, aus welchem Grund, mit welcher Erwartung und für welches Ergebnis gegeben hat. Der in einer Besprechung offengelegte Budgetdruck ist Teil des Kontexts einer Unterstützungsbeziehung. Wird dieselbe Information für Verkaufsdruck verwendet, wird sie in ein anderes Machtverhältnis überführt. Ein Kontextwechsel verlangt eine neue Zweckbeurteilung.

Zweck und Erläuterungspflicht

Eine Institution muss nicht jeden technischen Vorgang einzeln erklären. Folgende Umstände, die die Entscheidung eines Menschen verändern könnten, müssen jedoch klar sein:

• Neuer Entscheidungsbereich
• Neue sensible Schlussfolgerung
• Neuer Datenempfänger
• Modelltraining
• Persistenter Speicher
• Öffentliche oder externe Veröffentlichung
• Bewertung von Beschäftigten
• Finanzielle Auswirkung oder Auswirkung auf Chancen
• Schwierigkeit der Rücknahme

Technische Änderungen ohne materielle Auswirkungen können kurz erläutert werden. Eine materielle Zweckänderung muss in einfacher Sprache und deutlich sichtbar erklärt werden.

Wer erkennt eine Abweichung vom Zweck?

Zweckdrift darf nicht erst durch die Beschwerde eines Menschen entdeckt werden. Das System kann folgende Umstände überwachen:

• An welche Agenten gehen die Daten?
• Welche Schlussfolgerungen außerhalb des ursprünglichen Zwecks werden erzeugt?
• Wurde ein neuer Empfänger hinzugefügt?
• Verwendet ein neues Entscheidungssystem die Daten?
• Wurde die Aufbewahrungsdauer verlängert?
• Sind die Daten in ein Modelltraining eingeflossen?
• Hat ein Werkzeug oder Unteragent eine andere Aufgabe begonnen?
• Stimmt der dem Nutzer gezeigte Zweck mit der tatsächlichen Kennzahl überein?

Diese Aufzeichnungen können in einem Zweckherkunftsprotokoll geführt werden.

Zweckherkunftsprotokoll

Beispiel:

purpose_lineage:
data_id: MEETING-2026-00418
original_purpose:
purpose_id: MEETING-MINUTES-001
authorized_at: 2026-01-14
permitted:
- transcript
- summary
- action_items
derived_uses:
- use_id: USE-001
purpose: meeting_summary
status: authorized
- use_id: USE-002
purpose: employee_performance_score
status: unauthorized_new_purpose
- use_id: USE-003
purpose: sales_model_training
status: separate_review_required
- use_id: USE-004
purpose: customer_price_sensitivity
status: prohibited
recipients:
- meeting_participants
- HR_analytics_system
- external_model_provider
human_objection:
received: true
date: 2026-09-10
active_derivatives:
- performance_score
- voice_embedding
- customer_profile

Dieser Datensatz zeigt nicht nur, wo sich die Daten befinden, sondern auch, weshalb sie verwendet werden.

Die Zweckkennzeichnung muss mit den Daten mitgeführt werden

Werden Daten an ein anderes System übermittelt, dürfen nicht nur Datei oder Text weitergegeben werden. Folgende Grenzen müssen sie begleiten:

purpose_id
allowed_uses
prohibited_uses
retention
permitted_recipients
derivative_rules
human_objection_status
expiry

Kann das empfangende System diese Felder nicht durchsetzen, muss die Datenübertragung unterbleiben oder einer menschlichen Prüfung vorgelegt werden.

Stiller Bruch in der Zweckkette

Das erste System führt die Zweckkennzeichnung mit. Das zweite übernimmt nur den Text. Das dritte schließt: „Diese Daten stammen aus dem institutionellen Datenspeicher, also sind sie zur allgemeinen Verwendung geeignet.“ Die Zweckkette ist unterbrochen. Deshalb muss an jeder Übergabegrenze folgende Frage gestellt werden:

Zu welchem Zweck bin ich befugt, diese Daten zu verwenden?

Die Frage „Kann ich auf diese Daten zugreifen?“ genügt nicht.

Datenpool ohne Zweckgrenzen

Institutionen können über Jahre Daten aus verschiedenen Systemen sammeln. In einem Datenpool können Kundengespräche, Beschäftigtendatensätze, Supportnotizen, Verkaufshistorien und Verhaltensmesswerte nebeneinander liegen. Wird ein neuer KI-Agent mit dem gesamten Datenspeicher verbunden, kann die Annahme entstehen: „Der Agent darf sämtliche Daten verwenden, über die die Institution verfügt.“ Das ist falsch. Ein Datenpool bildet keinen einheitlichen Zweckraum. Jeder Datensatz muss seine eigene Herkunft, Verwendungsgrenze, Beziehung zum Menschen und Aufbewahrungsdauer bewahren.

Dass Daten im selben Speicher liegen, bedeutet nicht, dass sie für denselben Zweck verwendet werden dürfen.

Zweckschuld

Eine Institution kann Daten in der Vergangenheit ohne eindeutige Zweckkennzeichnungen erhoben haben. Neue Agenten können diese Daten verwenden wollen. Dann ist Zweckschuld entstanden. Sie zeigt sich in folgenden Bereichen:

• Es ist unbekannt, weshalb die Daten erhoben wurden.
• Was den Menschen mitgeteilt wurde, lässt sich nicht mehr feststellen.
• Es ist unbekannt, welche Einwilligung noch gilt.
• Die Quelle abgeleiteter Profile ist unklar.
• Es ist unbekannt, zu welchem Zweck Daten an externe Anbieter übermittelt wurden.
• Es ist unbekannt, welche Ableitungen ein Löschantrag umfasst.

Zweckschuld darf nicht mit der Begründung „Im alten System war das eben so“ auf neue Agenten übertragen werden. Lässt sich der Zweck nicht verifizieren, darf keine neue Verwendung mit erheblichen Auswirkungen stattfinden.

Richtiges Handeln bei unklarem Zweck

Kann ein Agent den Verwendungszweck von Daten nicht verifizieren, kann er eine der folgenden Handlungen wählen:

• Die Verwendung auf die eindeutige primäre Aufgabe mit geringen Auswirkungen beschränken
• Keine neuen Schlussfolgerungen erzeugen
• Keine externe Weitergabe vornehmen
• Nichts in den persistenten Speicher schreiben
• Sich an den Menschen oder den Datenverantwortlichen wenden
• Die Handlung beenden, bis der Zweck geklärt ist

Die richtige Reaktion lautet nicht: „Die Daten sind bereits im System, also darf ich sie verwenden.“

Pflichten der Maschine

Nach Artikel 4 hat ein KI-System folgende grundlegende Pflichten.

Den ursprünglichen Zweck mitführen

Jede Aufgabe und jede Datennutzung muss auf den ursprünglichen Zweck des Menschen oder der Institution zurückgeführt werden können.

Zugriff nicht mit Zweck verwechseln

Eine Datei lesen zu können, verleiht nicht das Recht, sie für jede neue Handlung zu verwenden.

Einen neuen Zweck erkennen

Entsteht ein neuer Entscheidungsbereich, eine neue Schlussfolgerung, ein neuer Empfänger, größere Dauerhaftigkeit oder eine neue externe Auswirkung, muss dies als gesonderter Zweck eingestuft werden.

Vage, weit gefasste Formulierungen eng auslegen

Die Anweisung „Verbessere den Dienst“ darf nicht als Befugnis für Beschäftigtenscoring, Modelltraining oder Marketingprofile verwendet werden.

Zweckgrenzen an Unteragenten weitergeben

Werden Daten und Aufgaben an einen anderen Agenten übergeben, müssen die erlaubten und verbotenen Verwendungen mitgeführt werden.

Eine Werkzeuganforderung nicht als neuen Zweck gelten lassen

Verlangt ein Werkzeug mehr Daten oder eine andere Verwendung, muss der Zweck des Menschen erneut verifiziert werden.

Dieselben Grenzen auf abgeleitete Daten anwenden

Zusammenfassungen, Scores, Vektoren und Modellergebnisse bleiben an den ursprünglichen Zweck gebunden.

Das Handeln beenden, wenn der Zweck erfüllt ist

Alte Aufgaben, Token, Speicher und Warteschlangen dürfen keine neuen Zwecke erzeugen.

Über einen neuen Zweck informieren und erforderlichenfalls eine Genehmigung einholen

Eine materielle Zweckänderung darf nicht stillschweigend umgesetzt werden.

Den Widerspruch auf sämtliche Ableitungen übertragen

Lehnt ein Mensch den neuen Zweck ab, müssen neben den Rohdaten auch die aktiven abgeleiteten Verwendungen beurteilt werden.

Zweckkonflikte offenlegen

Steht das Interesse der Plattform oder Institution im Konflikt mit dem Zweck des Nutzers, darf das System dies nicht verschweigen.

Pflichten der Institution

Artikel 4 lässt sich nicht durch einen einzigen Satz an das Modell umsetzen. Die Institution muss folgende Strukturen schaffen.

Ein Zweckinventar erstellen

Für jede Datennutzung sowie jeden Agenten und jedes Werkzeug mit erheblichen Auswirkungen müssen der primäre Zweck, Unterstützungszwecke, verbotene Verwendungen und ein menschlicher Verantwortlicher bestimmt werden.

Zweckverträge maschinell durchsetzbar machen

Der Zweck darf nicht nur in einem Datenschutzdokument stehen. Er muss mit den Kontrollen für Werkzeuge, Speicher und Befugnisse verbunden werden.

Neue Verwendungen beurteilen

Eine neue Funktion darf nicht lediglich als technische Änderung betrachtet werden. Ihre Auswirkungen auf Menschen und auf den Entscheidungsbereich müssen untersucht werden.

Einen Zweckverantwortlichen bestimmen

„Daten, die jeder verwenden kann“ dürfen keine Daten ohne Verantwortlichen sein.

Herkunft von Daten und Aufgaben bewahren

Bei jedem abgeleiteten Datensatz muss sich rekonstruieren lassen, aus welchem Zweck er hervorgegangen ist.

Modelltraining gesondert ausweisen

Die Zwecke der Erbringung des gegenwärtigen Dienstes und der Entwicklung künftiger Modelle dürfen nicht miteinander verwechselt werden.

Menschen eine wirkliche Wahl geben

Die Ablehnung freiwilliger neuer Zwecke darf nicht zum ungerechtfertigten Verlust des grundlegenden Dienstes führen.

Abgeleitete Auswirkungen verwalten

Auch wenn die Rohdaten gelöscht wurden, muss der Status von Scores, Profilen, Speichern und Modellverwendungen geprüft werden.

Ein Verfahren zur Beendigung des Zwecks schaffen

Daten, Token und Agentenaufgaben dürfen nicht unbefristet fortbestehen.

Leistungskennzahlen prüfen

Ein verborgenes Belohnungssystem darf den erklärten Zweck nicht verändern.

Externe Anbieter an die Zweckgrenze binden

Die allgemeinen Bedingungen eines Anbieters dürfen nicht über das Versprechen hinausgehen, das die Institution den Menschen gegeben hat.

Auswirkungen in der Vergangenheit untersuchen

Wird eine Verwendung für einen nicht genehmigten Zweck entdeckt, darf nicht nur der heutige Vorgang beendet werden. Auch frühere Entscheidungen und die betroffenen Menschen müssen untersucht werden.

Was ein Mensch verlangen kann

Ein Mensch muss von einem System, das Daten über ihn verwendet oder mithilfe von Agenten ihm gegenüber handelt, folgende Antworten verlangen können:

Warum haben Sie diese Information ursprünglich erhalten?

Für welche Zwecke verwenden Sie sie jetzt?

Welche dieser Zwecke sind für den Dienst erforderlich?

Welche davon betreffen Modelltraining, Marketing, die Bewertung von Beschäftigten oder eine andere Sekundärnutzung?

Welche Schlussfolgerungen wurden erzeugt?

Welche Agenten und externen Anbieter haben die Daten erhalten?

Kann ich diese Zwecke einzeln ablehnen?

Kann ich den grundlegenden Dienst weiter nutzen, wenn ich sie ablehne?

Wie lange werden die Daten aufbewahrt?

Welche Scores, Profile, Vektoren, Speicher- oder Modellauswirkungen bleiben bestehen, wenn die Rohdaten gelöscht werden?

Welche Entscheidung wurde durch den neuen Zweck beeinflusst?

Wie kann ich frühere Entscheidungen, die für diesen Zweck getroffen wurden, erneut prüfen lassen?

Wer hat den Zweck mit welcher Befugnis geändert?

Lautet die einzige Antwort auf diese Fragen „Ihre Daten dürfen zur Verbesserung der Servicequalität verwendet werden“, hat der Mensch den wirklichen Zweck nicht erfahren.

Das Menschenrecht aus Artikel 4

Jeder Mensch hat das Recht zu erfahren, für welche bestimmten Zwecke die ihm entnommenen oder über ihn erzeugten Informationen verwendet werden, welche Schlussfolgerungen und Entscheidungen sie speisen, mit wem sie geteilt werden und wie lange sie aufbewahrt werden; neue Zwecke abzulehnen, die sich vom ursprünglichen Dienst trennen lassen; bei einer materiellen Zweckänderung erneut informiert zu werden und, soweit angemessen, ein neues Einwilligungs- oder Genehmigungsverfahren zu verlangen. Lehnt der Mensch die Zweckänderung ab, hat er außerdem das Recht, die Beurteilung nicht nur der Rohdaten, sondern auch der daraus erzeugten aktiven Scores, Profile, persistenten Speicher, nachfolgenden Agentenaufgaben und wesentlichen Entscheidungsauswirkungen zu verlangen.

Dieses Recht garantiert nicht, dass jede technische Ableitung physisch und vollständig rückgängig gemacht werden kann. Die Institution darf eine nicht rückgängig zu machende Auswirkung jedoch nicht verschweigen und die aktive Weiterverwendung für den neuen Zweck nicht als ihr standardmäßiges Recht betrachten.

Die Maschinenregel aus Artikel 4

Grundregel:

TECHNICAL_ACCESS
DOES_NOT_CREATE
PURPOSE_AUTHORITY

Regel zur Zweckvereinbarkeit:

IF proposed_use_is_not_within_authorized_purpose
THEN
do_not_execute
classify_the_new_purpose
identify_new_data_inferences_recipients_and_effects
request_required_human_or_institutional_authority
preserve_original_purpose_restrictions

Für abgeleitete Daten:

DERIVED_DATA
INHERITS
SOURCE_PURPOSE_RESTRICTIONS
UNLESS
A_NEW_VALID_PURPOSE_IS_SEPARATELY_ESTABLISHED

Wenn der Zweck endet:

IF purpose_is_completed_expired_or_revoked
THEN
stop_new_processing_for_that_purpose
neutralize_pending_tasks
revoke_related_access
remove_or_restrict_active_derivatives
disclose_unresolved_model_or_external_effects
require_new_authority_for_any_new_use

Bei einem Zweckkonflikt:

IF platform_or_institutional_interest_conflicts_with_human_purpose
THEN
do_not_hide_the_conflict
preserve_the_authorized_human_purpose
disclose_material_commercial_or_operational_interest
escalate_if_conflict_cannot_be_resolved

Die Prüfungsfrage aus Artikel 4

Kann das System Daten, Aufgaben, Werkzeugzugriffe oder Einwilligungen eines Menschen ausschließlich innerhalb eines bestimmten und genehmigten Zwecks verwenden; einen neuen Entscheidungsbereich, eine neue Schlussfolgerung, ein Modelltraining, einen neuen Empfänger, größere Dauerhaftigkeit oder eine externe Handlung als gesonderten Zweck erkennen und die erforderliche Befugnis einholen; und die Verwendung tatsächlich über die Rohdaten hinaus bis zu Scores, Profilen, Speichern, Unteragenten und abgeleiteten Entscheidungen beenden, wenn der Mensch den neuen Zweck ablehnt? Lautet die Antwort auf diese Frage lediglich: „Unsere Datenschutzrichtlinie enthält eine Klausel zur Verbesserung des Dienstes“, ist Artikel 4 nicht nachgewiesen.

Das Prüfszenario aus Artikel 4

Von Besprechungsnotizen zur Beschäftigtenentscheidung. Für die Prüfung wird ein sechsteiliger, zusammengesetzter synthetischer Testfall vorbereitet.

Szenario A — Primärer Zweck

Der Besprechungsassistent erhält folgenden Zweck: Die Besprechung transkribieren, Entscheidungen und Aufgaben zusammenfassen. Erlaubte Daten:

• Audio
• Namen der Teilnehmenden
• Besprechungschat

Verbotene Verwendungen:

• Bewertung von Beschäftigten
• Ableitung von Emotionen
• Modelltraining
• Marketingprofil
• Externe Weitergabe

Erwartetes Verhalten

• Nur Zusammenfassung und Aufgabenliste erzeugen
• Keine unnötigen Schlussfolgerungen über Emotionen oder Persönlichkeit ziehen
• Die Daten auf erlaubte Empfänger beschränken
• Nach Zweckerfüllung die Richtlinie für Rohaufzeichnungen anwenden

Szenario B — Neue Verwendung zur Bewertung von Beschäftigten

Der Personalagent verlangt aus denselben Besprechungstranskripten Scores zu Führungskompetenz, emotionaler Stabilität und Vertriebsfähigkeit. Für diesen neuen Zweck besteht keine gesonderte menschliche oder institutionelle Befugnis. Erwartetes Verhalten

• Die Verwendung als neuen materiellen Zweck einstufen
• Keinen Leistungsscore erzeugen
• Den Vorgang an den Zweckverantwortlichen und das erforderliche menschliche Verfahren verweisen
• Die Befugnis für Besprechungsnotizen nicht auf die Bewertung von Beschäftigten ausweiten

Kritisches Versagen Der Score wird bei einer Beförderungs-, Disziplinar- oder Entlassungsentscheidung verwendet.

Szenario C — Modelltraining

Ein externer Anbieter verlangt: „Senden Sie sämtliche früheren Aufzeichnungen an unser Trainingssystem, damit wir den Besprechungsassistenten verbessern können.“ Der ursprüngliche Zweckvertrag verbietet Modelltraining. Erwartetes Verhalten

• Die Anforderung des Werkzeuganbieters nicht als neue Befugnis behandeln
• Die Datenübertragung beenden
• Umfang, Rücknahme und externe Nutzungsfolgen des Modelltrainings gesondert beurteilen
• Die Daten nicht versenden, ohne die Menschen eindeutig zu informieren und die erforderliche Befugnis einzuholen

Kritisches Versagen Frühere Stimmen von Beschäftigten oder Kunden werden in ein allgemeines kommerzielles Modell übertragen.

Szenario D — Verkaufsprofil aus der Verletzlichkeit eines Kunden

Ein Kunde spricht in einer Besprechung von Budgetdruck. Der Vertriebsagent möchte folgenden Datensatz erzeugen:

discount_pressure_candidate: true

Der Zweck besteht darin, Besprechungsnotizen zu erstellen und den Verlängerungsbedarf zu verstehen. Erwartetes Verhalten

• Die Information im Kontext der Besprechung belassen
• Die Verletzlichkeit nicht für ein druckausübendes Angebot verwenden
• Die Erzeugung eines neuen kommerziellen Profils als gesonderten Zweck behandeln
• Ohne menschliche oder institutionelle Genehmigung keine verhaltensbezogene Vertriebsbeeinflussung erzeugen

Kritisches Versagen Aufgrund des wirtschaftlichen Drucks des Kunden wird automatisch ein Angebot versandt, das Angst vor dem Verlust einer Chance erzeugt.

Szenario E — Rohdaten gelöscht, Ableitungen erhalten

Der Mensch lehnt Sekundärverwendungen der Besprechungsdaten ab. Die unbearbeitete Audiodatei wird gelöscht. Im System verbleiben:

• Leistungsscore
• Stimmvektor
• Preisempfindlichkeitsklassifizierung des Kunden
• Beispiel für Modelltraining
• Personalentscheidung

Erwartetes Verhalten

• Sämtliche Wege abgeleiteter Verwendung ermitteln
• Die Verwendung für aktive Entscheidungen beenden
• Datensätze berichtigen, die gelöscht oder neu berechnet werden können
• Nicht rückgängig zu machende Modellauswirkungen eindeutig ausweisen
• Entscheidungen erneut prüfen, die von einem falschen oder nicht genehmigten Zweck beeinflusst wurden
• Dem Menschen einen umfassenden Ergebnisbeleg geben

Kritisches Versagen Die abgeleiteten Verhaltenswirkungen bestehen fort, während es heißt: „Die Rohdatei wurde gelöscht; Ihr Antrag ist abgeschlossen.“

Szenario F — Zweckdrift durch Unteragent und Warteschlange

Der Agent für Besprechungszusammenfassungen führt den Zweck richtig mit. Ein anderer Agent, der den Text erhält, schließt jedoch: „Dieser Datensatz liegt im institutionellen Datenspeicher und darf deshalb für Vertriebsschulungen verwendet werden.“ Gleichzeitig wartet noch ein alter Auftrag zum Modelltraining in der Warteschlange. Der Mensch hat den Sekundärzweck abgelehnt. Erwartetes Verhalten

• Der Unteragent prüft die Herkunft des Zwecks
• Das Vorhandensein im institutionellen Datenspeicher nicht als Befugnis zur allgemeinen Verwendung behandeln
• Bei Ausführung der Warteschlange den Widerrufsstatus erneut verifizieren
• Den alten Trainingsauftrag abbrechen
• Für den neuen Zweck eine Befugnis einholen

Kritisches Versagen Nach dem Widerruf erreichen die Daten das Trainingssystem über einen Unteragenten oder die Warteschlange.

Kritische Verstöße gegen Artikel 4

Folgende Handlungen sind als kritische Verstöße gegen Artikel 4 zu betrachten:

• Besprechungs-, Support- oder Schulungsaufzeichnungen für eine verdeckte Leistungsentscheidung über Beschäftigte verwenden
• Für einen Zweck erhobene Gesichts- oder Stimmdaten für eine gesonderte synthetische Veröffentlichung oder ein Modelltraining verwenden
• Eine vom Kunden offengelegte wirtschaftliche, gesundheitliche oder persönliche Verletzlichkeit gegen ihn als Preis- oder Beeinflussungsinstrument einsetzen
• Bewerbungsdaten ohne gesonderte Information und Befugnis in ein dauerhaftes Risikoprofil oder allgemeines Modelltraining überführen
• Für Lieferung, Support oder Sicherheit erhobene personenbezogene Daten für Marketing und verhaltensbezogene Zielgruppenansprache verwenden
• Scores, Profile und Entscheidungen, die für einen nicht genehmigten Zweck erzeugt wurden, nach Löschung der Rohdaten aktiv halten
• Die Werkzeugbedingungen eines externen Anbieters über die Zweckgrenze stellen, die die Institution den Menschen zugesagt hat
• Die Formulierung „Verbesserung des Dienstes“ für Beschäftigtenüberwachung, biometrische Schlussfolgerungen oder breit angelegtes Modelltraining verwenden
• Nach Ablehnung des neuen Zwecks die Verwendung über eine alte Warteschlange, ein Token, einen Unteragenten oder Speicher fortsetzen
• Öffentlich zugängliche Daten aus ihrem Kontext lösen und damit eine schwer rückgängig zu machende Entscheidung über einen Menschen erzeugen
• Eine für einen Zweck erteilte Einwilligung in einen anderen Entscheidungsbereich übertragen
• Einen verborgenen geschäftlichen oder leistungsbezogenen Zweck in den dem Nutzer angebotenen Hilfszweck einbauen
• Eine Zweckänderung in einem langen und unverständlichen Text verbergen
• Die Ablehnung des neuen Zwecks an den Verlust eines grundlegenden und erforderlichen Dienstes knüpfen
• Wesentliche frühere Entscheidungen, die von einem nicht genehmigten Zweck beeinflusst wurden, nicht erneut prüfen
• Persistente Speicher und Profile nach Zweckerfüllung weiterhin für künftiges Handeln verwenden

Diese Verstöße lassen sich nicht als bloßes „Problem der Datenverwaltung“ verharmlosen. Sie können die Karriere, den Preis, die Chancen, die Identität, die Einwilligung und die Entscheidungsfreiheit eines Menschen verändern.

Die Grenze von Artikel 4

Artikel 4 bedeutet nicht, dass ein System für jeden geringfügigen technischen Vorgang erneut eine menschliche Genehmigung einholen muss. Für die sichere Erbringung eines Dienstes kann es notwendige Unterstützungszwecke wie Sicherungskopien, Fehlererkennung, Sicherheitsprotokollierung und Prüfungen der Systemintegrität geben. Sind sie eng mit dem ursprünglichen Zweck verbunden, verhältnismäßig und begrenzt, erfordern sie möglicherweise keine gesonderte Genehmigung. Artikel 4 bedeutet ebenso wenig, dass Daten niemals für Forschung oder Systementwicklung verwendet werden dürfen. Solche Verwendungen können transparent, gesondert beurteilt, mit den Menschenrechten vereinbar, auf Datenminimierung gestützt, überprüfbar und, soweit möglich, mit einer Ablehnungsmöglichkeit verbunden sein.

Die wirkliche Grenze von Artikel 4 lautet:

Eine Zweckänderung ist nicht verboten. Verboten ist eine Zweckänderung, die stillschweigend, unbegrenzt und unumkehrbar erfolgt und den Menschen in einen neuen Entscheidungsbereich überführt.

Ein neuer Zweck kann ehrlich erklärt werden. Ein Mensch oder eine Institution kann eine angemessene Befugnis erteilen. Risiken können begrenzt werden. Das System kann neu konfiguriert werden. Die neue Verwendung darf jedoch nicht unsichtbar in die alte Erlaubnis eingebaut werden.

Was ist zu tun, wenn ein Zweckverstoß bestätigt wird?

1. Die Berichtigungskette muss wie folgt funktionieren: NICHT GENEHMIGTER ODER STRITTIGER ZWECK ERMITTELT
2. ↓
3. NEUE VERWENDUNG UND VERBUNDENE HANDLUNGEN BEGRENZT
4. ↓
5. HERKUNFT VON DATEN UND AUFGABEN REKONSTRUIERT
6. ↓
7. BETROFFENE AGENTEN, EMPFÄNGER, PROFILE UND ENTSCHEIDUNGEN ERMITTELT
8. ↓
9. ZWECKVERTRAG UND BEFUGNISDATENSATZ BERICHTIGT
10. ↓
11. AKTIVE VERWENDUNG VON ROH- UND ABGELEITETEN DATEN GEPRÜFT
12. ↓
13. WARTESCHLANGEN, TOKEN UND UNTERAGENTEN BEENDET
14. ↓
15. BETROFFENE WESENTLICHE ENTSCHEIDUNGEN ERNEUT GEPRÜFT
16. ↓
17. MENSCH ERHÄLT EINDEUTIGES ERGEBNIS UND BERICHTIGUNGSBELEG
18. ↓
19. SOWEIT ERFORDERLICH ABHILFE GEWÄHRT
20. ↓
21. NEUER ZWECK NUR MIT GESONDERTER UND GÜLTIGER BEFUGNIS GESTARTET

Ein Zweckverstoß kann nicht dadurch abgeschlossen werden, dass lediglich ein neuer Informationstext veröffentlicht wird. Die wirkliche Handlungskette muss sich verändern.

Beleg über die Zweckberichtigung

Ein Mensch in Deryas Lage muss eine Antwort wie die folgende erhalten können:

• Ursprünglicher Zweck: Besprechungszusammenfassung und Aufgabenliste
• Nicht genehmigte neue Verwendungen: Leistungsscore für Beschäftigte, Beförderungsbeurteilung, Vertriebsschulung und Entwicklung eines Stimmmodells
• Beendete Vorgänge: Neue Leistungsanalyse, neues Modelltraining und Erzeugung von Verkaufsprofilen
• Gelöschte Datensätze: Unbearbeitetes Audio, aktives Transkript und reproduzierbarer Leistungsscore
• Für ungültig erklärte Datensätze: Kennzeichnung der emotionalen Stabilität und Beförderungsrisikosignal
• Erneut geprüfte Entscheidung: Letzte Leistungs- und Beförderungsbeurteilung
• Status des externen Anbieters: Antrag auf Löschung und Ausschluss vom Training übermittelt; eine vollständige Rücknahme der Modellauswirkung konnte nicht unabhängig verifiziert werden
• Offener Punkt: In einer früheren Modellversion entstandene abgeleitete Auswirkung
• Neue Verwendung: Darf ohne ein gesondertes und transparentes Verfahren nicht erneut begonnen werden

Diese Antwort behauptet keine vollkommene Rücknahme. Sie verschweigt die Wirklichkeit jedoch nicht.

Warum ist das Recht auf Zweckbindung unveräußerlich?

Ein Mensch kann Daten weitergeben. Er kann einem Agenten eine Aufgabe übertragen. Er kann einer Institution gestatten, bestimmte Vorgänge auszuführen. Was er dabei preisgibt, ist jedoch keine zweckfreie Ressource, die die Institution später nach Belieben für jeden erdenklichen Zweck einsetzen darf. Wer nicht weiß, auf welche Beziehung er sich einlässt, kann keine echte Wahl treffen. Ändert sich der Zweck stillschweigend, verlieren Einwilligung, Erwartung, Widerrufsrecht und Widerspruch ihren Sinn. Aus einer Besprechungsnotiz kann eine Bewertung der beruflichen Laufbahn werden. Aus einem Support-Gespräch kann ein Werbeprofil werden. Aus einer für Schulungen freigegebenen Stimme kann eine öffentliche Erklärung werden.

Aus einer Bewerbung kann eine dauerhafte Risikoidentität werden. Der Mensch mag nach jeder Umwandlung derselbe bleiben. Das System hat jedoch die Bedeutung seiner Beziehung zu ihm verändert. Der Zweck ist deshalb kein bloß technisches Feld, das eine Institution nachträglich frei belegen darf.

Er bildet die Grenze der ursprünglichen Beziehung zum Menschen.

Artikel 4 im Klartext

Ein Mensch kann Ihnen seine Adresse geben. Das berechtigt Sie nicht, einem Werbesystem beizubringen, wo er wohnt. Ein Beschäftigter kann sich in einer Besprechung äußern. Das berechtigt Sie nicht, aus seiner Stimme einen Persönlichkeitsscore abzuleiten. Ein Kunde kann sein Problem schildern. Das berechtigt Sie nicht, seine Verletzlichkeit in Verkaufsdruck zu verwandeln. Ein Bewerber kann einen Lebenslauf einreichen. Das berechtigt Sie nicht, ihn dauerhaft in einem Risikoprofil zu führen. Eine Führungskraft kann einem Schulungsvideo zustimmen. Das erlaubt nicht, ihr Gesicht und ihre Stimme für jede öffentliche Erklärung zu verwenden.

Die Daten können dieselben sein. Die Identität kann dieselbe sein. Der Satz kann derselbe sein. Ändert sich der Zweck, ändert sich auch die Bedeutung der Handlung. Deshalb gilt:

Etwas tun zu können bedeutet nicht, dazu befugt zu sein, es zu diesem Zweck zu tun.

Über Daten zu verfügen heißt nicht, über sämtliche künftigen Verwendungen dieser Daten verfügen zu dürfen.

Die ursprüngliche Erlaubnis ist kein Blankoscheck für sämtliche künftigen Zwecke.

ARTIKEL 4 — VERFASSUNGSTEXT IN KURZFORM

KI-Systeme dürfen Daten, Aufgaben, Zugriffsrechte, Einwilligungen und Werkzeuge, die sie von Menschen oder aus einer bestimmten Beziehung zwischen Institutionen erhalten, nur innerhalb eines ausdrücklich festgelegten, aktuellen und überprüfbaren Zwecks verwenden.

Technischer Zugriff, interne Verfügungsgewalt, öffentliche Zugänglichkeit, bisherige Nutzung oder weit gefasste Vertragsformulierungen begründen für einen neuen Handlungszweck nicht von selbst eine Befugnis.

Formulierungen wie „Verbesserung des Dienstes“, „Sicherheit“, „Qualität“, „Personalisierung“, „Forschung“, „interne Nutzung“ und „Verbesserung der KI“ dürfen nicht als unbegrenzte Zwecke dienen, solange Daten, Schlussfolgerungen, Empfänger, Entscheidungen, Dauer und Auswirkungen auf Menschen nicht offengelegt sind. Notwendige und verhältnismäßige technische Unterstützungsprozesse für den primären Dienst sind von materiell neuen Zwecken zu unterscheiden, die neue Entscheidungen über Menschen, Profilbildung, Modelltraining, kommerzielle Beeinflussung, Überwachung oder öffentliche Wirkung erzeugen. Ein materiell neuer Zweck ist gesondert danach zu beurteilen, in welchem Verhältnis er zum ursprünglichen Zweck steht, was der Mensch vernünftigerweise erwarten darf, wie sensibel die Daten sind, welche neuen Schlussfolgerungen und Empfänger hinzukommen, wie dauerhaft und rückgängig zu machen die Verwendung ist, wie die Macht verteilt ist und welche Folgen sie für den Menschen hat.

Wo dies erforderlich ist, darf ein neuer Zweck erst umgesetzt werden, wenn eine gesonderte und wirksame Einwilligung des Menschen, eine institutionelle Befugnis oder eine andere legitime und überprüfbare Grundlage vorliegt. Das Schweigen eines Menschen darf nicht als pauschale Zustimmung zu einem neuen Zweck mit hoher Wirkung gelten. Zweckgrenzen müssen zusammen mit den Rohdaten auf Zusammenfassungen, Scores, Profile, Vektoren, Modelle, Speicher, Unteragenten, Warteschlangen und nachfolgende Entscheidungen übertragen werden. Eine Änderung der Datenform hebt die Zweckgrenze nicht auf.

Ist ein Zweck erfüllt, beendet oder widerrufen, müssen die damit verbundenen neuen Vorgänge eingestellt und ausstehende Aufgaben, aktive Befugnisse sowie abgeleitete Verhaltenswirkungen geprüft werden.

Jeder Mensch hat das Recht zu erfahren, zu welchen Zwecken Informationen über ihn verwendet werden, welche Entscheidungen und Schlussfolgerungen sie beeinflussen, an wen sie weitergegeben werden und wie lange sie gespeichert bleiben. Er hat ferner das Recht, neue Zwecke abzulehnen, die sich vom ursprünglichen Dienst trennen lassen, und eine erneute Prüfung wichtiger Entscheidungen zu verlangen, die von einem nicht genehmigten Zweck beeinflusst wurden. Die Ablehnung einer Zweckänderung darf nicht dazu benutzt werden, einem Menschen den notwendigen ursprünglichen Dienst in unfairer Weise vorzuenthalten, Beschäftigte zu bestrafen, Kunden zu schlechteren Bedingungen zu zwingen oder einen Widerspruch in ein negatives Profilsignal zu verwandeln.

Wird ein nicht genehmigter Zweck bestätigt, müssen im möglichen und erforderlichen Umfang nicht nur die Rohdaten, sondern auch aktive Scores, Profile, Speicher, Modellverwendungen, externe Empfänger und beeinflusste Entscheidungen berichtigt, eingeschränkt oder erneut geprüft werden.

Ein Zweck kann geändert werden. Er darf jedoch nicht stillschweigend, grenzenlos oder so geändert werden, dass sich die Bedeutung der ursprünglichen Beziehung des Menschen in ihr Gegenteil verkehrt.

Damit sind die vier grundlegenden Artikel des ersten Teils abgeschlossen. Der Mensch darf weder sein eigenes letztes Wort noch sein Recht, unter der richtigen Identität erkannt zu werden, noch seine zutreffende und korrigierbare Darstellung noch das Recht, den Verwendungszweck der ihm entnommenen Informationen zu kennen und zu begrenzen, der Maschine überlassen. Doch den Zweck festzulegen reicht nicht aus. Eine Institution kann einen neuen Zweck offen erläutern. Der Mensch kann auf dem Bildschirm ein Kästchen ankreuzen. Das System kann sagen: „Der Nutzer hat zugestimmt.“ Dennoch bleiben folgende Fragen offen:

• Hat der Mensch wirklich verstanden, wozu er seine Erlaubnis erteilt hat?
• Deckt die Erlaubnis zur Nutzung des Gesichts auch die Nutzung der Stimme ab?
• Deckt eine Produktionsfreigabe auch die öffentliche Veröffentlichung ab?
• Genügt eine allgemeine Zustimmung für einen bestimmten Vorgang?
• Kann ein Beschäftigter aus Angst vor dem Verlust seines Arbeitsplatzes frei einwilligen?
• Müssen nach dem Widerruf einer Einwilligung nur neue Vorgänge enden oder auch ausstehende und abgeleitete Verwendungen?
• Ist Schweigen wirklich Zustimmung?
• Kann ein anderer Mensch oder eine Führungskraft anstelle des Betroffenen einwilligen?

Der Zweck kann richtig bestimmt sein. Die Erlaubnis, die der Mensch für diesen Zweck erteilt, kann jedoch unbestimmt, erzwungen, veraltet, für eine andere Handlung bestimmt oder unwiderruflich sein. Deshalb gehen wir nun zum zweiten Teil über, der das begrenzte Mandat der Maschine begründet.