Wie ist zu unterscheiden, ob ein KI-Agent für sich selbst, für eine Person oder für eine Organisation handelt?

Einfach erklärt

Ein Assistent kann einen E-Mail-Entwurf vorbereiten, ihn in Ihrem Namen senden oder eine genehmigte Mitteilung über die Supportadresse des Unternehmens versenden. In allen drei Fällen führt der Assistent die Arbeit aus; die genutzte Befugnis und die daraus folgende Verantwortlichkeit sind jedoch nicht gleich.

Warum ist das wichtig?

Die Verwechslung des Akteurs mit der repräsentierten Person erzeugt eine falsche menschliche Urheberschaft, unbegrenzte Delegation und eine Möglichkeit, organisatorische Verantwortung hinter einem Agenten zu verbergen.

Nicht verwechseln

• Technischer Akteur: die Identität, die die Handlung im System ausführt.
• Repräsentiertes Subjekt: die Person oder Organisation, in deren Namen gehandelt wird.
• Befugnisgeber: die Partei, die Delegation oder Organisationsauftrag festlegt.
• Verantwortliche Partei: die Partei, die organisatorische oder rechtliche Verantwortung für das Ergebnis trägt.

Was ist zu tun?

1. Erfassen Sie bei jeder Handlung Akteur, Subjekt, Organisation, Initiator, Genehmigenden und verantwortliche Partei getrennt.
2. Bestimmen Sie Umfang, Ziel, Werkzeuge, Dauer und Widerrufsbedingungen der Delegation.
3. Befugen Sie Entwurf, Versand, Unterzeichnung und Zahlung als getrennte Handlungen.
4. Verhindern Sie, dass ein Agent seine eigene Befugnis erweitert.
5. Geben Sie in einer Multi-Agenten-Kette jedem Unteragenten nur die benötigte Befugnis.
6. Erklären Sie externen Nutzenden die KI-Interaktion und den Organisationsstatus des Agenten ohne Irreführung.

Wie wird geprüft?

• Unterscheidet Token oder Protokoll zwischen Akteur und Subjekt?
• War die Person berechtigt, die Befugnis zu erteilen?
• Bleibt die Handlung innerhalb von Umfang und Dauer der Delegation?
• Gibt es einen Organisationsauftrag und einen menschlichen Sponsor?
• Hat der Agent Entwurfsbefugnis wie Versandbefugnis verwendet?
• Wurde die Identität des Agenten oder der Organisation gegenüber Nutzenden irreführend dargestellt?