Прямой ответ
Эффективное объяснение сначала называет точное решение и его последствия для человека. Затем оно показывает роли ИИ и людей, существенные использованные данные и их источник, а также правила, пороги и неопределённость, повлиявшие на итог. Должны быть ясны недостающие или исправимые сведения и путь оспаривания. Фраза «Так рассчитал алгоритм» не объясняет причину результата.
Простыми словами
При отказе по заявлению фраза «Система признала вас не соответствующим требованиям» бесполезна. Нужно знать, какие сведения посчитали неверными или недостающими, какое правило применили и что можно исправить либо оспорить.
Почему это важно
Без существенной причины человек не может исправить неверные данные, представить противоположное доказательство или содержательно оспорить решение. Красивый, но не относящийся к делу рассказ создаёт только видимость прозрачности.
Не путать
- Общее объяснение описывает работу модели в целом; объяснение решения — конкретный итог.
- Объяснение данных указывает использованные сведения; объяснение факторов показывает их влияние.
- Объяснение сообщает основания, но не делает решение автоматически верным или законным.
- Раскрытие предоставляет сведения; объяснение для оспаривания должно позволять действовать.
- Конфиденциальные или чувствительные для безопасности сведения можно защищать, но существенную причину нельзя скрыть полностью.
Что делать
- Укажите идентификатор, дату, область, последствия решения и действует ли оно.
- Разделите роли системы ИИ, человека-проверяющего и принимающего окончательное решение.
- Назовите существенные данные, источник, дату и способ сопоставления с человеком.
- Объясните факторы, правила, пороги и противоположные доказательства, повлиявшие на итог.
- Покажите неопределённость, недостающие сведения и границы объяснения.
- Укажите исправимые данные, принимаемые новые доказательства, срок и защищённый путь оспаривания.
- Сверьте объяснение с фактической записью решения и проверьте понятность для адресата.
Как проверить
- Понимает ли человек, какое решение и последствие к нему относятся?
- Верно ли описаны границы ролей ИИ и человека?
- Видны ли существенные данные, источник, дата и сопоставление сущности?
- Объяснены ли реально повлиявшие факторы и правила?
- Не выдано ли общее описание модели за объяснение конкретного решения?
- Знает ли человек, что исправить и куда подать возражение?
- Не использованы ли конфиденциальность или коммерческая тайна для полного сокрытия причины?
Ограничение
Объём требуемого объяснения зависит от юрисдикции, типа решения и риска. Безопасность, права третьих лиц и юридическая тайна могут ограничивать детали. Само наличие объяснения не доказывает точность, справедливость или правовое соответствие.
Запомните одной фразой
Объяснение, которое нельзя использовать для оспаривания, лишь создаёт видимость информирования.
Источники этой записи
- S35W3C, *PROV-O: The PROV Ontology*Стандарты
- S45Европейский Союз, Регламент (ЕС) 2024/1689 <unk> *Закон об искусственном интеллекте*Законодательство
- S48Европейский Союз, Регламент (ЕС) 2016/679 <unk> *Общий регламент о защите данных*Законодательство
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Добровольная институциональная база, ориентированная на стандарты
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)Международная конвенция и официальное учреждение
- S62European Data Protection Board, *Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679*Официальное руководство совета