Прямой ответ
Сначала зафиксируйте версию, цель, охват и существенное влияние изменения. Затем определите, какие классы прежних решений могли измениться с точки зрения идентичности, данных, доказательств, полномочий, объяснения, безопасности, справедливости, правовых последствий или связанных действий в нижестоящих системах. Где возможно, измерьте влияние на выборке и в сравнительных тестах. Для критических результатов и решений, которые продолжают действовать, проведите целевой пересмотр. Новая версия не исправляет прошлое автоматически, а новое правило не делает прежнее решение автоматически ошибочным.
Простыми словами
После исправления программы весов не обязательно заново взвешивать каждую коробку за прошлый год. Но если выяснилось, что старые весы систематически занижали определённый диапазон, важные решения, основанные на этих измерениях, нужно проверить.
Почему это важно
Повторный разбор всех прошлых решений без разбора создаёт несоразмерные затраты. Полный отказ от пересмотра позволяет известной ошибке и дальше влиять на людей и системы.
Не путать
- Смена версии — техническое событие; существенное влияние требует отдельного доказательства.
- Исправление, внесённое сегодня, само по себе не меняет прежнее решение.
- Историческую точность оценивают по сведениям и правилам того времени; текущую действительность — по сегодняшнему состоянию.
- Ретроспективный анализ влияния выявляет группу риска; повторное рассмотрение заново решает конкретный случай.
- Продолжающееся действие означает, что прежнее решение и сегодня вызывает последствия для человека или системы.
Что делать
- Сопоставьте изменённые модель, данные, запрос, политику, инструмент и конфигурацию с предыдущей версией поле за полем.
- В пакете изменения зафиксируйте его цель, причину, ответственного, дату и ожидаемое влияние на решения.
- Определите затронутые типы решений, периоды, группы людей, сущности и связанные последующие результаты.
- Сравните старую и новую версии на представительных случаях при одном и том же пакете решения.
- Начните целевой пересмотр при критической ошибке, подмене лица, продолжающемся вреде или правовом основании.
- Исправьте пересмотренные решения и передайте результат во все затронутые системы.
- Обоснованно зафиксируйте область, признанную незатронутой, исключения и оставшуюся неопределённость.
Как проверить
- Зафиксированы ли все изменённые компоненты и их версии?
- Не признано ли изменение несущественным без проверки влияния?
- Определены ли затронутые периоды, решения, люди и нижестоящие системы?
- Сравнивались ли старая и новая версии в одинаковых условиях?
- Пересмотрены ли критические решения с продолжающимися последствиями?
- Не перезаписала ли новая версия исторические записи без следа?
- Есть ли доказательства исправленного результата в действующей системе и его распространения?
Ограничение
Ретроспективный пересмотр и правовое действие прежнего решения зависят от окончательности решения, прав участников, договоров, отрасли и юрисдикции. Одного технического изменения недостаточно, чтобы автоматически открыть заново или признать недействительными все прошлые решения.
Запомните одной фразой
Обновление системы не исправляет прошлое автоматически.
Источники этой записи
- S35W3C, *PROV-O: The PROV Ontology*Стандарты
- S38NIST AI 600-1, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile*Добровольное институциональное руководство в области стандартов
- S41NCSC и агентства-партнеры, *Руководства по разработке безопасной системы ИИ*Официальное руководство по безопасности для различных ведомств
- S44NIST, * AI Risk Management Framework Playbook* и AI RMF CoreНаправления по добровольному осуществлению
- S45Европейский Союз, Регламент (ЕС) 2024/1689 <unk> *Закон об искусственном интеллекте*Законодательство
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Добровольная институциональная база, ориентированная на стандарты