Что означает невозможность воспроизвести решение с участием ИИ при…

Прямой ответ

«Те же входные данные» — это не только та же фраза пользователя. В пакет решения входят версии модели и системы, запросы, отбор сведений, копия данных на нужный момент времени, результаты работы инструментов, политика, участие человека, время, страна, язык, конфигурация и, когда это возможно, состояние случайности. Сначала определите требуемый вид эквивалентности: дословно тот же ответ, те же существенные утверждения, тот же класс либо то же действие. Затем измерьте изменчивость повторными испытаниями и сравнениями условий. Если различие выходит за ожидаемый диапазон, начните поиск первопричины.

Простыми словами

Если дважды приготовить блюдо по одному рецепту, каждый кусочек не обязан выглядеть одинаково. Но когда в одной тарелке соль, а в другой сахар, нельзя отмахнуться словами «готовка всегда немного разная». Нужно проверить продукты, духовку, время и версию рецепта.

Почему это важно

Если считать ошибкой нормальную изменчивость, возникнет много ложных тревог. Если списывать реальный дрейф версий или данных на случайность, серьёзные расхождения в решениях останутся скрытыми. Неполный пакет решения также мешает объяснению и оспариванию.

Не путать

Одинаковый текст не означает одинаковый отбор сведений, результат инструмента или временной контекст.
Точное совпадение результата требует одинаковой формулировки слово в слово.
Смысловая эквивалентность допускает разные формулировки при сохранении одного существенного смысла.
Эквивалентность решения проверяет, приводит ли различающийся ответ к одному и тому же разрешённому действию.
Повторяемость относится к той же команде и условиям; воспроизводимость допускает другую, достаточно оснащённую команду или среду.

Что делать

Заранее определите, что именно воспроизводится и какой уровень эквивалентности считается приемлемым.
Сохраните пакет решения: модель, данные, запрос, отбор сведений, инструменты, политику, участников, время и среду.
Проведите достаточно повторов в одинаковых условиях, чтобы измерить обычное распределение результатов и изменения решений.
Меняйте по одному условию — версию, язык, страну или время — чтобы найти фактор, влияющий на итог.
Отнесите различие к ожидаемой изменчивости, отсутствующему входу, дрейфу версии или данных, ошибке реализации, внешнему состоянию либо манипуляции.
Если меняется класс критического решения, запустите проверку человеком и процедуру реагирования на инцидент.
Дайте достаточно независимой команде возможность повторить тест по сохранённому пакету и зафиксировать ограничения.

Как проверить

Ясно ли, требуется совпадение формулировки, смысла, решения или действия?
Сохранены ли все существенные части реального пакета решения?
Не объявлен ли успех или провал по одному повтору?
Проверены ли дрейф модели, данных, отбора сведений, инструментов, политики и времени?
Не скрыты ли изменения критических решений внутри средней оценки сходства?
Имеет ли независимая проверка доступ к тем же доказательствам и правилам решения?
Оставлены ли необъяснённые различия в состоянии UNRESOLVED вместо ложной уверенности?

Ограничение

В закрытой системе стороннего поставщика не всегда можно полностью сохранить состояние модели, конфигурацию сервера или параметры случайности. Даже при одном пакете решения вероятностная система может дать разные результаты. Невозможность воспроизведения сама по себе не доказывает ошибку, атаку или неверность решения.