Прямой ответ
Безопасная остановка — документированный процесс, который быстро прерывает конкретный риск и одновременно ограничивает ненужный вред. С самого начала запишите причину, охват, ответственного за инцидент, временную безопасную услугу, доказательства, которые нужно сохранить, и условия перезапуска. Возвращайте систему не просто потому, что её можно включить, а после устранения первопричины, прохождения необходимых тестов и одобрения уполномоченного человека.
Простыми словами
Представьте серьёзный предупреждающий сигнал в автомобиле. Съехать с дороги — правильный первый шаг. Оставить машину там навсегда — не управление безопасностью; выключить лампу и ехать без проверки — тоже. Нужно найти неисправность, дать временную замену, проверить ремонт и контролируемо вернуть машину в движение.
Почему это важно
Слишком поздняя остановка усиливает вред. Несоразмерная или бессрочная остановка может лишить людей услуг и прав и превратиться в скрытый отказ. Перезапуск без доказательств способен повторить тот же инцидент.
Не путать
- Остановка прекращает рискованную операцию; ограничение затрагивает только заданные функции или пользователей.
- Карантин отделяет подозрительные данные, модель, инструмент или соединение от остальных компонентов.
- Откат возвращает проверенное прежнее состояние, но не обязательно устраняет первопричину.
- Перезапуск — не нажатие кнопки, а прохождение определённых условий безопасности.
- Окончательный вывод из эксплуатации — отдельное мотивированное решение жизненного цикла, а не временная аварийная остановка.
Что делать
- Запишите идентификатор инцидента, причину, время, охват остановки и лицо, принявшее решение.
- Остановите только необходимые для контроля риска компоненты и не расширяйте влияние без причины.
- Где возможно, обеспечьте проверку человеком, доступ только для чтения или услугу меньшего риска.
- Неизменно сохраните записи инцидента, версии модели и данных, запросы, ответы и трассировки инструментов.
- Зафиксируйте первопричину, ответственного за устранение, срок и условия перезапуска.
- Для возврата системы высокого риска получите одобрение уполномоченного лица, не являющегося исполнителем изменения.
- Возвращайте услугу поэтапно с живым мониторингом, планом отката и порогом повторной остановки.
Как проверить
- Обоснованы ли остановка и её охват конкретным риском?
- Рассмотрены ли безопасная альтернатива и непрерывность услуги?
- Сохранены ли доказательства инцидента с защитой целостности?
- Отличена ли первопричина от видимого симптома?
- Были ли условия перезапуска проверяемыми и заданными заранее?
- Есть ли требуемое одобрение человека, разделение обязанностей и путь оспаривания?
- Проверены ли действующий результат и готовность отката при поэтапном возврате?
Ограничение
При реальной и непосредственной опасности систему можно остановить до завершения предварительной проверки. Эта запись не устанавливает один срок, уровень одобрения или правовую процедуру для всех отраслей; реакцию следует сужать с учётом риска, архитектуры, договора, регулирования и затронутых людей.
Запомните одной фразой
Аварийная остановка пресекает вред; доказательства открывают путь к безопасному возврату.
Источники этой записи
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*Стандарты
- S38NIST AI 600-1, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile*Добровольное институциональное руководство в области стандартов
- S41NCSC и агентства-партнеры, *Руководства по разработке безопасной системы ИИ*Официальное руководство по безопасности для различных ведомств
- S42NIST SP 800-61 Rev. 3, *Incident Response Recommendations and Considerations for Cybersecurity Risk Management*Добровольное институциональное руководство в области стандартов
- S44NIST, * AI Risk Management Framework Playbook* и AI RMF CoreНаправления по добровольному осуществлению

