Прямой ответ
Для каждого внешнего компонента запишите поставщика, продукт, версию, цель, переданные данные, полученный результат, разрешения, зависимости и ответственного владельца. Организация сохраняет видимой собственную ответственность за выбор и настройку сервиса, передачу данных, использование результата в решении или публикации и наблюдение за проблемами. Ответственность поставщика отдельно фиксируют в договоре, технической документации, объёме услуги и применимом праве. Фраза «это сделал поставщик» не является матрицей ответственности.
Простыми словами
Представьте арендованную кухню. Владелец печи может отвечать за неисправное оборудование, но вы по-прежнему отвечаете за выбранные продукты, способ приготовления и блюдо, поданное гостю. Внешний инструмент не выносит каждое решение за пределы вашей организации.
Почему это важно
Изменение одного поставщика в цепочке может поменять потоки данных, поведение модели, безопасность или смысл результата. Без перечня зависимостей и плана выхода организация может не понять, какой компонент отвечает за проблему, и не суметь безопасно продолжить услугу.
Не путать
- Поставщик предоставляет продукт; внедряющая или использующая организация применяет его к конкретной цели.
- Технический оператор, владелец решения и юридически ответственная сторона не всегда совпадают.
- Набор данных, базовая модель, дообучение, API, плагин и инфраструктурная услуга — отдельные элементы поставки.
- Распределение ответственности в договоре не обязательно снимает все обязанности перед затронутыми людьми.
- Доступность сервиса не доказывает его безопасность или пригодность для конкретного применения.
Что делать
- Учтите на уровне версий каждую модель, набор данных, API, плагин, инструмент и инфраструктурную зависимость.
- Для каждого компонента назначьте владельцев бизнеса, техники, данных, решения и инцидента.
- До покупки или интеграции изучите доказательства безопасности, приватности, происхождения данных, ограничений и поддержки.
- Минимизируйте данные и полномочия инструментов; не давайте поставщику лишний доступ.
- Требуйте уведомление и повторное тестирование при смене версии, сбое, инциденте с данными или существенном изменении условий.
- Сохраняйте трассировки, связывающие запросы, ответы, версии модели, вызовы инструментов и события поставщика.
- Подготовьте и испытайте переносимость данных, альтернативный сервис, откат и безопасный выход при смене или утрате поставщика.
Как проверить
- Известны ли все сторонние компоненты и их вложенные зависимости?
- Назван ли внутри организации ответственный человек за каждый риск и решение?
- Проверено ли заявление поставщика независимыми или иными уместными доказательствами?
- Понятно ли зафиксированы использование данных, хранение, субподрядчики и ограничения?
- Можно ли обнаружить тихую смену версии или конфигурации?
- Работают ли условия доступа к записям, уведомления, сотрудничества и отката во время инцидента?
- Проверен ли план выхода на реальных данных и зависимостях?
Ограничение
Правовой статус и обязанности сторон зависят от страны, отрасли, договора, типа данных и фактического контроля. Публичная документация поставщика может не раскрывать каждую зависимость или риск конкретно получаемой услуги.
Запомните одной фразой
Внешний компонент использовать можно; заставить ответственность исчезнуть — нельзя.
Источники этой записи
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*Стандарты
- S38NIST AI 600-1, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile*Добровольное институциональное руководство в области стандартов
- S41NCSC и агентства-партнеры, *Руководства по разработке безопасной системы ИИ*Официальное руководство по безопасности для различных ведомств
- S43NIST SP 800-161 Rev. 1 Update 1, *Cybersecurity Supply Chain Risk Management Practices for Systems and Organizations*Добровольное институциональное руководство в области стандартов
- S44NIST, * AI Risk Management Framework Playbook* и AI RMF CoreНаправления по добровольному осуществлению
- S47NIST, *Privacy Framework 1.0: A Tool for Improving Privacy through Enterprise Risk Management*Добровольная структура риска для конфиденциальности