Как защищать персональные и чувствительные данные, коммерческие тайны и учётные данные в запросах, извлечении, памяти и цепочках инструментов?

Простыми словами

Представьте ключ от дома. Если вы однажды дали его доверенному человеку, это не значит, что фотографию ключа нужно вклеить в каждую тетрадь. Чем больше копий сведений, тем труднее контролировать, обновлять и удалять их.

Почему это важно

Лишние копии повышают риск утечки, неразрешённого повторного использования, сопоставления не с тем человеком и неполного удаления. Ответ модели может быть правильным, хотя для него использовали конфиденциальные данные, которые вовсе не были нужны.

Не путать

• Персональные данные относятся к определённому или определяемому человеку; точный правовой охват зависит от юрисдикции.
• Чувствительные или специальные категории требуют усиленной защиты из-за возможного вреда.
• Коммерческая тайна или учётные данные могут не быть персональными, но всё равно требуют строгой защиты.
• Доступ к данным для извлечения не означает разрешения повторно использовать их для обучения.
• Журналирование, кеширование, хранение памяти и экспорт — отдельные операции обработки.

Что делать

1. Учтите каждый путь и каждую копию данных от запроса до вывода инструмента.
2. Для каждого поля задайте цель, владельца, разрешённые роли, срок хранения и маршрут удаления.
3. Удаляйте лишние поля до сбора; где возможно, применяйте маскирование, редактирование или псевдонимы.
4. Передавайте пароли, API-ключи и подобные секреты во время выполнения через защищённый менеджер секретов, а не вставляйте их в запрос.
5. Ограничивайте доступ к извлечению, памяти, инструментам и журналам событий принципом наименьших полномочий и подробным журналированием.
6. Проверяйте условия хранения, обучения, передачи и удаления для данных, отправляемых внешнему поставщику.
7. Проверяйте удаление или ограничение не только в основной записи, но и в производных копиях и нижестоящих системах.

Как проверить

• Какие данные, в какую систему и какому поставщику передаются и ради какой цели?
• Нет ли в запросе лишних персональных, чувствительных или конфиденциальных полей?
• Учтены ли отдельно извлечение, память, векторные записи, журналы событий и кеши?
• Ограничены ли доступ и секреты минимальными полномочиями задачи?
• Если данные повторно используются для обучения или улучшения продукта, записаны ли основание и границы?
• Можно ли по окончании срока подтвердить удаление всех относящихся копий?
• Есть ли процесс реагирования и уведомления при нарушении или неправомерном раскрытии?