Безопасность данных при работе с AI-агентами – тема, которую откладывают на потом, а вспоминают после инцидента. Разумнее продумать её до запуска: агент по определению получает доступ к вашим данным, и от того, как этот доступ устроен, зависит очень многое.
Речь не о паранойе, а о нескольких понятных мерах, которые закрывают большинство рисков и стоят на старте недорого. Пройдёмся по ним по порядку.
Шаг 1. Минимизируйте передаваемые данные
Агенту нужно ровно столько данных, сколько требует задача, и не больше. Не отправляйте в модель лишние поля, документы и персональные данные, если они не нужны для результата.
Это самый простой и недооценённый принцип. Чем меньше чувствительных данных проходит через агента, тем меньше поверхность риска. Прежде чем дать доступ, спросите по каждому полю: действительно ли оно нужно для этой задачи.
Шаг 2. Настройте доступы по минимуму
Давайте агенту права только на то, что входит в его задачу. Доступ «на всякий случай ко всему» – это готовая брешь.
Отдельные ограниченные доступы безопаснее одного универсального ключа ко всем системам. Если агент работает с заявками, ему не нужен доступ к бухгалтерии или кадровым данным. Разделяйте права по задачам.
Шаг 3. Определите, где обрабатываются данные
Принципиальный вопрос: остаются ли данные в контуре, который вы контролируете, или уходят во внешний сервис. Для чувствительных и персональных данных это ключевой критерий выбора решения.
В России к этому добавляется вопрос соответствия закону о персональных данных (152-ФЗ). Здесь важно свериться с актуальными требованиями и вашим юристом, а не полагаться на общие слова из статьи: регулирование в этой области меняется, и трактовать его должен специалист под вашу ситуацию.
Шаг 4. Обезличивайте, где возможно
Там, где для задачи не нужны реальные имена и контакты, данные стоит обезличивать. Агент выполнит работу и на обезличенных данных, а риск в случае утечки будет ниже.
Например, для анализа причин потерь сделок агенту важна суть диалогов и этапы, а не паспортные данные клиента. Уберите лишнее до того, как данные уйдут в обработку.
Шаг 5. Ведите логи и контроль
Фиксируйте, к каким данным агент обращался и что делал. Логи нужны и для разбора инцидентов, и просто чтобы понимать поведение агента.
Без логов вы не сможете ни доказать, что всё в порядке, ни разобраться, если что-то пошло не так. Прозрачность действий агента – это и безопасность, и управляемость одновременно.
Шаг 6. Ставьте подтверждения на важных действиях
Любое действие с последствиями (отправка данных наружу, изменение записей, сообщение клиенту от лица компании) стоит проводить через подтверждение человека.
Это защищает сразу от двух вещей: от технической ошибки агента и от нежелательного действия с чувствительными данными. Чем серьёзнее последствие, тем меньше автономии на этом шаге.
Шаг 7. Закрепите правила с подрядчиком
Если агента делает или обслуживает внешняя команда, зафиксируйте в договоре, как хранятся и обрабатываются данные, кто имеет к ним доступ и что происходит с данными при завершении работы.
Устные договорённости о безопасности не стоят ничего. Всё, что касается доступа к вашим данным, должно быть на бумаге, с понятной ответственностью сторон.
Отдельно про выбор модели
Для чувствительных данных значимо, работаете ли вы с моделью в контролируемом контуре или с внешним сервисом. Российские модели (например, GigaChat от Сбера и YandexGPT от Яндекса) часто выбирают именно из соображений размещения данных внутри страны.
При этом конкретные условия, лимиты и доступность функций у всех решений меняются. Их нужно проверять на момент внедрения по официальным источникам, а не полагаться на память или прошлогодние статьи. Общий принцип остаётся: чем чувствительнее данные, тем важнее контроль над тем, где именно они обрабатываются.
Подводные камни
Что чаще всего подводит на практике:
- агенту дают доступ «ко всему сразу», чтобы не возиться с настройкой прав;
- вопрос «где обрабатываются данные» откладывают до первого инцидента;
- нет логов, и разобрать инцидент потом невозможно;
- договор с подрядчиком не описывает работу с данными;
- меры настроили один раз и забыли, хотя процессы и доступы со временем меняются.
Поэтому безопасность данных при работе с AI-агентами обеспечивается не одной галочкой, а набором простых правил: меньше данных, меньше прав, ясное место обработки, обезличивание, логи и подтверждения. Продумайте их до запуска и пересматривайте по мере изменений – и агент останется помощником, который возвращает деньги, а не источником нового дорогого риска.