ИИ в периметре безопасности компании: баланс возможностей и рисков

Искусственный интеллект стремительно проникает в бизнес‑процессы, предлагая новые возможности для повышения эффективности. Однако вместе с преимуществами ИИ создаёт и новые угрозы безопасности. Разберём плюсы и минусы использования ИИ с точки зрения защиты данных компании.

Плюсы использования ИИ в бизнесе

ИИ действительно помогает автоматизировать рутинные задачи:

• написание и редактирование текстов;
• анализ и корректировка договоров;
• поиск ошибок в коде;
• обработка больших массивов данных;
• ускорение принятия решений за счёт аналитики.

Эти возможности экономят время сотрудников и снижают нагрузку на специалистов.

Минусы и риски: ИИ как канал утечек данных

В 2025 году объём утечек данных российских компаний через публичные ИИ‑сервисы вырос в десятки раз по сравнению с предыдущим годом. И главная причина — не хакерские атаки, а действия самих сотрудников.

Типичные сценарии утечек:

• менеджер загружает договор в ChatGPT или аналогичный сервис для быстрого редактирования;
• разработчик отправляет фрагмент кода в нейросеть для поиска ошибки;
• аналитик загружает таблицу с клиентской базой для «улучшения формулировок».

Результаты анализа трафика 150 компаний показали тревожную картину:

• около 80 % организаций не имеют формальных правил работы с ИИ;
• отсутствует контроль за тем, какие данные и в каком объёме передаются нейросетям;
• сотрудники не осведомлены о рисках использования публичных ИИ‑сервисов для обработки конфиденциальной информации.

• данные, загруженные в публичные ИИ‑сервисы, могут стать доступными третьим лицам;
• нейросети обучаются на загружаемых данных — конфиденциальная информация может попасть в обучающие выборки;
• некоторые сервисы сохраняют историю запросов, создавая дополнительные риски;
• утечки происходят незаметно — сотрудники часто не осознают, что передают конфиденциальные данные.

Подобные инциденты фиксировались и за рубежом: в публичном доступе оказывались служебные документы, исходный код, внутренние переписки.

Новые законодательные инициативы: усиление контроля

Параллельно с ростом рисков государство принимает меры по усилению кибербезопасности. Госдума в первом чтении приняла второй пакет мер против кибермошенничества. Основные положения:
 
1. Единый реестр IMEI
Номер телефона будет жёстко привязан к конкретному устройству, что усложнит использование подменных номеров.
 
2. Детские SIM‑карты  
Родители смогут ограничивать контент и снижать риск вовлечения детей в мошеннические схемы.
 
3. Ограничение количества номеров и карт 
Не более 10 абонентских номеров и 20 банковских карт на человека — мера против создания фиктивных аккаунтов.
 
4. Ужесточение доступа к «Госуслугам»
Восстановление учётной записи будет возможно только через: МФЦ, банки, биометрию, другие доверенные механизмы.
 
5. Ускорение блокировки фишинговых сайтов 
Внесудебная блокировка опасных ресурсов позволит быстрее реагировать на угрозы.

Текущая ситуация и выводы

На сегодняшний день складывается парадоксальная картина:

• сотрудники активно используют ИИ‑сервисы для ускорения работы, передавая им конфиденциальные данные;
• компании зачастую не имеют регламентов по работе с ИИ;
• государство усиливает контроль, вводит реестры, лимиты и новые правила.

Цифровая среда становится жёстче, а уровень ответственности — выше.

Рекомендации для бизнеса

Чтобы минимизировать риски при использовании ИИ, компаниям необходимо:
 
1. Разработать регламенты работы с ИИ 

• определить, какие типы данных можно передавать в нейросети;
• запретить загрузку конфиденциальной и коммерческой информации;
• утвердить список разрешённых корпоративных ИИ‑инструментов.

2. Провести обучение сотрудников  

• объяснить риски использования публичных ИИ‑сервисов;
• обучить работе с корпоративными ИИ‑решениями;
• регулярно напоминать о правилах информационной безопасности.

3. Внедрить технические меры контроля

• настроить DLP‑системы для отслеживания передачи данных;
• ограничить доступ к публичным ИИ‑сервисам на рабочих устройствах;
• использовать корпоративные ИИ‑платформы с гарантированной конфиденциальностью.

4. Мониторить изменения законодательства  

• Следить за новыми требованиями и адаптировать внутренние процессы под них.

Заключение

ИИ — не зло, а мощный инструмент. Опасность представляет отсутствие чётких правил его использования. Если компания не выстраивает собственные контуры безопасности и регламенты работы с ИИ, за неё это сделают внешние факторы — законодательство и последствия утечек.
Предупреждён — значит вооружён. Инвестируйте в безопасность сегодня, чтобы избежать потерь завтра. Берегите данные — берегите бизнес!

Опубликованный материал (текст и фото) предоставлен
Группой предприятий безопасности «НикСон».