Искусственный интеллект (ИИ) стремительно меняет рабочие процессы: от автоматизации рутинных задач до построения сложных прогнозных моделей, обещая бизнесу скорость, автоматизацию и новые возможности аналитики. Но когда в работу с ИИ попадают персональные данные, «быстрее» не всегда значит «безопаснее».
Обработка ПДн в связке с ИИ — это не просто «загрузили данные в модель», а целый комплекс юридических и технических решений, где цена ошибки может быть очень высокой: штрафы, репутационные потери и судебные споры.
В статье разберём, как связаны обработка персональных данных и технологии ИИ, какие типичные ошибки допускают компании при внедрении ИИинструментов и на что обязательно нужно обратить внимание, чтобы выстроить процесс безопасно и в соответствии с требованиями закона.
Почему любой ИИ-ассистент фактически втягивает вас в 152-ФЗ?
Любая система, работающая с естественным языком, почти неизбежно сталкивается с ПДн. Данные загружаются в системы ИИ, структурируются, передаются в дата-центры, а затем используются для генерации моделей и их обучения.
Даже если намеренно не загружать в ИИ ПДн, то риск непреднамеренного получения ПДн сохраняется: Пользователи всё равно вводят ФИО, телефоны, даже если написано «не вводите».
Юридически это делает компанию оператором ПДн со всеми требованиями: локализация в РФ, шифрование, ролевой доступ, уведомление Роскомнадзора.
Главный парадокс: автоматизировать можно гораздо больше, чем сейчас делается, но компании боятся выходить за пилоты из-за риска проверок, штрафов и неустоявшейся практики применения.
Разберем основные ошибки и риски при использовании ИИ в работе с ПДн.
Ошибки при использовании ИИ:
1. Использование ИИ-сервисов без чётких правил и контроля.
Нерегламентированная работа с ИИ — это ошибки и нарушения со стороны работников.
Например, сотрудники могут загрузить в нейросети рабочие документы с ПДн без понимания последствий. Это приводит к утечке, нарушению защиты ПДн и коммерческой тайны, а также к юридическим последствиям.
2. Недостаточный контроль за «теневым ИИ».
«Теневой ИИ» — это несанкционированное использование сотрудниками публичных или коммерческих ИИ-инструментов (например, ChatGPT, Claude, Gemini) в корпоративной среде.
Это создаёт риски утечки, а также нарушения корпоративной политики и нормативных требований.
3. Передача ПДн без правовых оснований.
Передача ПДн во внешние ИИ-сервисы – это передача 3 лицам. Без надлежащего правового основания это будет нарушением. Обработка ПДн допускается только при наличии законного основания — согласия на обработку ПДн или в рамках прямо предусмотренных законом случаев (ч. 1 ст. 6 152-ФЗ).
4. Очень важный аспект — Автоматизация принятия решений.
Закон прямо запрещает принимать полностью автоматизированные решения с юридическими последствиями без:
- Согласия в письменной форме или наличия соответствующих положений в федеральных законах, устанавливающих также меры по обеспечению соблюдения прав и законных интересов субъекта персональных данных.
Согласие в письменной форме несложно подготовить в Конструкторе согласий сервиса 152DOC на основании конкретной цели обработки ПДн, введенной в ЛНА компании. Это позволит не упустить новую цель обработки ПДн с использованием ИИ и правильно сформировать не только согласие, но и внутренние документы и Уведомление в РКН. - Разъяснения субъекту порядка принятия автоматизированного решения, возможных юридических последствий такого решения, а также порядка защиты субъектом своих прав и законных интересов.
- Предоставления возможности заявить возражения против такого решения (рассматривается оператором в течение 30 дней).
Примеры недопустимых автоматизированных решений:
- Отказ клиенту в услуге или кредите;
- Блокировка аккаунта;
- Автоматический отбор кандидатов при трудоустройстве.
ИИ — только система поддержки принятия решений. Во всех случаях должен сохраняться человеческий контроль и возможность пересмотра решения.
5. Трансграничная передача с нарушением правил.
Актуально при использовании облачных ИИ-сервисов, где данные передаются оператору, который может находиться в иностранной юрисдикции. Это создаёт риск нарушения требований о трансграничной передаче данных (отсутствие уведомления РКН, непроведение оценки иностранного контрагента).
6. Неправильное обезличивание данных.
Современные ИИ-системы способны восстанавливать личности даже из фрагментов информации, которая формально считалась обезличенной. Грубое маскирование данных (например, замена ФИО на «***») может привести к утрате причинно-следственных связей, снижению точности анализа и искажению результатов.
Важно не просто удалять идентифицирующие атрибуты, но и учитывать, что ИИ может восстанавливать данные по косвенным признакам.
Напомним возможные законные варианты обезличивания:
- Обезличивание в «ГосОзере».
Правовое основание обезличивания: требование уполномоченного органа для формирования составов данных, полученных в результате обезличивания, в соответствии с п. 9.1 ч. 1 ст. 6 152-ФЗ.
Методы, требования, правила обезличивания утверждены ПП РФ № 1154.
- Обезличивание по инициативе оператора (статистика и др.).
Правовое основание обезличивания: ч. 1 ст. 6 152-ФЗ, за исключением п. 9.1 ч. 1 ст. 6 152-ФЗ.
Методы, требования установлены в Приказе РКН № 140.
7. Нарушение требований локализации данных.
Если компания использует зарубежные ИИ-сервисы, облачные платформы или внешние аналитические инструменты, и данные обрабатываются через иностранные дата-центры, это может привести к нарушению требований локализации и штрафам до 6 000 000 рублей.
Помимо ошибок существуют и определенные риски в работе с ИИ, например:
1. Дискриминация и предвзятость алгоритмов.
Алгоритмы машинного обучения могут наследовать искажения, присутствующие в данных обучения. Например, если модель обучалась на данных, где преобладали резюме мужчин, она может отдавать предпочтение мужчинам при отборе кандидатов.
2. Отсутствие прозрачности и объяснимости алгоритмов.
Многие ИИ-системы работают как «чёрные ящики», что затрудняет понимание того, как принимаются решения. Это усложняет контроль за обработкой данных и привлечение систем к ответственности.
С учетом требований закона, возможных рисков и ошибок в настоящее время можно выделить три допустимые архитектуры для безопасного внедрения ИИ:
- Локальные модели (on-premise): нейросеть работает на вашем сервере или компьютере, данные не покидают контролируемый контур. Идеально для юристов, бухгалтеров, кадровиков — данные остаются внутри.
- Обезличенные данные для обучения: использование государственных датасетов («ГосОзеро»).
- Защищенное облако российского провайдера: облачная инфраструктура с аттестацией. Данные не передаются за границу, что закрывает вопрос локализации.
При внедрении ИИ обязательно нужно учесть следующие моменты:
- Начать с инвентаризации данных — где ПДн, какие системы участвуют, какова цель обработки и какие данные нужны для обучения ИИ.
- Обязательно зафиксировать цели обработки ПДн с использованием ИИ в локальных актах (прежде всего в Политике в отношении обработки ПДн) и в Уведомлении в РКН.
Зафиксировать цели обработки ПДн с помощью с ИИ в локальных документах удобно с помощью сервиса 152DOC.
Принимая работу с ИИ, вы самостоятельно решаете: будет это у вас отдельная ИСПДн или ИИ будет базой данных в уже существующих ИСПДн.
!!! С 1 сентября 2026 года должен вступить в силу проект нового приказа ФСТЭК России, который заменит действующий приказ №21 от 2013 года по защите персональных данных, в связи с чем потребуется актуализация ряда локальных актов в связи с использованием ИИ, в частности:
- Модель угроз безопасности ПДн: она должна включать угрозы, специфичные для ИИ.
- Инструкции пользователей: необходимо дополнить правилами кибергигиены при работе с генеративным ИИ (запрет на ввод конфиденциальной информации и ПДн в публичные чат-боты).
- Регламент реагирования на инциденты (Инструкция по управлению событиями информационной безопасности): обязательное включение сценариев инцидентов, связанных со сбоем или непредсказуемым поведением ИИ-моделей («галлюцинации», ведущие к раскрытию данных).
!!! Также потребуется разработать новый документ: Правила безопасного использования ИИ-систем, регламентирующие порядок тестирования, ввода в эксплуатацию и мониторинга моделей, использующих ПДн.
Для пользователей сервиса 152DOC мы обязательно расширим комплект ОРД с учетом новых требований ФСТЭК и актуализируем имеющиеся шаблоны документов, уведомим об обновлениях и необходимости внесения изменений.
- Выбрать архитектуру: локальная, защищенное облако РФ или обезличивание. Заложить в бюджет не только модель, но защищенный контур, логирование и комплаенс.
- Внедрить технические меры защиты, такие как шифрование данных, анонимизация, контроль доступа.
-
Получить согласие на обработку ПДн для обучения ИИ, если модель будет учиться на ПДн, а также предусмотреть способы отзыва и работу с ними. В согласии на обработку ПДн нужно обязательно указать:
- Цель обработки (например, автоматизированная обработка ПДн для обучения алгоритмов и моделей ИИ).
- Категории обрабатываемых ПДн, необходимых для обучения ИИ.
- Иные сведения по ч. 4 ст. 9 152-ФЗ.
Важно также предусмотреть риск того, что пользователь пришлет ПДн, которые не просят или ошибочно загрузит больше данных (в том числе, специальные) и сделать об этом оговорку в согласии. - Проектировать ИИ как ассистента, а не замену человека. Обеспечить человеческий контроль за критическими решениями, принимаемыми с помощью ИИ.
- Документировать работу с ИИ: фиксировать, какие данные были загружены, какой запрос задан, как проверялся результат.
- Проводить обучение сотрудников по вопросам безопасности при работе с ИИ.
В целом, отметим, что практический подход к внедрению ИИ с ПДн строится на трёх принципах: «минимум данных», «понятные основания» и «контроль маршрутов». Это значит: передавать в ИИ только те данные, без которых задача не решается, чётко фиксировать, зачем и на каком основании это делается, и не допускать «слепых» передач во внешние сервисы.
Если в компании уже выстроена работа с ПДн: есть Политика обработки и иные внутренние регламенты (с этим успешно помогает справиться сервис 152DOC), разработана система защиты, составлены договоры с подрядчиками (оформлено поручение или внесены положения о работе с ПДн), то останется скорректировать документы с учетом новых требований ФСТЭК, а не разрабатывать их заново.
Таким образом, интеграция ИИ – это прежде всего задача защищенной настройки, усиления контроля и четкая регламентация документами. Не откладывайте оценку рисков и следите за развитием законодательства в данной сфере: лучше выявить уязвимые места заранее, чем разбираться с последствиями позже.