Менеджер вставляет переписку с клиентом в ChatGPT, чтобы быстро составить ответ или расшифровать созвон. Занимает минуту, экономит время — и на этом мысль обычно останавливается. По факту в этот момент имя клиента, номер телефона и детали сделки уходят на сервер компании, с которой у вас нет ни договора, ни понимания, что там происходит дальше с этими данными. Мы уже разбирали юридическую сторону вопроса — обязанности оператора персональных данных. Здесь про другое: что физически происходит с данными, независимо от того, в какой стране вы работаете и какой закон на вас распространяется.

Бесплатный ИИ — не значит приватный

У личных аккаунтов ChatGPT — и бесплатных, и платных персональных — обучение модели на переписке включено по умолчанию. Отключить можно в настройках, но по умолчанию любая фраза, которую сотрудник туда вставил, может использоваться для тренировки будущих версий модели. Даже если отключить эту опцию, данные всё равно хранятся какое-то время для проверки на нарушения — они никуда не исчезают мгновенно. У корпоративных тарифов, которые компания официально покупает на организацию, правило обратное — данные по умолчанию не идут на обучение. Проблема в том, что быстрый пилот почти всегда стартует с личного бесплатного аккаунта конкретного сотрудника, а не с корпоративного контракта. Именно там и концентрируется риск — не потому что модель плохая, а потому что тариф не тот.

Невидимая утечка: сотрудники решают сами, никого не спросив

Сотрудники не ждут разрешения — если инструмент ускоряет работу, им начинают пользоваться явочным порядком, без ведома владельца. Переводчик договора, черновик письма клиенту, расшифровка звонка — всё это удобно закинуть в первый попавшийся чат-бот, и рабочая переписка с реальными именами и цифрами утекает туда, куда никто специально не разрешал.

Показательный случай — Samsung в 2023 году: за 20 дней сотрудники трижды вставили в ChatGPT закрытый исходный код и внутренние материалы компании, после чего компания временно запретила сотрудникам использовать генеративный ИИ на рабочих устройствах. У Samsung есть служба безопасности, бюджет и регламенты. У малого бизнеса, где ИИ подключили в прошлом месяце, ничего из этого обычно нет — а риск тот же самый, просто без страховки в виде ресурсов крупной компании.

Слабое звено — не модель, а подрядчик вокруг неё

Когда бота собирают в конструкторе без программирования и подключают к CRM или телефонии, данные клиента физически проходят через инфраструктуру компании, которая этот конструктор сделала, — ещё до того, как долетят до самой ИИ-модели. На старте почти никто не задаёт этой компании простые вопросы: где хранятся данные, сколько времени, кто внутри неё имеет к ним доступ, что происходит при утечке на её стороне. Скорость запуска обычно означает, что этот разговор просто не случился — бота включили, как только он заработал технически.

Доступ внутри компании шире, чем нужно задаче

Ассистенту для удобства настройки часто дают доступ ко всей базе клиентов сразу, хотя конкретная задача требует доступа к её маленькому куску. Переписки бота с клиентами — с именами, телефонами и деталями сделок — копятся без ограничения срока, потому что удалять старое — не тот пункт, который вспоминают при запуске. А скриншоты переписки бота с клиентом, отправленные в общий чат для разбора «почему он так ответил», расходятся дальше, чем предполагалось изначально.

Что с этим делать

  1. Для реальных данных клиентов — только корпоративный тариф ИИ-инструмента. Личный бесплатный аккаунт сотрудника для рабочей переписки с клиентами не подходит, даже временно, даже «пока тестируем».
  2. Одно короткое правило для команды до того, как появится стихийная практика: какие данные можно вставлять в ИИ-чат, а какие нет — конкретно, с примерами, а не общей фразой «будьте осторожны».
  3. Перед подключением бота к CRM спросите у подрядчика прямо, где физически хранятся данные и сколько, кто к ним имеет доступ и что он делает при инциденте на своей стороне — до подключения, не после.
  4. Ограничьте доступ ассистента объёмом, который реально нужен задаче, и заведите правило регулярно удалять старые переписки бота с клиентами, а не хранить их бесконечно «на всякий случай».

Ни один из этих пунктов не требует отказываться от ИИ-инструментов — они всё так же экономят часы в неделю. Требуется только не пускать подключение на самотёк в первую неделю, когда правил ещё нет, а привычка уже формируется. Расскажите на разборе за 30 минут, какими ИИ-инструментами и как сейчас пользуется ваша команда — покажем, где в этой связке физически рискуют осесть данные клиентов и что закрыть в первую очередь.