01 Простыми словами
Директор получает голосовое сообщение с просьбой срочно перевести деньги — и голос звучит один в один как его собственный. Так выглядит дипфейк: синтезированное видео или голос, который подделывает тембр или лицо реального человека настолько похоже, что отличить подделку на слух или на глаз трудно. Злоумышленник использует такую подделку, чтобы выдать себя за реального руководителя или коллегу и получить доверие, которое обычная текстовая переписка от незнакомого адресата вызывает намного слабее.
02 Как это работает
Для убедительного дипфейка голоса или видео обычно нужен небольшой объём настоящих записей нужного человека — несколько минут голоса или несколько секунд видео из публичного выступления, интервью или старого созвона.
- Модель обучается на этих записях и учится воспроизводить тембр голоса или мимику лица конкретного человека.
- Злоумышленник вводит нужный текст или снимает собственное видео — модель заменяет голос или лицо на подделанное.
- Готовый ролик или аудио отправляют жертве в контексте, который создаёт срочность и мешает проверить подлинность обычным способом — например, звонком по привычному номеру.
Голосовые дипфейки в реальном времени во время телефонного звонка требуют более сложных моделей, чем заранее подготовленное аудио, — задержка и качество связи здесь работают против злоумышленника и часто выдают подделку внимательному собеседнику. Текстовые мошеннические письма распознать проще — стиль и грамматика выдают подделку, а голос и видео обходят эту защиту напрямую, апеллируя к узнаванию на слух и на глаз.
03 Где применяется
- Финансы. Голосовое сообщение якобы от директора требует срочно перевести деньги на новый счёт в обход обычного порядка согласования.
- IT-безопасность. Видеозвонок с подделанным лицом руководителя просит сотрудника службы поддержки сбросить пароль или выдать доступ.
- HR. Поддельная запись голоса сотрудника используется для давления при увольнении или в трудовом споре.
- PR и репутация. Поддельное видео с публичным лицом компании распространяется, чтобы навредить репутации бренда.
- Продажи и переговоры. Поддельный голос партнёра по сделке используется для получения преждевременного согласия на невыгодные условия.
- Слияния и поглощения. Поддельная видео-встреча якобы с владельцем актива используется, чтобы ускорить проверку сделки без должной осторожности.
04 Один день финансового директора
9:15. Финансовый директор компании начинает обычный рабочий день — согласовывает плановые платежи по счетам поставщиков, ничего необычного.
11:40. Приходит голосовое сообщение в мессенджере, судя по голосу — от генерального директора, который сейчас в командировке. Просьба: срочно перевести крупную сумму на счёт нового партнёра, само соглашение подпишут по возвращении.
11:45. Голос звучит убедительно, интонации и характерные словечки на месте. Финансовый директор уже почти открывает форму перевода, но привычка сверяться останавливает — он пишет тому же собеседнику в обычном мессенджере, где переписка велась годами: «подтверди текстом».
12:10. Ответа в мессенджере нет минут двадцать, хотя обычно директор отвечает почти сразу. Финансовый директор звонит на заранее сохранённый в контактах номер вместо того, с которого пришло голосовое, — трубку берёт настоящий генеральный директор: он сейчас на совещании без связи, а голосовое сообщение слышит от финансового директора впервые.
12:30. Перевод отменяют, о попытке сообщают в службу безопасности и рассылают короткое предупреждение остальным сотрудникам с правом подписи платежей.
16:00. Итог дня: голосовое сообщение собрали из публичного интервью директора и записи конференции — обеих записей в открытом доступе оказалось достаточно, чтобы воспроизвести узнаваемый тембр. Компания вводит обязательное правило второго канала подтверждения для любого перевода вне обычного порядка согласования.
05 Ограничения
- Технология быстро дешевеет и упрощается — то, что вчера требовало студии и специалиста, сегодня доступно почти любому через готовый сервис.
- Тренировка сотрудников на распознавание подобных сценариев работает надёжнее любой технической детекции — фильтры для обнаружения дипфейков сами пока отстают от качества генерации.
- Люди переоценивают собственную способность отличить подделку на слух — интуитивная уверенность здесь обманчивее, чем кажется.
- Часть защиты можно формализовать через guardrails в самом процессе согласования платежей и обязательную HITL-проверку для любой суммы выше установленного порога.
Как нейросеть помогает распознавать мошеннические заявления на практике — в статье про проверку страховых заявлений на мошенничество. Как обучить команду распознавать такие риски — в разделе про обучение сотрудников работе с ИИ.