LC SEC, специализирующаяся на кибербезопасности и соблюдении нормативных требований, предупреждает о растущем использовании синтетического контента в цифровых мошенничествах. Изображения, видео и голоса, созданные или обработанные искусственным интеллектом, стали неотъемлемой частью стратегий мошенничества, обманчивой рекламы и дезинформации. В Бразилии распространение ложного контента, созданного с помощью ИИ, увеличилось более чем в три раза в период с 2024 по 2025 год, достигнув роста в 308%, согласно первому исследованию «Панорама дезинформации в Бразилии», проведенному обсерваторией Lupa, которое отслеживает тенденции, цели и основные тактики дезинформации. Этот сценарий также анализируется Национальным управлением по защите данных (ANPD) в исследовании «Технологический радар № 6 – Дипфейки», представляющем собой 163-страничный документ, подробно описывающий использование синтетического контента в различных видах мошенничества и нарушениях прав человека.
Одним из поводов для беспокойства, отмеченных ведомством, является использование дипфейков в спонсируемой рекламе и рекламных кампаниях в социальных сетях. Согласно документу, преступники могут использовать изображения или голоса известных людей для создания поддельных предложений, продвижения контента для сегментированной аудитории и перенаправления жертв на клонированные веб-сайты или мошеннические платформы, где запрашиваются платежи или личная информация.
Публикация ANPD выходит в период активных дискуссий об ответственности цифровых платформ и необходимости механизмов, способных сократить распространение незаконного контента. В отчете также рассматриваются случаи применения дипфейков, связанные с финансовыми махинациями, вводящей в заблуждение рекламой, дезинформацией на выборах, политическим насилием на гендерной почве, расизмом и несанкционированным использованием изображений, показывая, что риски выходят за рамки кибербезопасности и затрагивают вопросы конфиденциальности, репутации и доверия.
Один из бразильских случаев, проанализированных ведомством, связан с использованием дипфейков знаменитостей для продвижения несуществующих товаров. Согласно отчету, расследование в отношении ответственной за это группировки выявило транзакции на сумму более 20 миллионов реалов. Бразильское национальное управление по защите данных (ANPD) также обращает внимание на способность этих мошеннических схем действовать в больших масштабах, при этом относительно небольшие индивидуальные убытки, в совокупности, могут приносить преступникам высокую прибыль.
Например, ФБР получило 22 364 жалобы, связанных с использованием искусственного интеллекта в мошенничестве в 2025 году, при этом скорректированные убытки превысили 893,3 миллиона долларов США. Компании сообщили об убытках в размере более 30 миллионов долларов США, связанных с мошенничеством с использованием корпоративной электронной почты, в котором использовались компоненты ИИ. В докладе Всемирного экономического форума «Глобальный прогноз кибербезопасности на 2026 год» указывается, что 73% респондентов непосредственно пострадали или знали кого-то, кто пострадал от цифрового мошенничества в 2025 году, а 87% отметили увеличение уязвимостей, связанных с ИИ.
По мнению Луиса Клаудио, генерального директора и основателя LC SEC, развитие дипфейков требует от компаний рассматривать идентификацию и аутентификацию как элементы безопасности, которые не могут зависеть исключительно от внешности или голоса человека. «Проблема в том, что традиционные процессы проверки личности были построены на сценарии, где голос, изображение и присутствие в видеоконференции были относительно надежными сигналами. С развитием искусственного интеллекта эти элементы могут быть воспроизведены. Компаниям необходимо создавать независимые механизмы подтверждения для принятия важных решений, особенно когда они касаются денег, доступа к системам или конфиденциальной информации», — заявляет он.
Цифровая реклама и финансовый сектор входят в число областей, наиболее подверженных этому типу мошенничества. В дополнение к проверке происхождения и разрешения на использование изображений и голосов, компаниям необходимо внедрять дополнительные механизмы подтверждения личности в конфиденциальных операциях. Риск стал очевиден в случае с компанией Arup, когда преступники использовали синтетические изображения руководителей в видеоконференции и убедили сотрудника перевести около 25 миллионов долларов США.
По словам эксперта, внедрение дополнительных уровней проверки имеет фундаментальное значение для предотвращения использования синтетического контента в качестве единственного способа аутентификации в конфиденциальных операциях. «Организации могут использовать механизмы подтверждения через независимые каналы для операций с повышенным риском. Запросы на оплату, изменения банковских реквизитов, обмен документами или предоставление доступа могут потребовать второй проверки через ранее известный канал, помимо двойного подтверждения, разделения обязанностей, надежной аутентификации и журналов аудита. Сочетание этих мер контроля снижает вероятность того, что одного синтетического изображения будет достаточно для авторизации критически важного действия», — подчеркивает Луис Клаудио.
Указы № 12975 и № 12976, опубликованные в мае 2026 года, расширили компетенции ANPD в отношении управления, прозрачности, предотвращения мошенничества и незаконного контента на платформах. В избирательной сфере резолюция TSE № 23755/2026 также установила правила использования синтетического контента в рекламе, включая требования к идентификации и ограничения на использование изображений и голосов кандидатов и общественных деятелей.
По словам Луиса Клаудио, борьба с дипфейками требует стратегии защиты, которая сочетает в себе технологии, внутренние процессы и осведомленность сотрудников. «Технологии генерации синтетического контента быстро развиваются, и полагаться на один инструмент для выявления всех дипфейков нереалистично. Защита должна быть распределена между людьми, процессами и технологиями. Когда компания устанавливает четкие правила для принятия важных решений, отслеживает неправомерное использование своего бренда и готовит сотрудников к тому, чтобы задавать вопросы вне обычных каналов, она создает дополнительный уровень защиты от этого вида мошенничества», — заключает он.
