LC SEC, консалтингова фірма, що спеціалізується на кібербезпеці та комплаєнсі, попереджає про зростання використання синтетичного контенту в цифрових шахрайствах. Зображення, відео та голоси, створені або маніпульовані штучним інтелектом, стали інтегрованими в стратегії шахрайства, оманливої реклами та дезінформації. У Бразилії поширення неправдивого контенту, створеного за допомогою штучного інтелекту, зросло більш ніж утричі між 2024 і 2025 роками, зі зростанням на 308%, згідно з першою «Панорамою дезінформації в Бразилії», проведеною обсерваторією Lupa, яка відображає тенденції, цілі та основні тактики дезінформації. Цей сценарій також аналізується Національним органом із захисту даних (ANPD) у «Технологічному радарі № 6 – Deepfakes», 163-сторінковому дослідженні, в якому детально описується, як синтетичний контент використовується в різних типах шахрайства та порушень прав.
Одним із питань, що викликають занепокоєння, є використання діпфейків у спонсорованій рекламі та рекламних кампаніях у соціальних мережах. Згідно з документом, злочинці можуть використовувати зображення або голос відомих людей для створення фальшивих пропозицій, просування контенту серед сегментованої аудиторії та спрямування жертв на клоновані веб-сайти або шахрайські платформи, де запитуються платежі або особиста інформація.
Публікація ANPD з'являється в той час, коли активізуються дискусії щодо відповідальності цифрових платформ та необхідності механізмів, здатних зменшити поширення незаконного контенту. У звіті також розглядаються застосування діпфейків, пов'язаних з фінансовими шахрайствами, оманливою рекламою, виборчою дезінформацією, політичним насильством за гендерною ознакою, расизмом та використанням зображень без згоди, що показує, що ризики виходять за рамки сфери кібербезпеки та стосуються питань конфіденційності, репутації та довіри.
Один із бразильських випадків, проаналізованих органом, стосується діпфейків знаменитостей, які використовуються для просування неіснуючих продуктів. Згідно зі звітом, розслідування відповідального угруповання виявило транзакції на суму, що перевищує 20 мільйонів реалів. Бразильське національне управління захисту даних (ANPD) також звертає увагу на здатність цих шахрайств діяти у великих масштабах, з відносно невеликими окремими збитками, які, разом кажучи, можуть генерувати високу прибутковість для злочинців.
ФБР, наприклад, отримало 22 364 скарги, пов'язані з використанням штучного інтелекту в шахрайстві у 2025 році, при цьому скориговані збитки перевищили 893,3 мільйона доларів США. Компанії повідомили про збитки на суму понад 30 мільйонів доларів США, пов'язані з шахрайством з компрометацією корпоративної електронної пошти, в якому використовувався певний компонент ШІ. У «Глобальному огляді кібербезпеки 2026» Всесвітнього економічного форуму зазначено, що 73% респондентів безпосередньо постраждали або знали когось, хто постраждав від цифрового шахрайства у 2025 році, тоді як 87% відчувають збільшення вразливостей, пов'язаних зі ШІ.
На думку Луїса Клаудіо, генерального директора та засновника LC SEC, розвиток діпфейків вимагає від компаній розглядати ідентифікацію та автентифікацію як елементи безпеки, які не можуть залежати виключно від зовнішності чи голосу людини. «Проблема полягає в тому, що традиційні процеси перевірки особи були побудовані за умов, коли голос, зображення та присутність у відеоконференції були відносно надійними сигналами. З розвитком штучного інтелекту ці елементи можна відтворити. Компаніям необхідно створити незалежні механізми підтвердження для критично важливих рішень, особливо коли вони стосуються грошей, доступу до систем або конфіденційної інформації», – стверджує він.
Цифрова реклама та фінансовий сектор є одними з сфер, які найбільше вразливі до цього типу шахрайства. Окрім перевірки походження та авторизації використання зображень і голосів, компаніям необхідно впроваджувати додаткові механізми підтвердження особи в конфіденційних операціях. Ризик став очевидним у справі, пов’язаній з Arup, коли злочинці використовували синтетичні представлення керівників у відеоконференції та переконали співробітника переказати приблизно 25 мільйонів доларів США.
За словами експерта, впровадження додаткових рівнів перевірки є фундаментальним для запобігання використанню синтетичного контенту як єдиної форми автентифікації в конфіденційних операціях. «Організації можуть застосовувати механізми підтвердження через незалежні канали для операцій з підвищеним ризиком. Запити на оплату, зміни банківських реквізитів, обмін документами або надання доступу можуть вимагати другої перевірки через раніше відомий канал, на додаток до подвійного схвалення, розподілу обов’язків, надійної автентифікації та журналів аудиту. Поєднання цих елементів контролю зменшує ймовірність того, що одного синтетичного представлення буде достатньо для авторизації критичної дії», – підкреслює Луїс Клаудіо.
Укази № 12 975 та № 12 976, опубліковані у травні 2026 року, розширили компетенції ANPD щодо управління, прозорості, запобігання шахрайству та незаконного контенту на платформах. У виборчому середовищі Резолюція TSE № 23 755/2026 також встановила правила використання синтетичного контенту в рекламі, включаючи вимоги до ідентифікації та обмеження на використання зображень та голосів кандидатів та публічних діячів.
За словами Луїса Клаудіо, боротьба з діпфейками вимагає стратегії захисту, яка поєднує технології, внутрішні процеси та обізнаність співробітників. «Технологія створення синтетичного контенту швидко розвивається, і нереально покладатися на один інструмент для виявлення всіх діпфейків. Захист має бути розподілений між людьми, процесами та технологіями. Коли компанія встановлює чіткі правила для прийняття конфіденційних рішень, контролює зловживання своїм брендом і готує співробітників до відповідей на запити поза звичними каналами, це створює ще один рівень захисту від такого типу шахрайства», – підсумовує він.
