LC SEC, консултантска фирма специјализирана за сајбер безбедност и усогласеност, предупредува на зголемената употреба на синтетичка содржина во дигиталните измами. Сликите, видеата и гласовите произведени или манипулирани од вештачка интелигенција станаа интегрирани во стратегиите за измама, измамничко рекламирање и дезинформации. Во Бразил, ширењето на лажна содржина создадена со вештачка интелигенција се зголеми за повеќе од трипати помеѓу 2024 и 2025 година, со раст од 308%, според првата Панорама на дезинформации во Бразил, од страна на опсерваторијата Лупа, која ги мапира трендовите, целите и главните тактики на дезинформации. Ова сценарио е анализирано и од Националниот орган за заштита на податоци (ANPD) во Технолошкиот радар бр. 6 – Deepfakes, студија од 163 страници во која се детално опишани како синтетичката содржина се користи во различни видови измами и кршења на правата.
Една од точките на загриженост што ги истакнува органот е употребата на „deepfakes“ во спонзорирани реклами и засилени кампањи на социјалните медиуми. Според документот, криминалците можат да ја користат сликата или гласот на добро познати луѓе за да креираат лажни понуди, да промовираат содржина на сегментирана публика и да ги насочуваат жртвите кон клонирани веб-страници или измамнички платформи каде што се бараат плаќања или лични информации.
Објавувањето на ANPD доаѓа во време на унапредување на дискусиите за одговорностите на дигиталните платформи и потребата од механизми способни да го намалат циркулацијата на нелегална содржина. Извештајот, исто така, се осврнува на примената на „deepfakes“ поврзани со финансиски измами, заведувачко рекламирање, изборни дезинформации, политичко насилство базирано на пол, расизам и употреба на слики без согласност, покажувајќи дека ризиците одат подалеку од полето на сајбер безбедноста и допираат до прашања поврзани со приватноста, угледот и довербата.
Еден од бразилските случаи анализирани од органот вклучува „deepfakes“ на познати личности што се користат за промовирање на непостоечки производи. Според извештајот, истрагата на одговорната банда идентификуваше трансакции што надминуваат 20 милиони рандиски долари. Бразилскиот Национален орган за заштита на податоци (ANPD), исто така, го привлекува вниманието кон способноста на овие измами да работат на голем обем, со релативно мали индивидуални загуби кои, кога ќе се соберат заедно, можат да генерираат висока профитабилност за криминалците.
ФБИ, на пример, прими 22.364 жалби поврзани со употребата на вештачка интелигенција во измами во 2025 година, со прилагодени загуби што надминуваат 893,3 милиони американски долари. Компаниите пријавија загуби од над 30 милиони американски долари поврзани со измами со компромитирање на корпоративни е-пошта кои користеле некоја компонента на вештачката интелигенција. Глобалниот преглед на сајбер безбедноста за 2026 година на Светскиот економски форум покажува дека 73% од испитаниците биле директно погодени или познавале некого погоден од дигитална измама во 2025 година, додека 87% забележале зголемување на ранливостите поврзани со вештачката интелигенција.
За Луиз Клаудио, извршен директор и основач на LC SEC, напредокот на длабоките лажни информации бара од компаниите да го третираат идентитетот и автентикацијата како безбедносни елементи кои не можат да зависат само од изгледот или гласот на лицето. „Проблемот е што традиционалните процеси за валидација на идентитетот беа изградени во сценарио каде гласот, сликата и присуството на видеоконференција беа релативно сигурни сигнали. Со еволуцијата на вештачката интелигенција, овие елементи можат да се репродуцираат. Компаниите треба да создадат независни механизми за потврда за критични одлуки, особено кога тие вклучуваат пари, пристап до системи или чувствителни информации“, наведува тој.
Дигиталното рекламирање и финансискиот сектор се меѓу областите најизложени на овој вид измама. Покрај проверката на потеклото и овластувањето за употреба на слики и гласови, компаниите треба да усвојат дополнителни механизми за потврда на идентитетот во чувствителните операции. Ризикот стана очигледен во случајот со Аруп, кога криминалците користеа синтетички претстави на раководители на видеоконференција и убедија вработен да префрли приближно 25 милиони американски долари.
Според експертот, усвојувањето на дополнителни слоеви на верификација е фундаментално за да се спречи синтетичката содржина да се користи како единствена форма на автентикација во чувствителни операции. „Организациите можат да усвојат механизми за потврда преку независни канали за операции со повисок ризик. Барањата за плаќање, промените на банкарските податоци, споделувањето документи или одобрувањето пристап може да бараат втора валидација преку претходно познат канал, покрај двојното одобрување, сегрегацијата на должностите, силната автентикација и логовите за ревизија. Комбинацијата на овие контроли ја намалува можноста дека едно синтетичко претставување ќе биде доволно за да се овласти критична акција“, нагласува Луиз Клаудио.
Уредбите бр. 12.975 и бр. 12.976, објавени во мај 2026 година, ги проширија надлежностите на ANPD во однос на управувањето, транспарентноста, спречувањето на измами и нелегалната содржина на платформите. Во изборната средина, Резолуцијата бр. 23.755/2026 на TSE, исто така, воспостави правила за употреба на синтетичка содржина во рекламирањето, вклучувајќи барања за идентификација и ограничувања за употреба на слики и гласови на кандидати и јавни личности.
Според Луиз Клаудио, борбата против длабоките лажни содржини бара стратегија за заштита што ги комбинира технологијата, внатрешните процеси и свеста на вработените. „Технологијата за генерирање синтетичка содржина брзо се развива и нереално е да се потпираме на една алатка за идентификување на сите длабоки лаги. Заштитата треба да се дистрибуира меѓу луѓето, процесите и технологијата. Кога компанијата воспоставува јасни правила за чувствителни одлуки, ја следи злоупотребата на својот бренд и ги подготвува вработените да ги преиспитуваат барањата надвор од вообичаените канали, таа создава уште еден слој на заштита од овој вид измама“, заклучува тој.
