LC SEC, консултантска фирма, специализирана в киберсигурността и съответствието, предупреждава за нарастващото използване на синтетично съдържание в дигитални измами. Изображения, видеоклипове и гласове, създадени или манипулирани от изкуствен интелект, са се интегрирали в стратегии за измами, подвеждаща реклама и дезинформация. В Бразилия разпространението на невярно съдържание, създадено с изкуствен интелект, се е увеличило повече от три пъти между 2024 и 2025 г., с ръст от 308%, според първата Панорама на дезинформацията в Бразилия, изготвена от Обсерваторията Lupa, която картографира тенденциите, целите и основните тактики на дезинформацията. Този сценарий е анализиран и от Националния орган за защита на данните (ANPD) в „Технологичен радар № 6 – Deepfakes“, 163-странично проучване, в което се описва подробно как синтетичното съдържание се използва в различни видове измами и нарушения на права.
Един от проблемите, подчертани от органа, е използването на deepfakes (дълбоки фалшиви съобщения) в спонсорирани реклами и кампании в социалните медии. Според документа, престъпниците могат да използват образа или гласа на известни хора, за да създават фалшиви оферти, да промотират съдържание пред сегментирани аудитории и да насочват жертвите към клонирани уебсайтове или измамни платформи, където се изискват плащания или лична информация.
Публикацията на ANPD идва във време на напредващи дискусии относно отговорностите на цифровите платформи и необходимостта от механизми, способни да намалят разпространението на незаконно съдържание. Докладът разглежда и приложенията на deepfakes, свързани с финансови измами, подвеждаща реклама, дезинформация по време на избори, политическо насилие, основано на пола, расизъм и използване на изображения без съгласие, показвайки, че рисковете надхвърлят областта на киберсигурността и достигат до въпроси, свързани с поверителността, репутацията и доверието.
Един от бразилските случаи, анализирани от органа, включва deepfakes на известни личности, използвани за промотиране на несъществуващи продукти. Според доклада, разследването на отговорната банда е установило транзакции, надхвърлящи 20 милиона бразилски долара. Бразилският национален орган за защита на данните (ANPD) също така обръща внимание на способността на тези измами да действат в голям мащаб, с относително малки индивидуални загуби, които, когато се сумират, могат да генерират висока печалба за престъпниците.
ФБР, например, е получило 22 364 жалби, свързани с използването на изкуствен интелект при измами през 2025 г., като коригираните загуби надхвърлят 893,3 милиона щатски долара. Компаниите съобщават за загуби от над 30 милиона щатски долара, свързани с измами с компрометиране на корпоративни имейли, които са използвали някакъв компонент на изкуствен интелект. Глобалните перспективи за киберсигурност за 2026 г. на Световния икономически форум показват, че 73% от анкетираните са били пряко засегнати или познават някого, засегнат от цифрови измами през 2025 г., докато 87% са възприели увеличение на уязвимостите, свързани с изкуствения интелект.
За Луис Клаудио, главен изпълнителен директор и основател на LC SEC, напредъкът на дийпфейковете изисква от компаниите да третират самоличността и удостоверяването като елементи на сигурност, които не могат да зависят единствено от външния вид или гласа на човек. „Проблемът е, че традиционните процеси за валидиране на самоличността са изградени в сценарий, при който гласът, изображението и присъствието във видеоконференция са относително надеждни сигнали. С развитието на изкуствения интелект тези елементи могат да бъдат възпроизведени. Компаниите трябва да създадат независими механизми за потвърждение за критични решения, особено когато те включват пари, достъп до системи или чувствителна информация“, заявява той.
Дигиталната реклама и финансовият сектор са сред областите, най-изложени на този вид измама. В допълнение към проверката на произхода и разрешението за използване на изображения и гласове, компаниите трябва да въведат допълнителни механизми за потвърждение на самоличността в чувствителни операции. Рискът стана очевиден в случай, включващ Arup, когато престъпници използваха синтетични представяния на ръководители във видеоконференция и убедиха служител да преведе приблизително 25 милиона щатски долара.
Според експерта, приемането на допълнителни слоеве на проверка е от основно значение, за да се предотврати използването на синтетично съдържание като единствена форма на удостоверяване в чувствителни операции. „Организациите могат да възприемат механизми за потвърждение чрез независими канали за операции с по-висок риск. Заявките за плащане, промените в банковите данни, споделянето на документи или предоставянето на достъп може да изискват второ валидиране чрез предварително известен канал, в допълнение към двойно одобрение, разделяне на задълженията, силно удостоверяване и регистрационни файлове за одит. Комбинацията от тези контроли намалява възможността едно единствено синтетично представяне да е достатъчно за разрешаване на критично действие“, подчертава Луис Клаудио.
Укази № 12 975 и № 12 976, публикувани през май 2026 г., разшириха компетенциите на ANPD по отношение на управлението, прозрачността, предотвратяването на измами и незаконното съдържание в платформите. В избирателната среда Резолюция № 23 755/2026 на TSE също така установи правила за използването на синтетично съдържание в рекламата, включително изисквания за идентификация и ограничения за използването на изображения и гласове на кандидати и публични личности.
Според Луис Клаудиоборбата с дийпфейковете изисква стратегия за защита, която съчетава технологии, вътрешни процеси и осведоменост на служителите. „Технологията за генериране на синтетично съдържание се развива бързо и е нереалистично да се разчита на един-единствен инструмент за идентифициране на всички дийпфейкове. Защитата трябва да бъде разпределена между хора, процеси и технологии. Когато една компания установи ясни правила за чувствителни решения, следи злоупотребата с марката си и подготвя служителите да задават въпроси извън обичайните канали, тя създава още един слой защита срещу този вид измама“, заключава той.
