LC SEC, firmë konsulence e specializuar në sigurinë kibernetike dhe pajtueshmërinë, paralajmëron për përdorimin në rritje të përmbajtjes sintetike në mashtrimet dixhitale. Imazhet, videot dhe zërat e prodhuar ose të manipuluar nga inteligjenca artificiale janë integruar në strategjitë për mashtrim, reklamim mashtrues dhe dezinformim. Në Brazil, përhapja e përmbajtjes së rreme të krijuar me IA është më shumë se trefishuar midis viteve 2024 dhe 2025, me një rritje prej 308%, sipas Panoramës së parë të Dezinformimit në Brazil, nga Observatori Lupa, i cili hartëzon trendet, objektivat dhe taktikat kryesore të dezinformimit. Ky skenar analizohet gjithashtu nga Autoriteti Kombëtar i Mbrojtjes së të Dhënave (ANPD) në Radarin Teknologjik Nr. 6 – Deepfakes, një studim prej 163 faqesh që detajon se si përmbajtja sintetike po përdoret në lloje të ndryshme mashtrimesh dhe shkeljesh të të drejtave.
Një nga pikat shqetësuese të theksuara nga autoriteti është përdorimi i deepfakes në reklamat e sponsorizuara dhe fushatat e nxitura në mediat sociale. Sipas dokumentit, kriminelët mund të përdorin imazhin ose zërin e njerëzve të njohur për të krijuar oferta të rreme, për të promovuar përmbajtje për audienca të segmentuara dhe për t'i drejtuar viktimat në faqet e internetit të klonuara ose platforma mashtruese ku kërkohen pagesa ose informacione personale.
Publikimi i ANPD vjen në një kohë të avancimit të diskutimeve rreth përgjegjësive të platformave dixhitale dhe nevojës për mekanizma të aftë për të zvogëluar qarkullimin e përmbajtjes së paligjshme. Raporti gjithashtu trajton aplikimet e deepfakes në lidhje me mashtrimet financiare, reklamat mashtruese, dezinformimin zgjedhor, dhunën politike me bazë gjinore, racizmin dhe përdorimin jo konsensual të imazheve, duke treguar se rreziqet shkojnë përtej fushës së sigurisë kibernetike dhe arrijnë çështje të privatësisë, reputacionit dhe besimit.
Një nga rastet braziliane të analizuara nga autoriteti përfshin deepfakes të personazheve të famshëm të përdorur për të promovuar produkte joekzistente. Sipas raportit, hetimi i bandës përgjegjëse identifikoi transaksione që tejkalonin 20 milionë rand. Autoriteti Kombëtar Brazilian i Mbrojtjes së të Dhënave (ANPD) gjithashtu tërheq vëmendjen për aftësinë e këtyre mashtrimeve për të vepruar në një shkallë të gjerë, me humbje relativisht të vogla individuale që, kur mblidhen së bashku, mund të gjenerojnë fitim të lartë për kriminelët.
FBI, për shembull, mori 22,364 ankesa në lidhje me përdorimin e inteligjencës artificiale në mashtrim në vitin 2025, me humbje të rregulluara që tejkalonin 893.3 milionë dollarë amerikanë. Kompanitë raportuan më shumë se 30 milionë dollarë amerikanë në humbje në lidhje me mashtrimet e kompromentimit të email-eve të korporatave që përdorën disa komponentë të IA-së. Perspektiva Globale e Sigurisë Kibernetike 2026 e Forumit Ekonomik Botëror tregon se 73% e të anketuarve u prekën drejtpërdrejt ose njihnin dikë të prekur nga mashtrimi dixhital në vitin 2025, ndërsa 87% perceptuan një rritje të dobësive të lidhura me IA-në.
Për Luiz Claudio, CEO dhe themelues i LC SEC, përparimi i deepfakes kërkon që kompanitë ta trajtojnë identitetin dhe autentifikimin si elementë sigurie që nuk mund të varen vetëm nga pamja ose zëri i një personi. “Problemi është se proceset tradicionale të validimit të identitetit u ndërtuan në një skenar ku zëri, imazhi dhe prania në një video-konferencë ishin sinjale relativisht të besueshme. Me evolucionin e inteligjencës artificiale, këta elementë mund të riprodhohen. Kompanitë duhet të krijojnë mekanizma të pavarur konfirmimi për vendime kritike, veçanërisht kur ato përfshijnë para, qasje në sisteme ose informacione të ndjeshme”, pohon ai.
Reklamimi dixhital dhe sektori financiar janë ndër fushat më të ekspozuara ndaj këtij lloji mashtrimi. Përveç verifikimit të origjinës dhe autorizimit për përdorimin e imazheve dhe zërave, kompanitë duhet të miratojnë mekanizma shtesë të konfirmimit të identitetit në operacione të ndjeshme. Rreziku u bë i dukshëm në një rast që përfshinte Arup, kur kriminelët përdorën përfaqësime sintetike të drejtuesve në një video-konferencë dhe bindën një punonjës të transferonte afërsisht 25 milionë dollarë amerikanë.
Sipas ekspertit, miratimi i shtresave shtesë të verifikimit është thelbësor për të parandaluar që përmbajtja sintetike të përdoret si forma e vetme e autentifikimit në operacione të ndjeshme. “Organizatat mund të miratojnë mekanizma konfirmimi përmes kanaleve të pavarura për operacione me risk më të lartë. Kërkesat për pagesa, ndryshimet në të dhënat bankare, ndarja e dokumenteve ose dhënia e aksesit mund të kërkojnë një validim të dytë përmes një kanali të njohur më parë, përveç miratimit të dyfishtë, ndarjes së detyrave, vërtetimit të fortë dhe regjistrave të auditimit. Kombinimi i këtyre kontrolleve zvogëlon mundësinë që një përfaqësim i vetëm sintetik të jetë i mjaftueshëm për të autorizuar një veprim kritik”, thekson Luiz Claudio.
Dekretet Nr. 12,975 dhe Nr. 12,976, të botuara në maj 2026, zgjeruan kompetencat e ANPD-së në lidhje me qeverisjen, transparencën, parandalimin e mashtrimeve dhe përmbajtjen e paligjshme në platforma. Në mjedisin zgjedhor, Rezoluta Nr. 23,755/2026 e TSE-së vendosi gjithashtu rregulla për përdorimin e përmbajtjes sintetike në reklama, duke përfshirë kërkesat e identifikimit dhe kufizimet në përdorimin e imazheve dhe zërave të kandidatëve dhe figurave publike.
Sipas Luiz Claudio, luftimi i deepfakes kërkon një strategji mbrojtjeje që kombinon teknologjinë, proceset e brendshme dhe ndërgjegjësimin e punonjësve. "Teknologjia për gjenerimin e përmbajtjes sintetike evoluon me shpejtësi dhe është joreale të mbështetesh në një mjet të vetëm për të identifikuar të gjitha mashtrimet e thella. Mbrojtja duhet të shpërndahet midis njerëzve, proceseve dhe teknologjisë. Kur një kompani vendos rregulla të qarta për vendime të ndjeshme, monitoron keqpërdorimin e markës së saj dhe i përgatit punonjësit për të pyetur kërkesat jashtë kanaleve të zakonshme, ajo krijon një shtresë tjetër mbrojtjeje kundër këtij lloji mashtrimi", përfundon ai.
