LC SEC, konsultföretag specialiserat på cybersäkerhet och efterlevnad, varnar för den ökande användningen av syntetiskt innehåll i digitala bedrägerier. Bilder, videor och röster som produceras eller manipuleras av artificiell intelligens har integrerats i strategier för bedrägerier, vilseledande reklam och desinformation. I Brasilien mer än tredubblades spridningen av falskt innehåll skapat med AI mellan 2024 och 2025, med en tillväxt på 308 %, enligt det första Panorama of Disinformation in Brazil, från Lupa Observatory, som kartlägger trender, mål och huvudsakliga taktiker för desinformation. Detta scenario analyseras också av den nationella dataskyddsmyndigheten (ANPD) i Technological Radar nr 6 – Deepfakes, en 163-sidig studie som i detalj beskriver hur syntetiskt innehåll används i olika typer av bedrägerier och kränkningar av rättigheter.
En av de orosmoment som myndigheten lyfter fram är användningen av deepfakes i sponsrade annonser och marknadsföringskampanjer på sociala medier. Enligt dokumentet kan brottslingar använda bilden eller rösten av välkända personer för att skapa falska erbjudanden, marknadsföra innehåll till segmenterade målgrupper och hänvisa offer till klonade webbplatser eller bedrägliga plattformar där betalningar eller personlig information begärs.
ANPD:s publicering kommer vid en tidpunkt av framåtskridande diskussioner om digitala plattformars ansvar och behovet av mekanismer som kan minska spridningen av olagligt innehåll. Rapporten tar också upp tillämpningar av deepfakes relaterade till finansiella bedrägerier, vilseledande reklam, desinformation om val, könsbaserat politiskt våld, rasism och icke-samtyckande användning av bilder, vilket visar att riskerna går utöver cybersäkerhetsområdet och når frågor om integritet, rykte och förtroende.
Ett av de brasilianska fallen som analyserats av myndigheten involverar deepfakes av kändisar som används för att marknadsföra icke-existerande produkter. Enligt rapporten identifierade utredningen av det ansvariga gänget transaktioner som översteg 20 miljoner rand. Den brasilianska nationella dataskyddsmyndigheten (ANPD) uppmärksammar också dessa bedrägeriers förmåga att operera i stor skala, med relativt små individuella förluster som, när de läggs samman, kan generera hög lönsamhet för brottslingar.
FBI mottog till exempel 22 364 klagomål relaterade till användningen av artificiell intelligens i bedrägerier år 2025, med justerade förluster som översteg 893,3 miljoner USD. Företag rapporterade mer än 30 miljoner USD i förluster relaterade till bedrägerier med företags e-postkompromisser som använde någon AI-komponent. World Economic Forums Global Cybersecurity Outlook 2026 visar att 73 % av de svarande var direkt drabbade eller kände någon som drabbats av digitala bedrägerier år 2025, medan 87 % upplevde en ökning av sårbarheter i samband med AI.
För Luiz Claudio, VD och grundare av LC SEC, kräver utvecklingen av djupförfalskningar att företag behandlar identitet och autentisering som säkerhetselement som inte enbart kan bero på en persons utseende eller röst. ”Problemet är att traditionella identitetsvalideringsprocesser byggdes i ett scenario där röst, bild och närvaro i en videokonferens var relativt tillförlitliga signaler. Med utvecklingen av artificiell intelligens kan dessa element reproduceras. Företag behöver skapa oberoende bekräftelsemekanismer för kritiska beslut, särskilt när de involverar pengar, åtkomst till system eller känslig information”, säger han.
Digital reklam och finanssektorn är bland de områden som är mest utsatta för denna typ av bedrägerier. Förutom att verifiera ursprunget och auktoriseringen för användningen av bilder och röster måste företag anta ytterligare identitetsbekräftelsemekanismer i känsliga verksamheter. Risken blev tydlig i ett fall som involverade Arup, när brottslingar använde syntetiska representationer av chefer i en videokonferens och övertygade en anställd att överföra cirka 25 miljoner USD.
Enligt experten är införandet av ytterligare verifieringslager grundläggande för att förhindra att syntetiskt innehåll används som enda form av autentisering i känsliga verksamheter. ”Organisationer kan använda bekräftelsemekanismer via oberoende kanaler för verksamheter med högre risk. Betalningsförfrågningar, ändringar av bankuppgifter, dokumentdelning eller beviljande av åtkomst kan kräva en andra validering via en tidigare känd kanal, utöver dubbelt godkännande, arbetsuppdelning, stark autentisering och revisionsloggar. Kombinationen av dessa kontroller minskar möjligheten att en enda syntetisk representation räcker för att godkänna en kritisk åtgärd”, framhäver Luiz Claudio.
Dekret nr 12 975 och nr 12 976, publicerade i maj 2026, utökade ANPD:s befogenheter gällande styrning, transparens, bedrägeriförebyggande åtgärder och olagligt innehåll på plattformar. I valmiljön fastställde TSE:s resolution nr 23 755/2026 också regler för användning av syntetiskt innehåll i reklam, inklusive identifieringskrav och begränsningar för användningen av bilder och röster från kandidater och offentliga personer.
Enligt Luiz Claudiokräver bekämpning av deepfakes en skyddsstrategi som kombinerar teknik, interna processer och medarbetarnas medvetenhet. ”Tekniken för att generera syntetiskt innehåll utvecklas snabbt, och det är orealistiskt att förlita sig på ett enda verktyg för att identifiera alla deepfakes. Skyddet måste distribueras över människor, processer och teknik. När ett företag etablerar tydliga regler för känsliga beslut, övervakar missbruk av sitt varumärke och förbereder anställda på att ifrågasätta förfrågningar utanför vanliga kanaler, skapar det ytterligare ett skyddslager mot den här typen av bedrägerier”, avslutar han.
