Kyberturvallisuuteen ja vaatimustenmukaisuuteen erikoistunut konsulttiyritys LC SEC varoittaa synteettisen sisällön lisääntyvästä käytöstä digitaalisissa huijauksissa. Tekoälyn tuottamat tai manipuloimat kuvat, videot ja äänet on integroitu petos-, harhaanjohtava mainonta- ja disinformaatiostrategioihin. Brasiliassa tekoälyn avulla luodun väärän sisällön levitys yli kolminkertaistui vuosien 2024 ja 2025 välillä, kasvua oli 308 %, Lupa-observatorion ensimmäisen Brasilian disinformaatiopanoraman mukaan. Panorama of Disinformation -raportissa kartoitetaan disinformaation trendejä, kohteita ja tärkeimpiä taktiikoita. Tätä skenaariota analysoi myös kansallinen tietosuojaviranomainen (ANPD) 163-sivuisessa Technological Radar No. 6 – Deepfakes -tutkimuksessa, jossa kerrotaan, miten synteettistä sisältöä käytetään erityyppisissä huijauksissa ja ihmisoikeusloukkauksissa.
Yksi viranomaisen esiin nostamista huolenaiheista on syväväärennösten (deepfake) käyttö sponsoroiduissa mainoksissa ja tehostetuissa kampanjoissa sosiaalisessa mediassa. Asiakirjan mukaan rikolliset voivat käyttää tunnettujen ihmisten kuvaa tai ääntä luodakseen väärennettyjä tarjouksia, mainostaakseen sisältöä segmentoidulle yleisölle ja ohjatakseen uhreja kloonatuille verkkosivustoille tai vilpillisille alustoille, joilla pyydetään maksuja tai henkilötietoja. ANPD:n julkaisu tulee aikana, jolloin keskustelu digitaalisten alustojen vastuusta ja laittoman sisällön leviämisen vähentämiseen tähtäävien mekanismien tarpeesta etenee. Raportissa käsitellään myös syväväärennösten sovelluksia, jotka liittyvät taloushuijauksiin, harhaanjohtavaan mainontaan, vaalidisinformaatioon, sukupuoleen perustuvaan poliittiseen väkivaltaan, rasismiin ja kuvien käyttöön ilman suostumusta, mikä osoittaa, että riskit ulottuvat kyberturvallisuuden ulkopuolelle ja ulottuvat yksityisyyden, maineen ja luottamuksen kysymyksiin. Yksi viranomaisen analysoimista brasilialaisista tapauksista koskee julkkisten syväväärennöksiä, joita käytetään olemattomien tuotteiden mainostamiseen. Raportin mukaan vastuussa olevan jengin tutkinnassa havaittiin yli 20 miljoonan Brasilian reaalin suuruisia liiketoimia. Brasilian kansallinen tietosuojaviranomainen (ANPD) kiinnittää myös huomiota näiden huijausten kykyyn toimia laajamittaisesti, ja yksittäiset tappiot voivat olla suhteellisen pieniä, mutta yhdessä ne voivat tuottaa rikollisille suurta kannattavuutta. Esimerkiksi FBI vastaanotti vuonna 2025 22 364 valitusta tekoälyn käytöstä petoksissa, ja oikaistut tappiot ylittivät 893,3 miljoonaa Yhdysvaltain dollaria. Yritykset raportoivat yli 30 miljoonan Yhdysvaltain dollarin tappiot, jotka liittyivät yritysten sähköpostimurtohuijauksiin, joissa käytettiin tekoälykomponentteja. Maailman talousfoorumin Global Cybersecurity Outlook 2026 -raportti osoittaa, että 73 % vastaajista oli suoraan digitaalisen petoksen kohteena tai tunsi jonkun, johon digitaalinen petos vaikutti vuonna 2025, kun taas 87 % koki tekoälyyn liittyvien haavoittuvuuksien lisääntyneen. LC SEC:n toimitusjohtajan ja perustajan Luiz Claudion mukaan syvähuijausten eteneminen edellyttää yrityksiltä identiteetin ja todennuksen kohtelua turvallisuuselementteinä, jotka eivät voi riippua pelkästään henkilön ulkonäöstä tai äänestä. ”Ongelmana on, että perinteiset henkilöllisyyden validointiprosessit rakennettiin tilanteessa, jossa ääni, kuva ja läsnäolo videoneuvottelussa olivat suhteellisen luotettavia signaaleja. Tekoälyn kehityksen myötä nämä elementit voidaan toistaa. Yritysten on luotava itsenäisiä vahvistusmekanismeja kriittisille päätöksille, erityisesti silloin, kun ne koskevat rahaa, järjestelmien käyttöoikeuksia tai arkaluonteisia tietoja”, hän toteaa. Digitaalinen mainonta ja rahoitusala ovat alttiimpia tämän tyyppisille petoksille. Kuvien ja äänien alkuperän ja käyttöoikeuden varmentamisen lisäksi yritysten on otettava käyttöön lisähenkilöllisyyden vahvistusmekanismeja arkaluonteisissa toiminnoissa. Riski kävi ilmi Arupiin liittyvässä tapauksessa, jossa rikolliset käyttivät johtajien synteettisiä esityksiä videoneuvottelussa ja saivat työntekijän siirtämään noin 25 miljoonaa Yhdysvaltain dollaria. Asiantuntijan mukaan lisävahvistuskerrosten käyttöönotto on olennaista, jotta estetään synteettisen sisällön käyttö ainoana todennusmuotona arkaluonteisissa toiminnoissa. ”Organisaatiot voivat ottaa käyttöön vahvistusmekanismeja riippumattomien kanavien kautta riskialttiimpiin operaatioihin. Maksupyynnöt, pankkitietojen muutokset, asiakirjojen jakaminen tai käyttöoikeuksien myöntäminen saattavat vaatia toisen validoinnin aiemmin tunnetun kanavan kautta sekä kaksinkertaisen hyväksynnän, tehtävien eriyttämisen, vahvan todennuksen ja tarkastuslokien käyttöä. Näiden kontrollien yhdistelmä vähentää mahdollisuutta, että yksi synteettinen esitys riittää kriittisen toiminnon valtuuttamiseen”, korostaa Luiz Claudio . Toukokuussa 2026 julkaistut asetukset nro 12 975 ja nro 12 976 laajensivat ANPD:n toimivaltaa hallinnon, läpinäkyvyyden, petostentorjunnan ja laittoman sisällön osalta alustoilla. Vaaliympäristössä TSE:n päätöslauselma nro 23 755/2026 vahvisti myös säännöt synteettisen sisällön käytölle mainonnassa, mukaan lukien tunnistamisvaatimukset ja ehdokkaiden ja julkisuuden henkilöiden kuvien ja äänien käytön rajoitukset. Luiz Claudion mukaan deepfake-väärennösten torjunta edellyttää suojausstrategiaa, joka yhdistää teknologian, sisäiset prosessit ja työntekijöiden tietoisuuden. ”Keinotekoisen sisällön luomisen teknologia kehittyy nopeasti, eikä ole realistista luottaa yhteen työkaluun kaikkien deepfake-huijausten tunnistamiseksi. Suojauksen on oltava hajautettua ihmisten, prosessien ja teknologian kesken. Kun yritys laatii selkeät säännöt arkaluontoisille päätöksille, valvoo brändinsä väärinkäyttöä ja valmistaa työntekijöitä kyseenalaistamaan pyyntöjä tavanomaisten kanavien ulkopuolella, se luo uuden suojakerroksen tällaista petosta vastaan”, hän päättelee.
