Brasilialainen startup-yritys julkaisee virallisesti alustan, joka tunnistaa deepfake-väärennökset

Jos ennen suurin haaste oli deepfake-tiedostojen tunnistaminen, nyt on kasvava tarve todistaa myös aidon sisällön alkuperä. Ympäristössä, jossa kuvien ja asiakirjojen aitoutta voidaan kyseenalaistaa, brasilialainen startup-yritys InspireIP julkaisee virallisesti torstaina (6) SIGNAIPin, digitaalisen aitouden alustan, joka yhdistää aitouden ja alkuperän rekisteröinnin, tiedostoihin upotetut todennettavat tunnistetiedot ja tekoälyn käytön mahdollisten merkkien analysoinnin digitaalisessa sisällössä.

Testausjakson jälkeen ratkaisu alkaa toimia Brasilian markkinoilla, ja pääsy siihen on saatavilla pyynnöstä. Alusta yhdistää kaksi toisiaan täydentävää osa-aluetta: digitaalisen sisällön alkuperän ja aitouden rekisteröinnin sekä kuvien ja tekstidokumenttien teknisen analyysin, jolla tunnistetaan mahdolliset merkit tekoälyn avulla luodusta, muokatusta tai uudelleenkirjoittamisesta.

Alusta kehitettiin palvelemaan sisällöntuottajia, yrityksiä ja instituutioita, joiden on dokumentoitava tiedoston alkuperä, rekisteröitävä sen aiempi olemassaolo, seurattava muutoksia ja määritettävä ehdot sen käytölle tekoälyjärjestelmissä.

”Tekoäly on muuttanut tapaamme tuottaa sisältöä, mutta se on myös muuttanut tapaa, jolla meidän on luotettava siihen. Keskustelu on laajentunut pelkän synteettisen sisällön tunnistamisen ulkopuolelle ja sisältää nyt myös mahdollisuuden varmistaa digitaalisten tiedostojen alkuperä, eheys ja historia. Juuri tätä aukkoa SIGNAIP pyrkii täyttämään”, sanoo Caroline Nunes, InspireIPin perustaja ja immateriaalioikeuksien asiantuntija, jolla on tutkinto USC Gouldin oikeustieteellisestä tiedekunnasta.

Todennettavissa olevat alkuperätodistukset

Rekisteröinnin yhteydessä SIGNAIP sisällyttää itse tiedostoon todennettavissa olevan alkuperätunnisteen, joka sisältää tietoja ilmoitetusta omistajasta, sisällön teknisistä ominaisuuksista, rekisteröintipäivämäärästä ja tekoälyjärjestelmien käyttöön määritellyistä asetuksista. Tunniste pysyy liitettynä rekisteröityyn tiedostoon, joten nämä tiedot voidaan todentaa myöhemmin.

Rekisteröintipäivämäärä on ankkuroitu lohkoketjuun, mikä luo auditoitavan aikaviitteen, jonka tarkoituksena on auttaa todistamaan aiempi käyttö. InspireIP:n mukaan kolmannet osapuolet voivat käyttää todennettavissa olevaan tunnistetietoon liittyviä tietoja ilman, että heidän tarvitsee luottaa yksinomaan yrityksen infrastruktuuriin.

Rekisteröitymisen jälkeen käyttäjä saa tiedoston, joka sisältää upotetut todennettavat tunnistetiedot ja alkuperätodistuksen PDF-muodossa.

Rakenne mahdollistaa dokumentoitujen versioiden ja arkiston sisällä tehtyjen toimenpiteiden linkittämisen , mukaan lukien myöhemmät muokkaukset ja tekoälyn tuottamien elementtien sisällyttämisen. Tavoitteena on luoda haettavissa oleva historia arkiston elinkaaren aikana tallennetuista muutoksista.

Näiden tietojen säilyminen sisällön kierron aikana voi kuitenkin riippua siitä, miten tiedostoa muokataan, viedään, pakataan tai jaetaan.

Kansainväliset aitousstandardit

SIGNAIP käyttää C2PA:a (Coalition for Content Provenance and Authenticity), kansainvälistä teknistä standardia, joka on kehitetty yhdistämään todennettavissa olevat alkuperätiedot digitaaliseen sisältöön.

Todennettavissa olevat tunnistetiedot tallentavat tietoja tiedoston ilmoitetusta alkuperästä ja sen elinkaaren aikana dokumentoiduista muutoksista, mikä mahdollistaa sen alkuperähistorian myöhemmän tarkastelun.

Yritykset, kuten Adobe, Google, Meta ja OpenAI, ovat ottaneet standardin käyttöön osana sellaisten mekanismien kehittämistä, joilla pyritään lisäämään läpinäkyvyyttä digitaalisen sisällön alkuperän ja historian suhteen.

InspireIP on myös Content Authenticity Initiativen (CAI) jäsen. CAI on kansainvälinen koalitio, joka on omistautunut digitaalisen sisällön alkuperän todentamiseen ja varmentamiseen tarkoitettujen teknologioiden kehittämiseen ja käyttöönottoon. Yrityksen mukaan se on osa C2PA-standardin käyttöön virallisesti sertifioitujen organisaatioiden ryhmää ja on tällä hetkellä ainoa brasilialainen yritys näiden sertifioitujen yritysten joukossa.

Todennettavissa olevan alkuperätodistuksen olemassaolo ei kuitenkaan sinänsä todista esitetyn tiedon todenperäisyyttä. Lähde dokumentoi ilmoitetun alkuperän ja tiedoston teknisen historian, mutta se ei korvaa journalistista tutkimusta, asiantuntija-analyysia tai sisällön tuotantokontekstin varmentamista.

Kuvien ja tekstidokumenttien analysointi

Alkuperän varmentamisen lisäksi SIGNAIP suorittaa todennäköisyysanalyysejä tunnistaakseen mahdollisia merkkejä tekoälytyökalujen osallisuudesta kuvien ja tekstidokumenttien luomiseen, muokkaamiseen tai uudelleenkirjoittamiseen.

Visuaalisissa tiedostoissa teknologia ottaa huomioon digitaaliseen luomiseen tai käsittelyyn liittyvät metatiedot, tekniset ominaisuudet ja rakenteelliset mallit. Tekstiasiakirjoissa se voi analysoida kielimalleja, tyylin yhtenäisyyttä, tilastollisia ominaisuuksia ja eri katkelmien välisiä vaihteluita. Laajoissa materiaaleissa sisältö voidaan jakaa lohkoihin, jolloin raportti voi esittää erillisiä tuloksia koko dokumentissa.

Testausvaiheessa InspireIP:n kehittämiä teknologioita käytettiin sellaisten kuvien ja asiakirjojen arviointiin, joiden aitoutta tai tuotantotapaa oli julkisesti kyseenalaistettu. Yrityksen mukaan nämä kokemukset edistivät analyysimenetelmien parantamista ja vahvistivat todennäköisyysindikaattoreiden yhdistämisen tärkeyttä alkuperätietoihin, metatietoihin, tiedostojen eheyteen ja kontekstiin.

Tulokset eivät ole kiistaton todiste

InspireIP korostaa, että synteettisen sisällön analyysit ovat luonteeltaan probabilistisia. Tulokset yksinään eivät ole kiistaton todiste tekijyydestä, manipuloinnista tai tekoälyn käytöstä.

Korjaustyökalut, toimituksellinen tarkistus, tyylin standardointi, pakkaus, koon muuttaminen ja peräkkäiset muutokset voivat muuttaa tutkittuja ominaisuuksia ja tietyissä tapauksissa tuottaa vääriä positiivisia tuloksia. Siksi raportteja on tulkittava yhdessä muiden teknisten, dokumentaaristen ja kontekstuaalisten elementtien kanssa. Todennäköisyysperusteinen arvio yksinään ei mahdollista määrittää, kuka on luonut tietyn sisällön, eikä myöskään todeta lopullisesti, että tiedosto on tuotettu tai muokattu tekoälyllä.

”Tekoälyn käytön mahdollisten merkkien analysointi on vain yksi osa varmennusta. Sisällön aitous riippuu alkuperän, kontekstin ja teknisen näytön yhdistelmästä”, Caroline Nunes sanoo.

Tekoälyjärjestelmien käyttöön liittyvät asetukset

Alusta antaa tekijöille ja tekijänoikeuksien haltijoille mahdollisuuden rekisteröidä mieltymyksiään digitaalisen sisällön käyttöön liittyen tekoälyjärjestelmissä.

Tiedostonvalvoja voi erikseen valtuuttaa tai rajoittaa neljää käyttötilaa: generatiivisten tekoälymallien kouluttaminen, ei-generatiivisten mallien, kuten kuvanluokittelujärjestelmien, kouluttaminen, tiedonlouhinta ja tekoälyn päättely.

Mieltymykset integroidaan sitten tiedostoon liitettyihin todennettavissa oleviin alkuperätodistuksiin, jotka dokumentoivat haltijan kullekin käyttötyypille asettamat ehdot.

InspireIP:n mukaan nämä tiedot tallennetaan koneellisesti luettavassa muodossa, ja niihin pääsevät käsiksi alustat ja kehittäjät, joilla on pääsy tiedostoon. Näiden asetusten tehokas noudattaminen riippuu kuitenkin siitä, ottavatko sisältöä käyttävät järjestelmät tämän standardin käyttöön, eikä se sinänsä estä luvatonta käyttöä.

Käynnistää

SIGNAIP aloittaa virallisesti toimintansa tulevana torstaina (6). Tässä vaiheessa käyttöoikeus alustalle myönnetään pyynnöstä ja InspireIP-tiimin analysoidessa hakemukset.

Ratkaisu on suunnattu kuvittajille, valokuvaajille, sisällöntuottajille, toimistoille, tuotantoyhtiöille, uutishuoneille, immateriaalioikeusyrityksille, tuotemerkeille ja organisaatioille, joiden on rekisteröitävä, varmistettava tai dokumentoitava digitaalisten resurssien aitous ja alkuperä.

Alusta tarjoaa jo rekisteröinti-, vahvistus- ja analysointiominaisuuksia kuville, tekstidokumenteille, PDF-tiedostoille, äänelle ja videolle. Käyttöoikeuksia voi pyytää osoitteessa https://signaip.inspireip.io/ .