Brazilski startup zvanično pokreće platformu koja detektuje deepfake-ove

Ako je prije glavni izazov bio identifikacija deepfakeova, sada postoji i sve veća potreba za dokazivanjem porijekla autentičnog sadržaja. U okruženju u kojem se autentičnost slika i dokumenata može dovesti u pitanje, brazilski startup InspireIP ovog četvrtka (6) zvanično pokreće SIGNAIP, platformu za digitalnu autentičnost koja kombinuje registraciju autentičnosti i porijekla, provjerljive akreditive ugrađene u datoteke i analizu mogućih znakova korištenja umjetne inteligencije u digitalnom sadržaju.

Nakon perioda testiranja, rješenje će početi s radom na brazilskom tržištu s pristupom na zahtjev. Platforma objedinjuje dva komplementarna fronta: registraciju porijekla i autentičnosti digitalnog sadržaja i tehničku analizu slika i tekstualnih dokumenata kako bi se identificirali mogući znakovi generiranja, uređivanja ili prepisivanja uz podršku umjetne inteligencije.

Platforma je razvijena kako bi služila kreatorima, kompanijama i institucijama kojima je potrebno dokumentirati porijeklo datoteke, registrirati njeno prethodno postojanje, pratiti promjene i uspostaviti uslove za njenu upotrebu od strane AI sistema.

„Vještačka inteligencija je promijenila način na koji proizvodimo sadržaj, ali je također promijenila i način na koji mu trebamo vjerovati. Diskusija se proširila dalje od pukog identifikovanja sintetičkog sadržaja i sada uključuje mogućnost provjere porijekla, integriteta i historije digitalnih datoteka. Upravo tu prazninu SIGNAIP nastoji popuniti“, kaže Caroline Nunes, osnivačica InspireIP-a i specijalistkinja za intelektualno vlasništvo sa diplomom Pravnog fakulteta USC Gould.

Provjerljive akreditacije porijekla

Tokom registracije, SIGNAIP u samu datoteku ugrađuje provjerljivu akreditaciju porijekla koja sadrži informacije o prijavljenom vlasniku, tehničkim karakteristikama sadržaja, datumu registracije i preferencijama definiranim za njegovu upotrebu od strane sistema vještačke inteligencije. Akreditacija ostaje povezana s registrovanom datotekom, što omogućava kasniju provjeru ovih informacija.

Datum registracije je usidren u blockchainu, stvarajući vremensku referencu koja se može provjeriti i koja ima za cilj da pomogne u dokazivanju prethodne upotrebe. Prema InspireIP-u, informacije povezane s provjerljivim akreditivom mogu biti dostupne trećim stranama bez oslanjanja isključivo na infrastrukturu kompanije.

Nakon završetka registracije, korisnik dobija datoteku koja sadrži ugrađene provjerljive podatke za prijavu i certifikat o porijeklu u PDF formatu.

Struktura omogućava povezivanje dokumentovanih verzija i intervencija unutar arhive, uključujući naknadne izmjene i uključivanje elemenata generiranih umjetnom inteligencijom. Cilj je kreirati pretraživu historiju transformacija zabilježenih tokom životnog ciklusa arhive.

Međutim, očuvanje ovih informacija tokom cirkulacije sadržaja može zavisiti od načina na koji je datoteka uređena, izvezena, komprimirana ili dijeljena.

Međunarodni standardi autentičnosti

SIGNAIP koristi C2PA (Koalicija za porijeklo i autentičnost sadržaja), međunarodni tehnički standard razvijen za povezivanje provjerljivih podataka o porijeklu s digitalnim sadržajem.

Provjerljivi akreditivi bilježe informacije o deklarisanom porijeklu datoteke i dokumentovanim promjenama tokom njenog životnog ciklusa, omogućavajući kasnije konsultacije o njenoj istoriji porijekla.

Standard usvajaju kompanije poput Adobea, Googlea, Mete i OpenAI-a kao dio razvoja mehanizama usmjerenih na povećanje transparentnosti o porijeklu i historiji digitalnog sadržaja.

InspireIP je također član Inicijative za autentičnost sadržaja (CAI), međunarodne koalicije posvećene razvoju i usvajanju tehnologija za autentifikaciju i provjeru porijekla digitalnog sadržaja. Prema navodima kompanije, dio je grupe organizacija koje su službeno certificirane za korištenje C2PA standarda i trenutno je jedina brazilska kompanija među onima koji su certificirani.

Međutim, prisustvo provjerljivog dokumenta o porijeklu samo po sebi ne predstavlja dokaz istinitosti prikazane činjenice. Resurs dokumentuje prijavljeno porijeklo i tehničku istoriju datoteke, ali ne zamjenjuje novinarsku istragu, stručnu analizu ili provjeru konteksta u kojem je sadržaj proizveden.

Analiza slika i tekstualnih dokumenata

Pored provjere porijekla, SIGNAIP provodi probabilističke analize kako bi identificirao potencijalne znakove da su alati umjetne inteligencije uključeni u kreiranje, uređivanje ili prepisivanje slika i tekstualnih dokumenata.

U vizualnim datotekama, tehnologija uzima u obzir metapodatke, tehničke karakteristike i strukturne obrasce povezane s digitalnim generiranjem ili manipulacijom. U tekstualnim dokumentima, može analizirati jezičke obrasce, stilsku ujednačenost, statističke karakteristike i varijacije između različitih odlomaka. U opsežnim materijalima, sadržaj se može podijeliti u blokove, što omogućava izvještaju da predstavi različite rezultate u cijelom dokumentu.

Tokom faze testiranja, tehnologije koje je razvio InspireIP korištene su za procjenu slika i dokumenata čija je autentičnost ili način proizvodnje javno doveden u pitanje. Prema navodima kompanije, ova iskustva doprinijela su poboljšanju metoda analize i naglasila važnost kombinovanja vjerovatnosnih indikatora sa informacijama o porijeklu, metapodacima, integritetom datoteka i kontekstom.

Rezultati nisu konačan dokaz

InspireIP naglašava da su sintetičke analize sadržaja probabilističke prirode. Rezultati, sami po sebi, ne predstavljaju konačan dokaz autorstva, manipulacije ili korištenja umjetne inteligencije.

Alati za korekciju, urednički pregled, standardizacija stila, kompresija, promjena veličine i uzastopne izmjene mogu modificirati ispitivane karakteristike i, u određenim slučajevima, dati lažno pozitivne rezultate. Stoga se izvještaji moraju tumačiti zajedno s drugim tehničkim, dokumentarnim i kontekstualnim elementima. Probabilistička procjena, sama po sebi, ne omogućava utvrđivanje ko je kreirao određeni sadržaj niti konačno utvrđivanje da je datoteka proizvedena ili modificirana pomoću vještačke inteligencije.

„Analiza potencijalnih znakova korištenja umjetne inteligencije samo je jedan element verifikacije. Autentičnost sadržaja ovisi o kombinaciji porijekla, konteksta i tehničkih dokaza“, kaže Caroline Nunes.

Postavke za korištenje od strane AI sistema

Platforma omogućava autorima i nosiocima autorskih prava da registruju preferencije u vezi s korištenjem njihovog digitalnog sadržaja od strane sistema vještačke inteligencije.

Administrator datoteka može zasebno autorizirati ili ograničiti četiri načina korištenja: obuku generativnih AI modela; obuku negenerativnih modela, kao što su sistemi za klasifikaciju slika; rudarenje podataka; i zaključivanje na osnovu vještačke inteligencije.

Preferencije se zatim integrišu u provjerljive akreditacije porijekla uključene u dosije, dokumentujući uslove koje je nosilac utvrdio za svaku vrstu upotrebe.

Prema InspireIP-u, ove informacije se snimaju u mašinski čitljivom formatu i dostupne su platformama i programerima koji imaju pristup datoteci. Međutim, efikasno pridržavanje ovih preferencija zavisi od usvajanja ovog standarda od strane sistema koji koriste sadržaj i samo po sebi ne sprečava neovlaštenu upotrebu.

Pokreni

SIGNAIP će zvanično početi s radom ovog četvrtka (6). U ovoj fazi, pristup platformi će biti odobren na zahtjev i analizu aplikacija od strane InspireIP tima.

Rješenje je namijenjeno ilustratorima, fotografima, kreatorima sadržaja, agencijama, produkcijskim kućama, redakcijama, firmama za intelektualno vlasništvo, brendovima i organizacijama koje trebaju registrirati, provjeriti ili dokumentirati autentičnost i porijeklo digitalne imovine.

Platforma već nudi funkcije registracije, verifikacije i analize za slike, tekstualne dokumente, PDF datoteke, audio i video zapise. Zahtjevi za pristup mogu se podnijeti na https://signaip.inspireip.io/ .