Algoritmide läbipaistvus võib suurendada usaldust digitaalsete platvormide vastu

Kasvav nõudlus läbipaistvuse järele tehisintellekti tehnoloogiates on pannud ettevõtteid ja organisatsioone arutama viise, kuidas muuta algoritmid auditeeritavamaks. IBM-ion võime mõista, kuidas automatiseeritud süsteemid otsuseid langetavad, üks alustalasid kasutajate usalduse suurendamiseks ja suurema vastutuse tagamiseks tehisintellekti kasutamisel. Selles kontekstis on X-i (endine Twitter) võimalus oma soovitusalgoritmi koodi avalikustada taas sütitanud arutelu läbipaistvuse üle digitaalsetel platvormidel.

Algoritmi avamine võimaldaks teadlastel ja arendajatel analüüsida selle toimimist, tuvastada võimalikke eelarvamusi ja panustada selle täiustamisse. Eksperdid rõhutavad aga, et see meede on vaid osa protsessist, kuna treeningandmed, tehisintellekti mudelid, infrastruktuur ja modereerimispoliitikad jäävad tavaliselt suletuks.

Red Hat Brazili tehnoloogiadirektori Boris Kuszka sõnul on algatus kooskõlas avatud lähtekoodi põhimõtetega, mis on aastakümneid propageerinud läbipaistvust kui innovatsiooni ja usalduse edendamise mehhanismi. „Algoritmi avatus on kooskõlas põhimõttega, mida avatud lähtekood on aastakümneid kaitsnud: läbipaistvus loob usaldust ja usaldus loob innovatsiooni. Kui kood muutub auditeeritavaks, saavad teadlased, sõltumatud arendajad ja kogukond ise parema arusaama sellest, kuidas otsuseid tehakse, mis võimaldab neil tuvastada eelarvamusi ja panustada platvormi arengusse,“ selgitab ta.

Eksperdid rõhutavad, et kuigi mõju lõppkasutajale avaldub peamiselt kulisside taga, võib suurem läbipaistvus olla kasulik arendajatele, teadlastele ja reklaamijatele, pakkudes platvormi toimimise kohta suuremat prognoositavust. Lisaks peavad avatud lähtekoodiga arendusega kaasnema pidevad protsessid haavatavuste läbivaatamiseks ja kõrvaldamiseks.

„Avatud lähtekood iseenesest ei määra süsteemi turvalisust. Erinevus seisneb organisatsiooni reageerimisvõimes, mis hõlmab pidevat koodi ülevaatamist, kiiret haavatavuste parandamist ja aktiivset koostööd kogukonnaga,“ ütleb Kuszka. 

Arutelu järgib turul täheldatud trendi. Hiljuti kuulutasid IBM ja Red Hat välja projekti Lightwell, mille eesmärk on tugevdada avatud lähtekoodiga ökosüsteemi turvalisust tehisintellekti ja ettevõtete ning vaba tarkvara kogukondade koostöö kaudu. Kuszka jaoks näitavad sellised liikumised, et läbipaistvus, juhtimine ja auditeeritavus kipuvad digitaalsete platvormide ja tehisintellektil põhinevate lahenduste strateegiliste eristajatena konsolideeruma.