Algoritmien läpinäkyvyys voi vahvistaa luottamusta digitaalisiin alustoihin

Kasvava kysyntä tekoälyteknologioiden läpinäkyvyydelle on saanut yritykset ja organisaatiot keskustelemaan tavoista tehdä algoritmeista auditoitavampia. IBM:nkyky ymmärtää, miten automatisoidut järjestelmät tekevät päätöksiä, on yksi pilareista käyttäjien luottamuksen lisäämiseksi ja tekoälyn käytön vastuullisuuden parantamiseksi. Tässä yhteydessä X:n (entinen Twitter) mahdollisuus julkaista suositusalgoritminsa koodi on sytyttänyt uudelleen keskustelun läpinäkyvyydestä digitaalisilla alustoilla.

Algoritmin avaaminen antaisi tutkijoille ja kehittäjille mahdollisuuden analysoida sen toimintaa, tunnistaa mahdollisia vinoumia ja osallistua sen parantamiseen. Asiantuntijat kuitenkin korostavat, että tämä toimenpide edustaa vain osaa prosessista, sillä koulutusdata, tekoälymallit, infrastruktuuri ja moderointikäytännöt pysyvät tyypillisesti salassa.

Red Hat Brazilin teknologiajohtajan Boris Kuszkan mukaan aloite on linjassa avoimen lähdekoodin periaatteiden kanssa, jotka ovat vuosikymmenten ajan puolustaneet läpinäkyvyyttä innovaatioiden ja luottamuksen edistäjänä. ”Algoritmin avoimuus on yhdenmukainen periaatteen kanssa, jota avoin lähdekoodi on puolustanut vuosikymmenten ajan: läpinäkyvyys luo luottamusta ja luottamus luo innovaatioita. Kun koodista tulee auditoitavaa, tutkijat, itsenäiset kehittäjät ja itse yhteisö saavat paremman ymmärryksen siitä, miten päätöksiä tehdään, mikä mahdollistaa vinoumien tunnistamisen ja alustan kehitykseen osallistumisen”, hän selittää.

Asiantuntijat korostavat, että vaikka loppukäyttäjään kohdistuvat vaikutukset tapahtuvat pääasiassa kulissien takana, suurempi läpinäkyvyys voi hyödyttää kehittäjiä, tutkijoita ja mainostajia tarjoamalla enemmän ennustettavuutta alustan toiminnasta. Lisäksi avoimen lähdekoodin kehitykseen on liitettävä jatkuvia prosesseja haavoittuvuuksien tarkistamiseksi ja korjaamiseksi.

”Avoin lähdekoodi ei itsessään määrää järjestelmän turvallisuutta. Ero on organisaation reagointikyvyssä, johon kuuluu jatkuva koodin tarkistus, nopeat haavoittuvuuksien korjaukset ja aktiivinen yhteistyö yhteisön kanssa”, Kuszka sanoo. 

Keskustelu seuraa markkinoilla havaittua trendiä. IBM ja Red Hat ilmoittivat hiljattain Project Lightwell-aloitteesta, jonka tavoitteena on vahvistaa avoimen lähdekoodin ekosysteemin turvallisuutta tekoälyn ja yritysten ja vapaiden ohjelmistojen yhteisöjen välisen yhteistyön avulla. Kuszkan mukaan tällaiset liikkeet osoittavat, että läpinäkyvyys, hallinta ja auditoitavuus vahvistuvat digitaalisten alustojen ja tekoälypohjaisten ratkaisujen strategisina erottautumistekijöinä.