Den økende etterspørselen etter åpenhet innen kunstig intelligens-teknologi har ført til at selskaper og organisasjoner har diskutert måter å gjøre algoritmer mer reviderbare på. Ifølge IBMer evnen til å forstå hvordan automatiserte systemer tar beslutninger en av grunnpilarene for å øke brukertilliten og sikre større ansvarlighet i bruken av AI. I denne sammenhengen har muligheten for at X (tidligere Twitter) offentliggjør koden til anbefalingsalgoritmen sin, gjenopplivet debatten om åpenhet på digitale plattformer.
Å åpne opp algoritmen vil gi forskere og utviklere muligheten til å analysere dens virkemåte, identifisere potensielle skjevheter og bidra til forbedringen. Eksperter understreker imidlertid at dette tiltaket bare representerer en del av prosessen, ettersom treningsdata, AI-modeller, infrastruktur og modereringsregler vanligvis forblir lukket.
Ifølge Boris Kuszka, teknologidirektør i Red Hat Brasil, er initiativet i tråd med prinsippene for åpen kildekode, som i flere tiår har forfektet åpenhet som en mekanisme for å drive innovasjon og tillit. «Algoritmens åpenhet er i samsvar med et prinsipp som åpen kildekode har forsvart i flere tiår: åpenhet genererer tillit, og tillit genererer innovasjon. Når koden blir reviderbar, får forskere, uavhengige utviklere og selve fellesskapet en bedre forståelse av hvordan beslutninger tas, slik at de kan identifisere skjevheter og bidra til plattformens utvikling», forklarer han.
Eksperter understreker at selv om virkningen på sluttbrukeren først og fremst vil skje bak kulissene, kan større åpenhet være til fordel for utviklere, forskere og annonsører ved å tilby mer forutsigbarhet om hvordan plattformen fungerer. Videre må åpen kildekode-utvikling ledsages av kontinuerlige prosesser for gjennomgang og håndtering av sårbarheter.
«Åpen kildekode i seg selv avgjør ikke sikkerheten til et system. Forskjellen ligger i organisasjonens respons, med kontinuerlig kodegjennomgang, raske feilrettinger av sårbarheter og aktivt samarbeid med fellesskapet», sier Kuszka.
Debatten følger en trend som er observert i hele markedet. Nylig annonserte IBM og Red Hat Project Lightwell, et initiativ som tar sikte på å styrke sikkerheten til åpen kildekode-økosystemet gjennom kunstig intelligens og samarbeid mellom selskaper og fri programvare-miljøer. For Kuszka viser bevegelser som denne at åpenhet, styring og revideringsevne har en tendens til å konsolideres som strategiske differensierere for digitale plattformer og AI-baserte løsninger.
