Transparantie in algoritmen kan het vertrouwen in digitale platforms versterken

De groeiende vraag naar transparantie in kunstmatige-intelligentietechnologieën heeft bedrijven en organisaties ertoe aangezet manieren te bespreken om algoritmen beter controleerbaar te maken. Volgens IBM, is het vermogen om te begrijpen hoe geautomatiseerde systemen beslissingen nemen een van de pijlers voor het vergroten van het gebruikersvertrouwen en het garanderen van een grotere verantwoordelijkheid bij het gebruik van AI. In deze context heeft de mogelijkheid dat X (voorheen Twitter) de code van zijn aanbevelingsalgoritme openbaar zou maken het debat over transparantie op digitale platforms opnieuw aangewakkerd.

Door het algoritme te openen, kunnen onderzoekers en ontwikkelaars de werking ervan analyseren, mogelijke vooroordelen identificeren en bijdragen aan de verbetering ervan. Deskundigen benadrukken echter dat de maatregel slechts een deel van het proces vertegenwoordigt, aangezien trainingsgegevens, AI-modellen, infrastructuur en moderatiebeleid doorgaans gesloten blijven.

Volgens Boris Kuszka, technologiedirecteur bij Red Hat Brazilië, is het initiatief in lijn met de principes van open source, die decennialang transparantie hebben verdedigd als een mechanisme om innovatie en vertrouwen te stimuleren. “De openheid van het algoritme komt overeen met een principe dat open source al tientallen jaren verdedigt: transparantie genereert vertrouwen, en vertrouwen genereert innovatie. Wanneer de code controleerbaar wordt, beginnen onderzoekers, onafhankelijke ontwikkelaars en de gemeenschap zelf beter te begrijpen hoe beslissingen worden genomen, waardoor ze vooroordelen kunnen identificeren en kunnen bijdragen aan de evolutie van het platform”, legt hij uit.

Deskundigen benadrukken dat hoewel de impact op de eindgebruiker vooral achter de schermen moet plaatsvinden, grotere transparantie ontwikkelaars, onderzoekers en adverteerders ten goede kan komen door meer voorspelbaarheid te bieden over hoe het platform werkt. Bovendien moet open source-code vergezeld gaan van permanente evaluatie- en reactieprocessen op kwetsbaarheden.

“Open source op zichzelf bepaalt niet de veiligheid van een systeem. Het verschil zit in het vermogen van de organisatie om te reageren, met continue code review, snelle correctie van kwetsbaarheden en actieve samenwerking met de community”, zegt Kuszka. 

Het debat volgt een trend die in de hele markt wordt waargenomen. Onlangs hebben IBM en Red Hat dit aangekondigd Project Lichtwel, een initiatief gericht op het versterken van de veiligheid van het open source-ecosysteem door middel van kunstmatige intelligentie en samenwerking tussen bedrijven en vrije-softwaregemeenschappen. Voor Kuszka laten bewegingen als deze dat zien transparantie, bestuur en controleerbaarheid hebben de neiging zichzelf te consolideren als strategische onderscheidende factoren voor digitale platforms en op AI gebaseerde oplossingen.