Transparentnosť algoritmov môže posilniť dôveru v digitálne platformy

Rastúci dopyt po transparentnosti v technológiách umelej inteligencie viedol spoločnosti a organizácie k diskusii o spôsoboch, ako zvýšiť auditovateľnosť algoritmov. Podľa spoločnosti IBMje schopnosť pochopiť, ako automatizované systémy prijímajú rozhodnutia, jedným z pilierov pre zvýšenie dôvery používateľov a zabezpečenie väčšej zodpovednosti pri používaní umelej inteligencie. V tejto súvislosti možnosť, že spoločnosť X (predtým Twitter) zverejní kód svojho odporúčacieho algoritmu, znovu rozpútala diskusiu o transparentnosti na digitálnych platformách.

Otvorenie algoritmu by umožnilo výskumníkom a vývojárom analyzovať jeho fungovanie, identifikovať potenciálne skreslenia a prispieť k jeho zlepšeniu. Odborníci však zdôrazňujú, že toto opatrenie predstavuje len časť procesu, pretože tréningové údaje, modely umelej inteligencie, infraštruktúra a pravidlá moderovania zvyčajne zostávajú uzavreté.

Podľa Borisa Kuszku, technologického riaditeľa v Red Hat Brazil, je táto iniciatíva v súlade s princípmi open source, ktoré už desaťročia presadzujú transparentnosť ako mechanizmus na podporu inovácií a dôvery. „Otvorenosť algoritmu je v súlade s princípom, ktorý open source obhajuje už desaťročia: transparentnosť vytvára dôveru a dôvera vytvára inovácie. Keď sa kód stane auditovateľným, výskumníci, nezávislí vývojári a samotná komunita lepšie pochopia, ako sa prijímajú rozhodnutia, čo im umožní identifikovať predsudky a prispieť k vývoju platformy,“ vysvetľuje.

Odborníci zdôrazňujú, že hoci dopad na koncového používateľa sa prejaví predovšetkým v zákulisí, väčšia transparentnosť môže byť prospešná pre vývojárov, výskumníkov a inzerentov tým, že ponúka väčšiu predvídateľnosť fungovania platformy. Okrem toho, vývoj s otvoreným zdrojovým kódom musia sprevádzať priebežné procesy kontroly a riešenia zraniteľností.

„Open source sám o sebe neurčuje bezpečnosť systému. Rozdiel spočíva v schopnosti organizácie reagovať, s neustálou kontrolou kódu, rýchlymi opravami zraniteľností a aktívnou spoluprácou s komunitou,“ hovorí Kuszka. 

Debata sleduje trend pozorovaný na celom trhu. Spoločnosti IBM a Red Hat nedávno oznámili projekt Lightwell, iniciatívu zameranú na posilnenie bezpečnosti ekosystému s otvoreným zdrojovým kódom prostredníctvom umelej inteligencie a spolupráce medzi spoločnosťami a komunitami slobodného softvéru. Pre Kuszku takéto hnutia dokazujú, že transparentnosť, riadenie a auditovateľnosť majú tendenciu sa konsolidovať ako strategické rozlišovacie prvky pre digitálne platformy a riešenia založené na umelej inteligencii.