Transparentnost algoritmů může posílit důvěru v digitální platformy

Rostoucí poptávka po transparentnosti v technologiích umělé inteligence vedla firmy a organizace k diskusi o způsobech, jak algoritmy zvýšit auditovatelnější. Podle společnosti IBMje schopnost porozumět tomu, jak automatizované systémy činí rozhodnutí, jedním z pilířů pro zvýšení důvěry uživatelů a zajištění větší odpovědnosti při používání umělé inteligence. V této souvislosti možnost, že společnost X (dříve Twitter) zveřejní kód svého doporučovacího algoritmu, znovu rozpoutala debatu o transparentnosti na digitálních platformách.

Otevření algoritmu by umožnilo výzkumníkům a vývojářům analyzovat jeho fungování, identifikovat potenciální zkreslení a přispět k jeho vylepšení. Odborníci však zdůrazňují, že toto opatření představuje pouze část procesu, protože tréninková data, modely umělé inteligence, infrastruktura a zásady moderování obvykle zůstávají uzavřené.

Podle Borise Kuszky, technologického ředitele společnosti Red Hat Brazil, je tato iniciativa v souladu s principy open source, které po celá desetiletí prosazují transparentnost jako mechanismus pro podporu inovací a důvěry. „Otevřenost algoritmu je v souladu s principem, který open source po celá desetiletí hájí: transparentnost generuje důvěru a důvěra generuje inovace. Když se kód stane auditovatelným, výzkumníci, nezávislí vývojáři a samotná komunita lépe pochopí, jak se rozhoduje, což jim umožní identifikovat zkreslení a přispět k vývoji platformy,“ vysvětluje.

Odborníci zdůrazňují, že ačkoli dopad na koncového uživatele bude mít především v zákulisí, větší transparentnost může být přínosem pro vývojáře, výzkumníky a inzerenty, protože nabízí větší předvídatelnost ohledně fungování platformy. Vývoj open-source aplikací musí být navíc doprovázen průběžnými procesy kontroly a řešení zranitelností.

„Open source sám o sobě neurčuje bezpečnost systému. Rozdíl spočívá v schopnosti organizace reagovat, s neustálou kontrolou kódu, rychlými opravami zranitelností a aktivní spoluprací s komunitou,“ říká Kuszka. 

Debata sleduje trend pozorovaný na celém trhu. Nedávno společnosti IBM a Red Hat oznámily projekt Lightwell, iniciativu zaměřenou na posílení bezpečnosti ekosystému open source prostřednictvím umělé inteligence a spolupráce mezi společnostmi a komunitami svobodného softwaru. Pro Kuszku tato hnutí ukazují, že transparentnost, správa a auditovatelnost mají tendenci se konsolidovat jako strategické rozlišovací znaky pro digitální platformy a řešení založená na umělé inteligenci.