Az algoritmusok átláthatósága erősítheti a digitális platformokba vetett bizalmat

A mesterséges intelligencia technológiák átláthatóságára irányuló növekvő igény arra késztette a vállalatokat és szervezeteket, hogy megvitassák az algoritmusok auditálhatóbbá tételének módjait. Az IBMaz automatizált rendszerek döntéshozatalának megértése az egyik pillére a felhasználói bizalom növelésének és a mesterséges intelligencia használatának nagyobb elszámoltathatóságának biztosításához. Ebben az összefüggésben az X (korábban Twitter) általi, ajánlási algoritmusának kódjának nyilvánosságra hozatalának lehetősége újraélesztette a digitális platformok átláthatóságáról szóló vitát.

Az algoritmus megnyitása lehetővé tenné a kutatók és fejlesztők számára, hogy elemezzék a működését, azonosítsák a lehetséges torzításokat, és hozzájáruljanak a fejlesztéséhez. A szakértők azonban hangsúlyozzák, hogy ez az intézkedés csak a folyamat egy részét képviseli, mivel a betanítási adatok, a mesterséges intelligencia modellek, az infrastruktúra és a moderálási szabályzatok jellemzően zárva maradnak.

Boris Kuszka, a Red Hat Brazil technológiai igazgatója szerint a kezdeményezés összhangban van a nyílt forráskódú szoftverek alapelveivel, amelyek évtizedek óta az átláthatóságot szorgalmazzák az innováció és a bizalom ösztönzésének mechanizmusaként. „Az algoritmus nyitottsága összhangban van egy olyan elvvel, amelyet a nyílt forráskód évtizedek óta véd: az átláthatóság bizalmat generál, a bizalom pedig innovációt. Amikor a kód auditálhatóvá válik, a kutatók, a független fejlesztők és maga a közösség is jobban megértik, hogyan születnek a döntések, lehetővé téve számukra az elfogultságok azonosítását és a platform fejlődéséhez való hozzájárulást” – magyarázza.

A szakértők hangsúlyozzák, hogy bár a végfelhasználóra gyakorolt ​​hatás elsősorban a színfalak mögött fog jelentkezni, a nagyobb átláthatóság a fejlesztők, kutatók és hirdetők számára is előnyös lehet, mivel nagyobb kiszámíthatóságot biztosít a platform működésével kapcsolatban. Továbbá a nyílt forráskódú fejlesztést a sebezhetőségek felülvizsgálatára és kezelésére irányuló folyamatos folyamatoknak kell kísérniük.

„A nyílt forráskód önmagában nem határozza meg egy rendszer biztonságát. A különbség a szervezet reagálóképességében rejlik, a folyamatos kódfelülvizsgálatban, a gyors sebezhetőségi javításokban és a közösséggel való aktív együttműködésben” – mondja Kuszka. 

A vita a piacon megfigyelhető trendet követi. A közelmúltban az IBM és a Red Hat bejelentette a Project Lightwellt, egy olyan kezdeményezést, amelynek célja a nyílt forráskódú ökoszisztéma biztonságának megerősítése mesterséges intelligencia, valamint a vállalatok és a szabad szoftveres közösségek közötti együttműködés révén. Kuszka számára az ehhez hasonló mozgalmak azt mutatják, hogy az átláthatóság, az irányítás és az auditálhatóság stratégiai megkülönböztető tényezőkké válnak a digitális platformok és a mesterséges intelligencia alapú megoldások esetében.