Algoritmų skaidrumas gali sustiprinti pasitikėjimą skaitmeninėmis platformomis

Augantis dirbtinio intelekto technologijų skaidrumo poreikis paskatino įmones ir organizacijas aptarti būdus, kaip algoritmus padaryti lengviau audituojamus. Pasak IBM, gebėjimas suprasti, kaip automatizuotos sistemos priima sprendimus, yra vienas iš ramsčių didinant vartotojų pasitikėjimą ir užtikrinant didesnę atskaitomybę naudojant dirbtinį intelektą. Šiame kontekste galimybė, kad X (anksčiau „Twitter“) paviešins savo rekomendacijų algoritmo kodą, vėl pakurstė diskusijas apie skaidrumą skaitmeninėse platformose.

Algoritmo atvėrimas leistų tyrėjams ir kūrėjams analizuoti jo veikimą, nustatyti galimus šališkumus ir prisidėti prie jo tobulinimo. Tačiau ekspertai pabrėžia, kad ši priemonė yra tik dalis proceso, nes mokymo duomenys, dirbtinio intelekto modeliai, infrastruktūra ir moderavimo politika paprastai lieka neatskleista.

Pasak „Red Hat Brazil“ technologijų direktoriaus Boriso Kuszkos, iniciatyva atitinka atvirojo kodo principus, kurie dešimtmečius propagavo skaidrumą kaip inovacijų ir pasitikėjimo skatinimo mechanizmą. „Algoritmo atvirumas atitinka principą, kurį atvirasis kodas gynė dešimtmečius: skaidrumas kuria pasitikėjimą, o pasitikėjimas – inovacijas. Kai kodas tampa audituojamas, tyrėjai, nepriklausomi kūrėjai ir pati bendruomenė geriau supranta, kaip priimami sprendimai, o tai leidžia jiems nustatyti šališkumą ir prisidėti prie platformos evoliucijos“, – aiškina jis.

Ekspertai pabrėžia, kad nors poveikis galutiniam vartotojui pirmiausia bus juntamas užkulisiuose, didesnis skaidrumas gali būti naudingas kūrėjams, tyrėjams ir reklamuotojams, nes suteikia daugiau nuspėjamumo apie platformos veikimą. Be to, atvirojo kodo kūrimą turi lydėti nuolatiniai procesai, skirti peržiūrėti ir pašalinti pažeidžiamumus.

„Atvirasis kodas pats savaime nenulemia sistemos saugumo. Skirtumas slypi organizacijos reagavimo gebėjime – nuolat peržiūrimo kodo peržiūroje, greitame pažeidžiamumų taisyme ir aktyviame bendradarbiavime su bendruomene“, – sako Kuszka. 

Diskusijos seka visoje rinkoje pastebėtą tendenciją. Neseniai IBM ir „Red Hat“ paskelbė apie „Project Lightwell“– iniciatyvą, kuria siekiama sustiprinti atvirojo kodo ekosistemos saugumą pasitelkiant dirbtinį intelektą ir įmonių bei laisvosios programinės įrangos bendruomenių bendradarbiavimą. Kuszkos nuomone, tokie judėjimai rodo, kad skaidrumas, valdymas ir audituojamumas linkę įsitvirtinti kaip strateginiai skaitmeninių platformų ir dirbtiniu intelektu pagrįstų sprendimų diferenciacijos veiksniai.