Przejrzystość algorytmów może wzmocnić zaufanie do platform cyfrowych

Rosnące zapotrzebowanie na transparentność w technologiach sztucznej inteligencji skłoniło firmy i organizacje do dyskusji na temat sposobów zwiększenia audytowalności algorytmów. Według IBM, możliwość zrozumienia, w jaki sposób zautomatyzowane systemy podejmują decyzje, jest jednym z filarów budowania zaufania użytkowników i zapewnienia większej odpowiedzialności w zakresie korzystania ze sztucznej inteligencji. W tym kontekście możliwość upublicznienia kodu algorytmu rekomendacji przez X (dawniej Twitter) ożywiła debatę na temat transparentności na platformach cyfrowych.

Udostępnienie algorytmu umożliwiłoby badaczom i programistom analizę jego działania, identyfikację potencjalnych błędów i wkład w jego udoskonalanie. Eksperci podkreślają jednak, że ten krok stanowi jedynie część procesu, ponieważ dane treningowe, modele sztucznej inteligencji, infrastruktura i zasady moderacji zazwyczaj pozostają zamknięte.

Według Borisa Kuszki, dyrektora ds. technologii w Red Hat Brazil, inicjatywa ta jest zgodna z zasadami open source, które od dziesięcioleci promują przejrzystość jako mechanizm napędzający innowacyjność i zaufanie. „Otwartość algorytmu jest zgodna z zasadą, której open source broni od dziesięcioleci: przejrzystość generuje zaufanie, a zaufanie generuje innowacyjność. Gdy kod staje się audytowalny, badacze, niezależni programiści i sama społeczność lepiej rozumieją, jak podejmowane są decyzje, co pozwala im identyfikować błędy i przyczyniać się do rozwoju platformy” – wyjaśnia.

Eksperci podkreślają, że chociaż wpływ na użytkownika końcowego będzie miał miejsce głównie za kulisami, większa przejrzystość może przynieść korzyści programistom, badaczom i reklamodawcom, zapewniając większą przewidywalność działania platformy. Co więcej, rozwojowi oprogramowania open source muszą towarzyszyć ciągłe procesy weryfikacji i usuwania luk w zabezpieczeniach.

„Sam open source nie decyduje o bezpieczeństwie systemu. Różnica tkwi w responsywności organizacji, ciągłym przeglądzie kodu, szybkim usuwaniu luk w zabezpieczeniach i aktywnej współpracy ze społecznością” – mówi Kuszka. 

Debata wpisuje się w trend obserwowany na całym rynku. Niedawno IBM i Red Hat ogłosiły Project Lightwell, inicjatywę mającą na celu wzmocnienie bezpieczeństwa ekosystemu open source poprzez sztuczną inteligencję oraz współpracę między firmami a społecznościami wolnego oprogramowania. Dla Kuszki takie działania pokazują, że przejrzystość, zarządzanie i audytowalność umacniają się jako strategiczne wyróżniki platform cyfrowych i rozwiązań opartych na sztucznej inteligencji.