Празрыстасць алгарытмаў можа ўмацаваць давер да лічбавых платформаў

Растучы попыт на празрыстасць у тэхналогіях штучнага інтэлекту прымусіў кампаніі і арганізацыі абмеркаваць спосабы павышэння праверкі алгарытмаў. Паводле IBM, здольнасць разумець, як аўтаматызаваныя сістэмы прымаюць рашэнні, з'яўляецца адным з асноўных фактараў павышэння даверу карыстальнікаў і забеспячэння большай падсправаздачнасці пры выкарыстанні штучнага інтэлекту. У гэтым кантэксце магчымасць таго, што X (раней Twitter) апублікуе код свайго алгарытму рэкамендацый, зноў абудзіла дыскусію аб празрыстасці на лічбавых платформах.

Адкрыццё алгарытму дазволіла б даследчыкам і распрацоўшчыкам прааналізаваць яго працу, выявіць патэнцыйныя недахопы і ўнесці свой уклад у яго ўдасканаленне. Аднак эксперты падкрэсліваюць, што гэтая мера ўяўляе сабой толькі частку працэсу, паколькі навучальныя дадзеныя, мадэлі штучнага інтэлекту, інфраструктура і палітыка мадэрацыі звычайна застаюцца закрытымі.

Паводле слоў Барыса Кушкі, дырэктара па тэхналогіях Red Hat Brazil, ініцыятыва адпавядае прынцыпам адкрытага зыходнага кода, якія на працягу дзесяцігоддзяў выступаюць за празрыстасць як механізм стымулявання інавацый і даверу. «Адкрытасць алгарытму адпавядае прынцыпу, які адкрыты зыходны код абараняў на працягу дзесяцігоддзяў: празрыстасць спараджае давер, а давер спараджае інавацыі. Калі код становіцца прыдатным для аўдыту, даследчыкі, незалежныя распрацоўшчыкі і сама супольнасць лепш разумеюць, як прымаюцца рашэнні, што дазваляе ім выяўляць прадузятасці і ўносіць свой уклад у развіццё платформы», — тлумачыць ён.

Эксперты падкрэсліваюць, што, хоць уплыў на канчатковага карыстальніка будзе ў асноўным адбывацца за кулісамі, большая празрыстасць можа прынесці карысць распрацоўшчыкам, даследчыкам і рэкламадаўцам, прапаноўваючы большую прадказальнасць таго, як працуе платформа. Акрамя таго, распрацоўка з адкрытым зыходным кодам павінна суправаджацца пастаяннымі працэсамі праверкі і ліквідацыі ўразлівасцей.

«Адкрыты зыходны код сам па сабе не вызначае бяспеку сістэмы. Розніца заключаецца ў хуткасці рэагавання арганізацыі, якая забяспечвае пастаянны прагляд кода, хуткае выпраўленне ўразлівасцяў і актыўнае супрацоўніцтва з супольнасцю», — кажа Кушка. 

Дыскусія адпавядае тэндэнцыі, якая назіраецца на ўсім рынку. Нядаўна IBM і Red Hat абвясцілі пра праект Lightwell— ініцыятыву, накіраваную на ўмацаванне бяспекі экасістэмы адкрытага зыходнага кода з дапамогай штучнага інтэлекту і супрацоўніцтва паміж кампаніямі і супольнасцямі свабоднага праграмнага забеспячэння. На думку Кушкі, такія рухі дэманструюць, што празрыстасць, кіраванне і магчымасць аўдыту, правіла, кансалідуюцца як стратэгічныя адметныя рысы для лічбавых платформаў і рашэнняў на аснове штучнага інтэлекту.