Прозрачността в алгоритмите може да засили доверието в цифровите платформи

Нарастващото търсене на прозрачност в технологиите за изкуствен интелект накара компании и организации да обсъждат начини за повишаване на одитабилността на алгоритмите. Според IBM, способността да се разбере как автоматизираните системи вземат решения е един от стълбовете за повишаване на доверието на потребителите и осигуряване на по-голяма отчетност при използването на изкуствен интелект. В този контекст, възможността X (бивш Twitter) да направи публично достояние кода на своя алгоритъм за препоръки, отново разпали дебата за прозрачността на цифровите платформи.

Отварянето на алгоритъма би позволило на изследователите и разработчиците да анализират неговото функциониране, да идентифицират потенциални отклонения и да допринесат за неговото подобрение. Експертите обаче подчертават, че тази мярка представлява само част от процеса, тъй като данните за обучение, моделите на изкуствен интелект, инфраструктурата и политиките за модериране обикновено остават затворени.

Според Борис Кушка, технологичен директор в Red Hat Brazil, инициативата е в съответствие с принципите на отворения код, които от десетилетия защитават прозрачността като механизъм за стимулиране на иновациите и доверието. „Отвореността на алгоритъма е в съответствие с принцип, който отвореният код защитава от десетилетия: прозрачността генерира доверие, а доверието генерира иновации. Когато кодът стане одитиран, изследователите, независимите разработчици и самата общност получават по-добро разбиране за това как се вземат решения, което им позволява да идентифицират пристрастия и да допринесат за еволюцията на платформата“, обяснява той.

Експертите подчертават, че макар въздействието върху крайния потребител да се осъществи предимно зад кулисите, по-голямата прозрачност може да е от полза за разработчиците, изследователите и рекламодателите, като предлага по-голяма предвидимост за това как работи платформата. Освен това, разработването с отворен код трябва да бъде съпроводено от непрекъснати процеси за преглед и отстраняване на уязвимости.

„Отвореният код сам по себе си не определя сигурността на системата. Разликата се състои в бързината на реакция на организацията, с непрекъснат преглед на кода, бързи корекции на уязвимости и активно сътрудничество с общността“, казва Кушка. 

Дебатът следва тенденция, наблюдавана на целия пазар. Наскоро IBM и Red Hat обявиха Project Lightwell, инициатива, насочена към укрепване на сигурността на екосистемата с отворен код чрез изкуствен интелект и сътрудничество между компании и общности за свободен софтуер. За Кушка движения като това показват, че прозрачността, управлението и одитираемостта са склонни да се консолидират като стратегически диференциращи фактори за цифровите платформи и решенията, базирани на изкуствен интелект.