Растечката побарувачка за транспарентност во технологиите за вештачка интелигенција ги наведе компаниите и организациите да дискутираат за начини за подобрување на ревизијата на алгоритмите. Според IBM, способноста да се разбере како автоматизираните системи донесуваат одлуки е еден од столбовите за зголемување на довербата на корисниците и обезбедување поголема одговорност во користењето на вештачката интелигенција. Во овој контекст, можноста X (порано Twitter) да го објави кодот на својот алгоритам за препораки јавно ја разгоре дебатата за транспарентноста на дигиталните платформи.
Отворањето на алгоритмот би им овозможило на истражувачите и програмерите да го анализираат неговото функционирање, да идентификуваат потенцијални пристрасности и да придонесат за негово подобрување. Сепак, експертите нагласуваат дека оваа мерка претставува само дел од процесот, бидејќи податоците за обука, моделите на вештачка интелигенција, инфраструктурата и политиките за модерација обично остануваат затворени.
Според Борис Кушка, директор за технологија во Red Hat Brazil, иницијативата е во согласност со принципите на отворениот код, кои со децении се залагаат за транспарентност како механизам за поттикнување на иновациите и довербата. „Отвореноста на алгоритмот е во согласност со принципот што отворениот код го брани со децении: транспарентноста генерира доверба, а довербата генерира иновации. Кога кодот ќе стане ревидиран, истражувачите, независните развивачи и самата заедница добиваат подобро разбирање за тоа како се донесуваат одлуките, овозможувајќи им да идентификуваат пристрасности и да придонесат за еволуцијата на платформата“, објаснува тој.
Експертите нагласуваат дека иако влијанието врз крајниот корисник првенствено ќе се случи зад сцената, поголемата транспарентност може да им користи на програмерите, истражувачите и огласувачите, нудејќи поголема предвидливост за тоа како функционира платформата. Понатаму, развојот на отворен код треба да биде придружен со континуирани процеси за преглед и решавање на ранливостите.
„Самиот по себе, отворениот код не ја одредува безбедноста на системот. Разликата лежи во одзивот на организацијата, со континуиран преглед на кодот, брзи поправки на ранливости и активна соработка со заедницата“, вели Кушка.
Дебатата следи тренд што се забележува низ целиот пазар. Неодамна, IBM и Red Hat го објавија Project Lightwell, иницијатива насочена кон зајакнување на безбедноста на екосистемот со отворен код преку вештачка интелигенција и соработка помеѓу компаниите и заедниците за слободен софтвер. За Кушка, движења како ова покажуваат дека транспарентноста, управувањето и ревизибилноста имаат тенденција да се консолидираат како стратешки диференцијатори за дигиталните платформи и решенијата базирани на вештачка интелигенција.
