Ang lumalaking pangangailangan para sa transparency sa mga teknolohiya ng artificial intelligence ay humantong sa mga kumpanya at organisasyon na talakayin ang mga paraan upang gawing mas auditable ang mga algorithm. Ayon sa IBM, ang kakayahang maunawaan kung paano gumagawa ng mga desisyon ang mga automated system ay isa sa mga haligi para sa pagtaas ng tiwala ng user at pagtiyak ng mas malaking pananagutan sa paggamit ng AI. Sa kontekstong ito, ang posibilidad na gawing pampubliko ng X (dating Twitter) ang code ng rekomendasyon nitong algorithm ay muling nagpasiklab ng debate tungkol sa transparency sa mga digital platform.
Ang pagbubukas ng algorithm ay magbibigay-daan sa mga mananaliksik at developer na suriin ang mga paggana nito, tukuyin ang mga potensyal na bias, at mag-ambag sa pagpapabuti nito. Gayunpaman, binibigyang-diin ng mga eksperto na ang hakbang na ito ay kumakatawan lamang sa bahagi ng proseso, dahil ang data ng pagsasanay, mga modelo ng AI, imprastraktura, at mga patakaran sa moderasyon ay karaniwang nananatiling sarado.
Ayon kay Boris Kuszka, Direktor ng Teknolohiya sa Red Hat Brazil, ang inisyatibo ay naaayon sa mga prinsipyo ng open source, na sa loob ng mga dekada ay nagtataguyod ng transparency bilang isang mekanismo upang magtulak ng inobasyon at tiwala. "Ang pagiging bukas ng algorithm ay naaayon sa isang prinsipyong ipinagtanggol ng open source sa loob ng mga dekada: ang transparency ay bumubuo ng tiwala, at ang tiwala ay bumubuo ng inobasyon. Kapag ang code ay naging auditable, ang mga mananaliksik, mga independiyenteng developer, at ang komunidad mismo ay nagkakaroon ng mas mahusay na pag-unawa sa kung paano ginagawa ang mga desisyon, na nagbibigay-daan sa kanila na matukoy ang mga bias at makapag-ambag sa ebolusyon ng platform," paliwanag niya.
Binigyang-diin ng mga eksperto na bagama't ang epekto sa end user ay pangunahing magaganap sa likod ng mga eksena, ang mas malawak na transparency ay maaaring makinabang sa mga developer, mananaliksik, at advertiser sa pamamagitan ng pag-aalok ng higit na predictability tungkol sa kung paano gumagana ang platform. Bukod pa rito, ang open-source development ay kailangang samahan ng patuloy na mga proseso para sa pagsusuri at pagtugon sa mga kahinaan.
"Ang open source, sa ganang sarili nito, ay hindi nagtatakda ng seguridad ng isang sistema. Ang pagkakaiba ay nasa kakayahang tumugon ng organisasyon, na may patuloy na pagsusuri ng code, mabilis na pag-aayos ng mga kahinaan, at aktibong pakikipagtulungan sa komunidad," sabi ni Kuszka.
Ang debate ay sumusunod sa isang trend na naobserbahan sa buong merkado. Kamakailan lamang, inanunsyo ng IBM at Red Hat ang Project Lightwell, isang inisyatibo na naglalayong palakasin ang seguridad ng open source ecosystem sa pamamagitan ng artificial intelligence at kolaborasyon sa pagitan ng mga kumpanya at mga komunidad ng libreng software. Para kay Kuszka, ang mga kilusang tulad nito ay nagpapakita na ang transparency, pamamahala, at auditability ay may posibilidad na magsama-sama bilang mga estratehikong pagkakaiba para sa mga digital platform at mga solusyon na nakabatay sa AI.
