人工智慧技術透明度需求的日益增長,促使企業和組織探討如何提高演算法的可審計性。 IBM指出 再次引發了關於數位平台透明度的討論。
開放演算法將允許研究人員和開發人員分析其運作機制,識別潛在的偏差,並為其改進做出貢獻。然而,專家強調,這項措施只是整個過程的一部分,因為訓練資料、人工智慧模型、基礎設施和審核策略通常仍然是封閉的。.
據紅帽巴西技術總監 Boris Kuszka 稱,這項舉措符合開源原則,開源數十年來一直倡導透明,將其作為推動創新和建立信任的機制。 「演算法的開放性與開源數十年來一直捍衛的原則相符:透明帶來信任,信任帶來創新。當程式碼可審計時,研究人員、獨立開發者和社群本身就能更好地了解決策是如何做出的,從而能夠識別偏差並為平台的演進做出貢獻。」他解釋道。.
專家強調,雖然對最終用戶的影響主要體現在幕後,但更高的透明度能夠讓開發者、研究人員和廣告商更清楚地了解平台的運作方式,從而使他們從中受益。此外,開源開發需要配套持續的漏洞審查和修復流程。.
「開源本身並不能決定係統的安全性。區別在於組織的響應速度,包括持續的程式碼審查、快速的漏洞修復以及與社區的積極協作,」庫什卡說。.
這場爭論呼應了整個市場普遍存在的趨勢。近期,IBM 和 Red Hat 宣布啟動 「Lightwell 計畫」,旨在透過人工智慧以及企業與自由軟體社群之間的合作,加強開源生態系統的安全性。庫什卡認為,此類舉措表明, 透明度、治理和可審計性 正逐漸成為數位平台和人工智慧解決方案的策略差異化因素。



