Ketelusan dalam algoritma dapat memperkukuhkan kepercayaan dalam platform digital

Permintaan yang semakin meningkat untuk ketelusan dalam teknologi kecerdasan buatan telah mendorong syarikat dan organisasi untuk membincangkan cara untuk menjadikan algoritma lebih boleh diaudit. Menurut IBM, keupayaan untuk memahami bagaimana sistem automatik membuat keputusan adalah salah satu tonggak untuk meningkatkan kepercayaan pengguna dan memastikan akauntabiliti yang lebih besar dalam penggunaan AI. Dalam konteks ini, kemungkinan X (dahulunya Twitter) menjadikan kod algoritma cadangannya awam telah menghidupkan semula perdebatan tentang ketelusan di platform digital.

Membuka algoritma ini akan membolehkan penyelidik dan pembangun menganalisis cara kerjanya, mengenal pasti potensi bias dan menyumbang kepada penambahbaikannya. Walau bagaimanapun, pakar menekankan bahawa langkah ini hanya mewakili sebahagian daripada proses tersebut, kerana data latihan, model AI, infrastruktur dan dasar penyederhanaan biasanya kekal ditutup.

Menurut Boris Kuszka, Pengarah Teknologi di Red Hat Brazil, inisiatif ini sejajar dengan prinsip sumber terbuka, yang selama beberapa dekad telah menyokong ketelusan sebagai mekanisme untuk memacu inovasi dan kepercayaan. “Keterbukaan algoritma adalah selaras dengan prinsip yang telah dipertahankan oleh sumber terbuka selama beberapa dekad: ketelusan menjana kepercayaan, dan kepercayaan menjana inovasi. Apabila kod tersebut boleh diaudit, penyelidik, pembangun bebas dan komuniti itu sendiri akan mendapat pemahaman yang lebih baik tentang bagaimana keputusan dibuat, membolehkan mereka mengenal pasti bias dan menyumbang kepada evolusi platform,” jelasnya.

Pakar menekankan bahawa walaupun kesan terhadap pengguna akhir terutamanya akan berlaku di sebalik tabir, ketelusan yang lebih tinggi dapat memberi manfaat kepada pembangun, penyelidik dan pengiklan dengan menawarkan lebih banyak kebolehramalan tentang cara platform berfungsi. Tambahan pula, pembangunan sumber terbuka perlu disertai dengan proses berterusan untuk menyemak dan menangani kelemahan.

“Sumber terbuka, dengan sendirinya, tidak menentukan keselamatan sesebuah sistem. Perbezaannya terletak pada daya tindak balas organisasi, dengan semakan kod yang berterusan, pembetulan kerentanan yang pantas dan kerjasama aktif dengan komuniti,” kata Kuszka. 

Perdebatan ini mengikuti trend yang diperhatikan di seluruh pasaran. Baru-baru ini, IBM dan Red Hat mengumumkan Project Lightwell, satu inisiatif yang bertujuan untuk memperkukuh keselamatan ekosistem sumber terbuka melalui kecerdasan buatan dan kerjasama antara syarikat dan komuniti perisian percuma. Bagi Kuszka, pergerakan seperti ini menunjukkan bahawa ketelusan, tadbir urus dan kebolehauditan cenderung untuk menyatukan diri sebagai pembeza strategik untuk platform digital dan penyelesaian berasaskan AI.