Tính minh bạch trong thuật toán có thể củng cố niềm tin vào các nền tảng kỹ thuật số

Nhu cầu ngày càng tăng về tính minh bạch trong các công nghệ trí tuệ nhân tạo đã khiến các công ty và tổ chức thảo luận về cách thức làm cho các thuật toán dễ kiểm toán hơn. Theo IBM, khả năng hiểu được cách thức các hệ thống tự động đưa ra quyết định là một trong những trụ cột để tăng cường niềm tin của người dùng và đảm bảo trách nhiệm giải trình cao hơn trong việc sử dụng AI. Trong bối cảnh này, khả năng X (trước đây là Twitter) công khai mã nguồn thuật toán đề xuất của mình đã làm dấy lên cuộc tranh luận về tính minh bạch trên các nền tảng kỹ thuật số.

Việc công khai thuật toán sẽ cho phép các nhà nghiên cứu và nhà phát triển phân tích cách thức hoạt động của nó, xác định các sai lệch tiềm ẩn và đóng góp vào việc cải thiện nó. Tuy nhiên, các chuyên gia nhấn mạnh rằng biện pháp này chỉ là một phần của quá trình, vì dữ liệu huấn luyện, mô hình AI, cơ sở hạ tầng và chính sách kiểm duyệt thường vẫn được giữ kín.

Theo Boris Kuszka, Giám đốc Công nghệ tại Red Hat Brazil, sáng kiến ​​này phù hợp với các nguyên tắc của mã nguồn mở, vốn từ nhiều thập kỷ qua đã đề cao tính minh bạch như một cơ chế thúc đẩy đổi mới và lòng tin. Ông giải thích: “Tính mở của thuật toán phù hợp với một nguyên tắc mà mã nguồn mở đã bảo vệ trong nhiều thập kỷ: minh bạch tạo ra lòng tin, và lòng tin tạo ra sự đổi mới. Khi mã nguồn có thể được kiểm toán, các nhà nghiên cứu, nhà phát triển độc lập và chính cộng đồng sẽ hiểu rõ hơn về cách đưa ra quyết định, cho phép họ xác định các sai lệch và đóng góp vào sự phát triển của nền tảng.”.

Các chuyên gia nhấn mạnh rằng, mặc dù tác động đến người dùng cuối chủ yếu diễn ra ở hậu trường, nhưng tính minh bạch cao hơn có thể mang lại lợi ích cho các nhà phát triển, nhà nghiên cứu và nhà quảng cáo bằng cách cung cấp khả năng dự đoán tốt hơn về cách thức hoạt động của nền tảng. Hơn nữa, việc phát triển mã nguồn mở cần phải đi kèm với các quy trình liên tục để xem xét và giải quyết các lỗ hổng bảo mật.

“Bản thân mã nguồn mở không quyết định tính bảo mật của một hệ thống. Sự khác biệt nằm ở khả năng phản hồi của tổ chức, với việc liên tục xem xét mã nguồn, nhanh chóng vá các lỗ hổng và tích cực hợp tác với cộng đồng,” Kuszka nói. 

Cuộc tranh luận này phản ánh xu hướng được quan sát thấy trên toàn thị trường. Gần đây, IBM và Red Hat đã công bố Dự án Lightwell, một sáng kiến ​​nhằm tăng cường bảo mật cho hệ sinh thái mã nguồn mở thông qua trí tuệ nhân tạo và sự hợp tác giữa các công ty và cộng đồng phần mềm tự do. Đối với Kuszka, những động thái như vậy cho thấy tính minh bạch, quản trị và khả năng kiểm toán đang dần trở thành những yếu tố khác biệt chiến lược cho các nền tảng kỹ thuật số và các giải pháp dựa trên trí tuệ nhân tạo.