Прозорість алгоритмів може зміцнити довіру до цифрових платформ

Зростаючий попит на прозорість у технологіях штучного інтелекту спонукав компанії та організації обговорювати способи підвищення аудиту алгоритмів. За даними IBM, здатність розуміти, як автоматизовані системи приймають рішення, є одним із стовпів підвищення довіри користувачів та забезпечення більшої підзвітності у використанні ШІ. У цьому контексті можливість того, що X (раніше Twitter) оприлюднить код свого алгоритму рекомендацій, знову розпалила дебати щодо прозорості на цифрових платформах.

Відкриття алгоритму дозволить дослідникам та розробникам аналізувати його роботу, виявляти потенційні упередження та робити внесок у його вдосконалення. Однак експерти наголошують, що цей захід є лише частиною процесу, оскільки навчальні дані, моделі штучного інтелекту, інфраструктура та політики модерації зазвичай залишаються закритими.

За словами Бориса Кушки, директора з технологій Red Hat Brazil, ця ініціатива відповідає принципам відкритого коду, які десятиліттями виступали за прозорість як механізм стимулювання інновацій та довіри. «Відкритість алгоритму відповідає принципу, який відкритий код захищав десятиліттями: прозорість породжує довіру, а довіра породжує інновації. Коли код стає придатним для аудиту, дослідники, незалежні розробники та сама спільнота отримують краще розуміння того, як приймаються рішення, що дозволяє їм виявляти упередження та робити свій внесок у розвиток платформи», – пояснює він.

Експерти наголошують, що хоча вплив на кінцевого користувача відбуватиметься переважно за лаштунками, більша прозорість може бути корисною для розробників, дослідників та рекламодавців, пропонуючи більшу передбачуваність щодо того, як працює платформа. Крім того, розробка з відкритим кодом повинна супроводжуватися постійними процесами перевірки та усунення вразливостей.

«Відкритий код сам по собі не визначає безпеку системи. Різниця полягає в оперативності організації, яка забезпечує постійний перегляд коду, швидке виправлення вразливостей та активну співпрацю зі спільнотою», — каже Кушка. 

Дебати відповідають тенденції, що спостерігається на всьому ринку. Нещодавно IBM та Red Hat оголосили про проект Lightwell– ініціативу, спрямовану на зміцнення безпеки екосистеми відкритого коду за допомогою штучного інтелекту та співпраці між компаніями та спільнотами вільного програмного забезпечення. Для Кушки такі рухи демонструють, що прозорість, управління та можливість аудиту мають тенденцію консолідуватися як стратегічні відмінності для цифрових платформ та рішень на основі штучного інтелекту.