Прозрачность алгоритмов может укрепить доверие к цифровым платформам

Растущий спрос на прозрачность в технологиях искусственного интеллекта побудил компании и организации обсуждать способы повышения проверяемости алгоритмов. По данным IBM, способность понимать, как автоматизированные системы принимают решения, является одним из столпов повышения доверия пользователей и обеспечения большей подотчетности при использовании ИИ. В этом контексте возможность публикации компанией X (ранее Twitter) кода своего алгоритма рекомендаций вновь разожгла дискуссию о прозрачности на цифровых платформах.

Открытие доступа к алгоритму позволило бы исследователям и разработчикам анализировать его работу, выявлять потенциальные искажения и вносить вклад в его улучшение. Однако эксперты подчеркивают, что эта мера представляет собой лишь часть процесса, поскольку обучающие данные, модели ИИ, инфраструктура и политика модерации обычно остаются закрытыми.

По словам Бориса Кушки, директора по технологиям Red Hat Brazil, эта инициатива соответствует принципам открытого исходного кода, которые на протяжении десятилетий отстаивали прозрачность как механизм стимулирования инноваций и доверия. «Открытость алгоритма согласуется с принципом, который открытый исходный код отстаивал десятилетиями: прозрачность порождает доверие, а доверие порождает инновации. Когда код становится доступным для аудита, исследователи, независимые разработчики и само сообщество получают лучшее понимание того, как принимаются решения, что позволяет им выявлять предвзятость и вносить вклад в развитие платформы», — объясняет он.

Эксперты подчеркивают, что, хотя влияние на конечного пользователя будет в основном проявляться «за кулисами», большая прозрачность может принести пользу разработчикам, исследователям и рекламодателям, обеспечивая большую предсказуемость в работе платформы. Кроме того, разработка открытого исходного кода должна сопровождаться постоянными процессами проверки и устранения уязвимостей.

«Сам по себе открытый исходный код не определяет безопасность системы. Разница заключается в оперативности организации, которая проводит непрерывный анализ кода, быстро устраняет уязвимости и активно сотрудничает с сообществом», — говорит Кушка. 

Дискуссия разворачивается на фоне тенденции, наблюдаемой на рынке. Недавно IBM и Red Hat объявили о запуске проекта Lightwell— инициативы, направленной на укрепление безопасности экосистемы открытого исходного кода с помощью искусственного интеллекта и сотрудничества между компаниями и сообществами свободного программного обеспечения. По мнению Кушки, подобные движения демонстрируют, что прозрачность, управление и возможность аудита, как правило, становятся стратегическими конкурентными преимуществами цифровых платформ и решений на основе ИИ.