La transparencia en los algoritmos puede reforzar la confianza en las plataformas digitales

La creciente demanda de transparencia en las tecnologías de inteligencia artificial ha llevado a empresas y organizaciones a debatir cómo mejorar la auditabilidad de los algoritmos. Según IBM, comprender cómo toman decisiones los sistemas automatizados es uno de los pilares para aumentar la confianza del usuario y garantizar una mayor rendición de cuentas en el uso de la IA. En este contexto, la posibilidad de que X (antes Twitter) haga público el código de su algoritmo de recomendaciones ha reavivado el debate sobre la transparencia en las plataformas digitales.

Abrir el algoritmo permitiría a investigadores y desarrolladores analizar su funcionamiento, identificar posibles sesgos y contribuir a su mejora. Sin embargo, los expertos recalcan que esta medida representa solo una parte del proceso, ya que los datos de entrenamiento, los modelos de IA, la infraestructura y las políticas de moderación suelen permanecer cerrados.

Según Boris Kuszka, director de tecnología de Red Hat Brasil, la iniciativa se alinea con los principios del código abierto, que durante décadas han defendido la transparencia como mecanismo para impulsar la innovación y la confianza. «La apertura del algoritmo es coherente con un principio que el código abierto ha defendido durante décadas: la transparencia genera confianza, y la confianza genera innovación. Cuando el código se vuelve auditable, los investigadores, los desarrolladores independientes y la propia comunidad comprenden mejor cómo se toman las decisiones, lo que les permite identificar sesgos y contribuir a la evolución de la plataforma», explica.

Los expertos destacan que, si bien el impacto en el usuario final se producirá principalmente de forma interna, una mayor transparencia puede beneficiar a desarrolladores, investigadores y anunciantes al ofrecerles mayor previsibilidad sobre el funcionamiento de la plataforma. Además, el desarrollo de código abierto debe ir acompañado de procesos continuos para revisar y solucionar las vulnerabilidades.

“El código abierto, por sí solo, no determina la seguridad de un sistema. La diferencia radica en la capacidad de respuesta de la organización, con revisiones continuas del código, correcciones rápidas de vulnerabilidades y una colaboración activa con la comunidad”, afirma Kuszka. 

El debate sigue una tendencia observada en todo el mercado. Recientemente, IBM y Red Hat anunciaron Project Lightwell, una iniciativa destinada a fortalecer la seguridad del ecosistema de código abierto mediante inteligencia artificial y la colaboración entre empresas y comunidades de software libre. Para Kuszka, iniciativas como esta demuestran que la transparencia, la gobernanza y la auditabilidad tienden a consolidarse como factores estratégicos diferenciadores para las plataformas digitales y las soluciones basadas en IA.