Desafíos en la creación de un programa de gobernanza de inteligencia artificial

La inteligencia artificial se ha convertido en el motor de una nueva generación de aplicaciones, productos y servicios. Este avance trae consigo la necesidad de ordenar su uso mediante prácticas de gobernanza que garanticen la calidad de todo el ciclo de vida tecnológico. Además, la aparición de regulaciones como la EU AI Act convierte lo que antes era una buena práctica en un requerimiento obligatorio, elevando la exigencia a nivel empresarial y de cumplimiento normativo.

El primer desafío en la creación de un programa de AI Governance es asignar responsabilidades claras. En grandes corporaciones ya existen roles dedicados como AI Governance Lead, pero en organizaciones más pequeñas estas funciones suelen recaer en áreas de GRC, Seguridad, Privacidad y Legal. Lo esencial es que exista una persona o equipo responsable de coordinar todos los requerimientos, asegurando coherencia en la implementación.

Otro reto clave es equilibrar la innovación con el cumplimiento. La velocidad del desarrollo de soluciones de IA genera brechas que pueden volverse críticas si no se aplican principios de “AI by Design”. Innovar sin integrar controles desde el inicio puede parecer más barato, pero se traduce en riesgos y costos elevados en el futuro.

Los riesgos más visibles de la IA surgen del desarrollo y entrenamiento de los modelos. Un diseño defectuoso puede producir sesgos discriminatorios, decisiones opacas o resultados no éticos. También existen riesgos de seguridad en los datos de entrenamiento y de privacidad. Gestionar estos riesgos requiere tanto controles técnicos como evaluaciones periódicas de impacto.

En el plano regulatorio, la EU AI Act establece categorías de riesgo y mayores obligaciones para sistemas de alto riesgo (salud, empleo, infraestructuras críticas). Este enfoque se complementa con otras normativas como el GDPR y con estándares internacionales como NIST RMF 600-1 e ISO/IEC 42001:2023.

Finalmente, ningún programa de AI Governance es completo sin una cultura organizacional sólida. La AI literacy o alfabetización en inteligencia artificial es fundamental: todos los empleados deben comprender cómo se usa la IA. Esta conciencia colectiva permite un uso responsable, reduce riesgos y facilita la confianza y transparencia.

Por Uriel Bekerman, Director de GRC en Enveedo.