Mientras las empresas colombianas aceleran proyectos de inteligencia artificial para ganar eficiencia, reducir costos y “no quedarse atrás”, hay un aspecto que avanza mucho más lento: la gobernanza, la ética y el control de riesgos.
El resultado es una brecha peligrosa: organizaciones que incorporan IA en procesos críticos sin tener claro quién responde por las decisiones, cómo se controla el sesgo ni qué hacer cuando el sistema se equivoca.
Así lo advierte Jorge Vergara, CTO de IBM Colombia, apoyado en datos del IBM Institute for Business Value y el Notre Dame–IBM Tech Ethics Lab: la región reconoce que la IA ética genera más confianza y mejores resultados de negocio, pero muy pocas empresas tienen marcos y herramientas mínimas para gestionarla.
1. La adopción avanza; la gobernanza, no tanto
En Colombia y América Latina, la IA ya no es un experimento aislado:
- Se usa para:
- Evaluar crédito.
- Analizar riesgo.
- Automatizar atención al cliente.
- Apoyar diagnósticos.
- Optimizar cadenas de suministro.
Sin embargo, según Vergara:
“Las empresas apenas están adoptando inteligencia artificial, están tomando esa nueva tecnología y muchas de ellas tienen desconocimiento con respecto a lo que es la gobernanza o la soberanía, el control, el riesgo de la IA”.
Esto revela dos problemas de fondo:
- La IA se ve como un tema puramente técnico
- Se delega en TI o en ciencia de datos.
- No se incorpora en la agenda de riesgo, cumplimiento, jurídico o estrategia.
- No hay un modelo claro de responsabilidad
- Se asume, de forma implícita, que “la máquina decidió”.
- Se olvida lo fundamental: la responsabilidad nunca es de la IA, siempre es de las personas.
Desde una perspectiva de gestión, esto equivale a operar un sistema crítico sin manual, sin auditoría y sin responsable claro.
2. El mito de la IA neutral: los sesgos están en los datos, no en los algoritmos
Otro punto clave que subraya IBM es el origen de los sesgos:
“Debemos quitarnos de la mente la idea de que la tecnología no es sesgada.
Lo que es sesgado no es la máquina, son los datos con que alimentamos los modelos de inteligencia artificial”.
En términos técnicos:
- Un modelo de IA aprende patrones a partir de datos históricos.
- Si esos datos reflejan:
- Discriminación.
- Exclusiones.
- Desigualdades estructurales.
- El modelo tenderá a reproducir y amplificar esos sesgos.
Implications prácticas:
- Un modelo de crédito puede negar sistemáticamente préstamos a ciertos barrios o perfiles.
- Un sistema de selección de personal puede excluir mujeres o minorías sin que “nadie lo haya programado así”.
- Un modelo de scoring de riesgo puede penalizar a grupos históricamente marginados.
Sin herramientas de detección y mitigación de sesgo, las empresas no solo se exponen a riesgos reputacionales y legales, sino que toman peores decisiones de negocio.
3. Lo que dicen los datos: ética de la IA no es solo “cumplir”, es mejorar el desempeño
El estudio del IBM Institute for Business Value, en alianza con el Notre Dame–IBM Tech Ethics Lab, entrega un mensaje contundente:
- 57 % de los ejecutivos en América Latina afirma que las prácticas éticas en IA:
- Aumentan la confianza de los clientes.
- Mejoran la calidad del producto o servicio.
Es decir, la ética de IA no es un lujo ni un costo hundido, sino un motor real de valor.
Pero aquí viene la brecha:
- Solo 34 % utiliza herramientas básicas de ética en IA:
- Monitoreo de sesgos.
- Trazabilidad de decisiones.
- Explicabilidad de modelos.
Y, sin embargo:
- Los ejecutivos planean casi duplicar la inversión en IA ética, pasando:
- De 5,4 % del presupuesto de IA en 2023
- A 11 % en 2026.
A nivel global, las empresas que más invierten en ética de IA logran hasta 30 % más de beneficios operativos atribuibles a esta tecnología.
Traducción empresarial:
quien invierte en IA responsable, gana en confianza, calidad y retorno.
4. Gobernanza de la IA: mucho más que “ponerle reglas al modelo”
La conversación sobre gobernanza suele quedarse en frases generales. Sin embargo, en la práctica, implica al menos cuatro capas:
4.1 Modelo de responsabilidad
- Definir explícitamente:
- ¿Quién está autorizado para aprobar el uso de IA en un proceso crítico?
- ¿Quién responde si un modelo genera una decisión injusta o errónea?
- ¿Qué instancias revisan modelos antes de producción?
Sin este diseño, la rendición de cuentas se diluye.
4.2 Trazabilidad y explicabilidad
- Poder responder preguntas como:
- ¿Qué modelo tomó esta decisión?
- ¿Con qué versión, con qué datos y bajo qué condiciones?
- ¿Qué variables fueron más determinantes?
Aquí cobran sentido las herramientas que IBM despliega en Colombia: soluciones para identificar sesgos, garantizar trazabilidad y ofrecer explicabilidad de modelos y agentes de IA.
Si una empresa no puede explicar por qué la IA tomó una decisión, está aumentando su riesgo regulatorio, reputacional y operativo.
4.3 Gestión de ciclo de vida del modelo
- Desde el diseño hasta el retiro:
- ¿Quién valida los datos de entrenamiento?
- ¿Cada cuánto se reentrena el modelo?
- ¿Cómo se monitorea el desempeño y el sesgo en producción?
- ¿Qué disparadores obligan a revisar o desactivar un modelo?
La gobernanza de IA no es un “check” único, es un proceso continuo.
4.4 Integración con riesgo, cumplimiento y negocio
- La IA debe entrar a:
- Mapas de riesgo corporativo.
- Políticas de cumplimiento.
- Discusiones de estrategia, no sólo de tecnología.
Mientras esto no ocurra, la IA seguirá gestionándose como “un proyecto del área de datos”, en lugar de un sistema que afecta decisiones centrales del negocio.
5. Apertura e interoperabilidad: por qué la IA empresarial no puede depender de un solo proveedor
Vergara es explícito en un punto que muchos equipos técnicos ya perciben:
“Ninguna empresa en este tiempo pudiera pensar que puede trabajar con una única empresa”.
La realidad de la IA moderna es multi-modelo y multi-proveedor:
- Modelos de distintos fabricantes (IBM, OpenAI, Google, etc.).
- Sistemas propios entrenados con datos internos.
- Herramientas de terceros para monitoreo, seguridad y cumplimiento.
En este escenario, IBM apuesta por:
- Sistemas abiertos, capaces de integrar múltiples modelos.
- Enfoque de código abierto e interoperabilidad como condición para una gobernanza efectiva.
Desde la mirada de riesgo, esto es clave:
- Reduce dependencia extrema de un solo proveedor.
- Facilita cambiar de modelo si uno presenta sesgos, fallas o problemas de licenciamiento.
- Permite diseñar arquitecturas donde la gobernanza se aplica de forma consistente sobre cualquier modelo que la organización use.
6. Recomendaciones para empresas en Colombia: por dónde empezar a gobernar la IA
A partir de las advertencias y datos compartidos, hay una hoja de ruta mínima que toda organización debería considerar.
6.1 Reconocer que la IA es asunto de negocio, no solo de TI
- Involucrar a:
- Alta dirección.
- Riesgo y cumplimiento.
- Jurídico.
- Áreas de negocio que usan la IA.
- Definir un comité de IA (o integrarlo en instancias de riesgo) que:
- Evalúe casos de uso críticos.
- Priorice proyectos.
- Vigile riesgos reputacionales y éticos.
6.2 Diseñar un marco de gobernanza de IA
Como mínimo debe incluir:
- Políticas claras
- Qué tipo de decisiones se permite automatizar.
- Cuándo es obligatoria la intervención humana (human-in-the-loop).
- Roles y responsabilidades
- Dueños de modelo (model owners).
- Responsables de datos.
- Equipos de monitoreo.
- Procedimientos
- Pruebas de sesgo y robustez antes de desplegar un modelo.
- Auditorías periódicas.
- Planes de contingencia ante errores graves.
6.3 Implementar herramientas concretas
Ir más allá del PowerPoint e incorporar:
- Soluciones para:
- Detección y mitigación de sesgos.
- Registro y trazabilidad de versiones de modelos.
- Explicabilidad de decisiones (especialmente en crédito, salud, talento, justicia interna).
- Plataformas que permitan gobernar:
- Modelos propios.
- Modelos de terceros.
- Agentes de IA generativa utilizados en procesos sensibles.
6.4 Formar a la organización en riesgos y sesgos
- Capacitar no solo a desarrolladores, también a:
- Directivos.
- Analistas de negocio.
- Equipos de RR. HH., jurídico y riesgo.
- Temas clave:
- Qué es un sesgo algorítmico.
- Cómo se puede manifestar en su industria.
- Qué indicadores mirar para detectarlo.
6.5 Alinear la inversión con la ambición
Si una empresa planea:
- Aumentar el uso de IA en decisiones de alto impacto.
- Automatizar procesos críticos de cara al cliente.
Entonces, el presupuesto en ética y gobernanza de IA no puede seguir siendo marginal.
La referencia regional de pasar de 5,4 % a 11 % del presupuesto de IA es un buen punto de partida.
7. Conclusión: el verdadero rezago no es técnico, es de responsabilidad
Colombia y América Latina ya dieron el primer paso: la adopción de IA está en marcha.
El riesgo ahora no es quedarse sin IA, sino usar IA sin control.
Los datos lo muestran con claridad:
- La mayoría de ejecutivos reconoce que la IA ética:
- Mejora la confianza.
- Mejora la calidad.
- Mejora los resultados operativos.
- Pero muy pocas organizaciones tienen:
- Herramientas serias de ética de IA.
- Marcos de gobernanza claros.
- Responsabilidades definidas.
En este contexto, la advertencia de IBM es menos un llamado a frenar la innovación y más una invitación a madurar la forma en que se integra la IA al negocio.
Porque al final, por más sofisticado que sea el modelo, por más datos que procese o por más precisión que prometa, la responsabilidad nunca será de la máquina.
Será siempre de quienes —en Colombia y en cualquier país— decidieron diseñarla, desplegarla y confiar en ella sin asegurarse de que fuera gobernable, explicable y justa.
