Jennifer Galindo de Bluetab explica la importancia de la gobernanza en la IA.
Hay una fiebre colectiva en el mundo corporativo por colgarle algoritmos a cualquier proceso básico de oficina. Parece que hoy, si una empresa no presume que está usando modelos generativos para cualquier tontería, se quedó en el siglo pasado. Sin embargo, entender el alcance de la gobernanza de la inteligencia artificial se ha convertido en una prioridad absoluta para evitar que el entusiasmo tecnológico termine en desastre financiero, brechas de seguridad o un daño de reputación del que ninguna campaña de relaciones públicas te puede salvar.
Jennifer Galindo, Business Development Manager de Bluetab explicó en Pixelados la importancia de la gobernanza de la inteligencia artificial y cómo afectará el panorama tecnológico en Colombia al exigir a las compañías definir límites previos, trazabilidad de datos y supervisión humana activa antes de desplegar agentes autónomos.
Otros datos: ¿Adiós a los tokens? AMD quiere cambiar cómo medimos la IA
Por qué soltar un agente autónomo sin límites es una receta para el desastre
Existe la falsa creencia de que implementar tecnología es simplemente comprar una licencia costosa, presionar un botón y dejar que la máquina haga todo el trabajo duro. La realidad es bastante más fría. Para Jennifer Galindo, la discusión sobre el gobierno de estos sistemas no empieza en el código ni en la infraestructura en la nube, sino en la estructura organizativa de la empresa.
Galindo recurre a una analogía cotidiana para ilustrar la gravedad de entregarle autonomía a un sistema sin haber marcado la cancha previamente.
Cuando uno empieza a hablar de gobernanza, lo más importante es entender muy bien los roles dentro de la operación y sus procesos. Es como cuando uno le presta un carro a un adolescente: antes de entregarle las llaves, debería explicarle qué puede hacer, qué no y cuáles son las precauciones. Porque, una vez ocurre un accidente, ya tenemos un problema”
Jennifer Galindo, Business Development Manager de Bluetab
A ver, esto significa que la supervisión no es un freno de mano para la innovación, sino una póliza de seguro. La experta insiste en que el concepto de human in the loop (humano en el ciclo) debe mantenerse intacto. No se trata de desconfiar del software, sino de aplicar sentido común elemental. Las personas deben supervisar, validar y mantener la responsabilidad final del proceso. La tecnología es el asistente, no el dueño del negocio.
Más datos: James Dyson Award Colombia premia prótesis 3D accesible
El peligro de hacer fotocopias con IA y la pregunta que nadie quiere responder
Entramos a una etapa donde muchas organizaciones están implementando soluciones automáticas simplemente por la presión del mercado o por moda. Es el fenómeno de querer sacar fotocopias o preparar el café con modelos generativos solo para decir en la junta directiva que están a la vanguardia.
El problema de este enfoque indiscriminado aparece cuando el sistema comete un error grave. En ese instante, cuando los datos se corrompen o una decisión automatizada afecta a un cliente, suele generarse un silencio bastante incómodo en la sala de juntas.
Una de las últimas preguntas que algunas organizaciones se hacen es: ¿qué pasa si esto sale mal y quién va a responder cuando el sistema se equivoque? La respuesta frente a esa pregunta suele ser un silencio muy elocuente porque no se ha previsto”
Otros datos: MixingMusic.ai: el software colombiano premiado en el mundo
Para evitar ese escenario, Galindo señala que la empresa debe tener la capacidad de realizar una “autopsia” del dato. Esto se traduce en contar con observabilidad, linaje y trazabilidad completa. La compañía debe ser capaz de reconstruir el camino exacto que tomó el agente: de qué fuente sacó la información, cómo la transformó y qué regla lógica lo llevó a tomar esa decisión. Si no puedes explicar el fallo de tu sistema, estás navegando a ciegas.
| Dimensión de control | Enfoque tradicional sin gobierno | Enfoque con gobernanza activa |
| Implementación | Despliegue masivo por moda en todas las áreas. | Focalización en 2 o 3 procesos clave del negocio. |
| Supervisión | Autonomía ciega entregada al modelo. | Esquema human in the loop con validación humana. |
| Trazabilidad | Cero registro del origen o transformación del dato. | Linaje completo y capacidad de hacer autopsias al proceso. |
| Gestión de fallos | Silencio y confusión sobre la responsabilidad. | Roles definidos, MLOps y protocolos de escalamiento. |
La ilusión de las métricas de adopción empresarial en el mercado colombiano
Superar el entusiasmo inicial exige mirar las cifras con lupa. Un estudio reciente sobre el mercado local mostraba que la adopción de estas herramientas en Colombia pasó rápidamente de un 34 % a casi un 50 % en el entorno corporativo. A primera vista, la cifra suena a victoria rotunda. Sin embargo, al analizar la letra pequeña, solo una fracción mínima de esas empresas afirmaba que la implementación había sido un éxito real.
Más sobre la IA: De crear correos a diseñar medicamentos: Oracle e NVIDIA revelan la nueva era de la IA en ANDICOM
Para la especialista de Bluetab, el problema de fondo radica en la falta de alineación entre la estrategia digital y la generación de ingresos.
- Falta de rumbo: Cerca de la mitad de las empresas compraron el pasaje, pero no saben a dónde va el autobús.
- Focalización de recursos: Intentar controlar todos los datos de la compañía al tiempo es costoso e imposible de medir.
- La pregunta del millón: Toda iniciativa debe responder claramente a la duda de cómo ayuda la tecnología a generar dinero o reducir pérdidas.
Y aquí es donde la cosa se pone interesante. Hoy en día, acceder a un modelo de lenguaje se convirtió en un commodity accesible para cualquiera con conexión a internet. La ventaja competitiva ya no está en tener la herramienta, sino en la capacidad operativa para convertirla en un activo real de negocio.
Cómo evitar que los modelos se degraden con el paso de los meses
Un sistema automatizado no es un monumento de piedra que se queda intacto con el tiempo. Los datos de entrada cambian, los contextos evolucionan y las bases de conocimiento se pueden degradar. Aquí es donde la disciplina de MLOps cobra una relevancia crítica para auditar las salidas del modelo y evitar las famosas alucinaciones.
Más datos: Qué significa la propuesta de Huawei de “IA contra IA” en ciberseguridad en Andicom
Galindo enfatiza que, cuando se trabaja con arquitecturas de sistemas multiagente, los controles deben ser todavía más estrictos para evitar que un error en cadena afecte la reputación de la firma.
Una vez se realiza la validación de un agente, hay que garantizar que la información no se degrade. Automatizar esos ciclos de control es clave para mantener el monitoreo sin que el proceso sea costoso o desgastante para los equipos humanos”
Jennifer Galindo, Business Development Manager de Bluetab
Las reglas del juego tienen que quedar claras antes de lanzar los dados. Anticiparse a los riesgos mediante una buena estrategia de gobierno no busca frenar el potencial gigantesco de la automatización, sino garantizar que la empresa mantenga el control del timón mientras acelera.
