Qué es el gobierno de datos y por qué es clave para la inteligencia artificial

El gobierno de datos es el conjunto de políticas, roles, estándares y controles que permiten definir cómo se gestionan, utilizan y protegen los datos de una organización. Con la incorporación de inteligencia artificial, su alcance se vuelve especialmente relevante porque los datos ya no alimentan únicamente reportes y análisis, sino también modelos, asistentes y agentes que pueden utilizarlos para generar respuestas, recomendaciones o ejecutar acciones.

Una empresa puede disponer de grandes volúmenes de información y, aun así, no tener datos preparados para IA. El problema aparece cuando existen diferentes definiciones para una misma métrica, no está claro cuál es la fuente correcta, falta trazabilidad sobre el origen de la información o no existen responsables definidos sobre su calidad.

En estos escenarios, incorporar inteligencia artificial no elimina los problemas existentes en los datos. Puede hacer que esos problemas aparezcan en nuevas etapas del negocio, porque los sistemas de IA utilizan esa información para interpretar preguntas, generar resultados y participar cada vez más en procesos empresariales.

Por eso, el gobierno de datos para IA no consiste únicamente en controlar dónde se almacena la información. También debe establecer qué datos pueden utilizarse, qué significan, quién responde por ellos, de dónde provienen, qué nivel de calidad tienen y bajo qué condiciones pueden ser utilizados por sistemas de inteligencia artificial.

Estos son 4 aspectos que explican por qué el gobierno de datos es clave para la inteligencia artificial:

1. Calidad de datos para modelos y sistemas de inteligencia artificial
2. Definiciones y contexto para reducir errores en las respuestas de IA
3. Gobierno de los datos generados por inteligencia artificial
4. Roles y responsabilidades del gobierno de datos para IA

1. Calidad de datos para modelos y sistemas de inteligencia artificial

La calidad de los resultados de un sistema de IA depende, entre otros factores, de la información a la que tiene acceso.

Datos incompletos, duplicados, desactualizados o inconsistentes pueden afectar el análisis que realiza un modelo y las respuestas que genera.

La diferencia frente a un reporte tradicional está en cómo se utiliza esa información.

En un dashboard, un dato incorrecto puede aparecer como una cifra que posteriormente alguien identifica y corrige. En un sistema de IA, diferentes datos pueden ser recuperados, relacionados e interpretados para construir una respuesta o recomendación.

Por eso, preparar los datos para inteligencia artificial requiere revisar aspectos como:

• Precisión.
• Completitud.
• Consistencia.
• Actualización.
• Disponibilidad.
• Trazabilidad.
• Accesibilidad según permisos.

Gartner utiliza el concepto de AI-ready data para describir datos preparados para responder a las necesidades específicas de los casos de uso de inteligencia artificial. Esto implica considerar no solo la calidad, sino también el contexto, la gobernanza y la forma en que esos datos serán utilizados.

No todos los datos de una organización necesitan alcanzar el mismo nivel de preparación. El criterio debería depender del caso de uso y del impacto que tendría utilizar información incorrecta.

Preparar datos para IA significa asegurar que la información necesaria para un caso de uso tenga la calidad, el contexto y los controles adecuados para el propósito en el que será utilizada.

2. Definiciones y contexto para reducir errores en las respuestas de IA

La calidad técnica del dato no resuelve por sí sola otro problema frecuente: dos áreas pueden utilizar la misma palabra para referirse a cosas diferentes.

Conceptos como cliente activo, venta, margen, rentabilidad, ingreso neto o churn pueden tener definiciones distintas según el área, sistema o reporte que los utilice.

Para una persona que trabaja diariamente con esa información, parte de esas diferencias pueden resultar conocidas. Para un sistema de IA que debe consultar diferentes fuentes, la falta de una definición común puede dificultar la interpretación correcta de una pregunta.

Aquí adquieren importancia elementos del gobierno de datos como los glosarios de negocio, catálogos, metadatos, linaje y capas semánticas. Cada uno resuelve una parte diferente del problema:

Una capa semántica, por ejemplo, permite establecer qué significa una determinada métrica y cómo debe calcularse independientemente de quién la consulte.

Esto cobra especial relevancia cuando asistentes o agentes de IA empiezan a interactuar directamente con información empresarial. Para responder correctamente no basta con encontrar un dato. El sistema también necesita entender qué representa ese dato dentro del contexto del negocio.

El gobierno de datos no elimina por sí solo las alucinaciones de los modelos de IA, pero puede reducir riesgos asociados a información incorrecta, ambigua, desactualizada o sin suficiente contexto.

Cuanto más depende una aplicación de IA de información propia de la empresa, más importantes se vuelven las definiciones, el contexto y la trazabilidad de esos datos.

3. Gobierno de los datos generados por inteligencia artificial

El gobierno de datos tradicional se ha concentrado principalmente en información generada por personas, aplicaciones y transacciones empresariales.

La inteligencia artificial incorpora una nueva categoría: información producida por los propios sistemas de IA.

Un modelo puede generar:

• Resúmenes.
• Clasificaciones.
• Predicciones.
• Recomendaciones.
• Documentos.
• Descripciones.
• Código.
• Datos derivados de otra información.

El desafío aparece cuando estos resultados dejan de ser temporales y pasan a almacenarse, compartirse o utilizarse como entrada para otros procesos.

Por ejemplo, una clasificación generada por IA puede incorporarse posteriormente a un sistema comercial. Una predicción puede utilizarse para priorizar determinadas acciones. Un resumen puede convertirse en información de referencia para otro colaborador o incluso para otro sistema de IA.

En esos casos, la organización necesita definir cómo tratar esa nueva información.

Algunas preguntas relevantes son:

• ¿Debe identificarse que el contenido fue generado por IA?
• ¿Qué resultados necesitan validación antes de almacenarse?
• ¿Durante cuánto tiempo deben conservarse?
• ¿Puede un resultado generado por IA alimentar automáticamente otro proceso?
• ¿Quién es responsable de revisar su calidad?
• ¿Cómo puede rastrearse qué datos se utilizaron para generarlo?

El gobierno de datos para IA, por tanto, no debería limitarse a controlar qué información entra al modelo, sino también qué ocurre con la información que sale de él.

Cuando los resultados generados por IA empiezan a formar parte de los datos de la empresa, también necesitan reglas de calidad, trazabilidad, uso y responsabilidad.

4. Roles y responsabilidades del gobierno de datos para IA

El gobierno de datos no puede funcionar únicamente como una responsabilidad técnica cuando las definiciones y la calidad de la información dependen directamente de las áreas que generan y utilizan esos datos.

TI puede administrar infraestructura, integraciones, permisos y plataformas. Sin embargo, difícilmente puede decidir por sí sola qué significa un cliente activo, cómo debe calcularse un determinado margen o qué información financiera puede utilizar un agente de IA.

Esas decisiones requieren participación de las áreas de negocio.

Por eso, un modelo de gobierno de datos para IA puede involucrar diferentes responsabilidades:

• Áreas de negocio: definen el significado, uso y criterios de calidad de los datos de su dominio.
• Equipos de datos: estructuran modelos, estándares, catálogos, linaje y controles de calidad.
• TI: administra infraestructura, integraciones, accesos y seguridad.
• Equipos de IA: determinan qué información necesitan los modelos y cómo será utilizada.
• Riesgo, seguridad o cumplimiento: establecen restricciones según el tipo de información y el uso previsto.

La distribución concreta dependerá de la estructura de cada organización. Lo importante es evitar que existan datos críticos para un sistema de IA sin un responsable claramente identificado.

Gobernar datos para IA requiere conectar las decisiones técnicas sobre la información con las decisiones de negocio sobre su significado, calidad y uso.

Qué datos debe gobernar una empresa para implementar inteligencia artificial

Cuando una organización comienza a implementar inteligencia artificial, el alcance del gobierno de datos se amplía. Ya no basta con revisar únicamente la calidad de las tablas o bases de datos tradicionales.

Es necesario considerar todo el recorrido que puede realizar la información antes, durante y después de ser utilizada por un sistema de IA.

Esta visión es importante porque un mismo dato puede recorrer varias etapas dentro de un sistema de IA.

Puede comenzar como una transacción en un ERP, CRM u otra aplicación empresarial, pasar por una integración, incorporarse a una plataforma analítica, ser consultado por un modelo y terminar formando parte de una recomendación que posteriormente se almacena en otro sistema.

En ese recorrido pueden cambiar el contexto, los permisos, las transformaciones y el propósito para el que se utiliza la información.

Por eso, el gobierno de datos para IA debe permitir conocer no solo qué datos existen, sino de dónde provienen, qué significan, quién puede utilizarlos y qué ocurre con ellos cuando entran o salen de un sistema de inteligencia artificial.

Esto tampoco significa que una empresa deba gobernar todos sus datos con el mismo nivel de profundidad. Una estrategia más práctica consiste en priorizar los dominios vinculados a los casos de uso de IA con mayor impacto o riesgo para el negocio.

Qué evaluar antes de iniciar una estrategia de gobierno de datos para IA

Una empresa no necesita empezar su estrategia de gobierno comprando una herramienta ni intentando documentar todos sus datos al mismo tiempo.

El primer paso es entender qué tan preparada está la información necesaria para los casos de uso que la organización quiere desarrollar.

Algunas preguntas permiten realizar una primera evaluación:

• ¿Sabemos qué datos necesita cada caso de uso de IA?
• ¿Conocemos dónde están almacenados y quién es responsable de ellos?
• ¿Existen definiciones comunes para las métricas y conceptos utilizados por diferentes áreas?
• ¿Podemos rastrear un dato hasta su fuente original?
• ¿Sabemos qué transformaciones ha tenido antes de llegar al sistema de IA?
• ¿Los permisos actuales determinan qué información puede consultar cada usuario, modelo o agente?
• ¿Existen reglas para almacenar y reutilizar información generada por IA?
• ¿Está definido quién responde por la calidad de cada dominio de datos?
• ¿Qué consecuencias tendría que un sistema de IA utilizará información incorrecta en ese proceso?

Estas respuestas permiten identificar brechas de calidad, definición, responsabilidad, trazabilidad y acceso antes de avanzar hacia iniciativas de mayor alcance.

En FPA Latam podemos acompañar a las empresas a evaluar el estado actual de sus datos y definir qué capacidades de gobierno necesitan para sus iniciativas de analítica e inteligencia artificial.

Podemos apoyar en el diagnóstico de fuentes y dominios de información, identificación de brechas, definición de responsabilidades, estándares y prioridades, y construcción de una hoja de ruta que permita avanzar de acuerdo con los casos de uso y necesidades del negocio.

El objetivo no es gobernar más datos, sino asegurar que los datos que realmente necesita la organización estén preparados para el uso que se les quiere dar.

FAQs

¿Qué es el gobierno de datos para inteligencia artificial?

Es la aplicación y ampliación de las prácticas de gobierno de datos para responder a las necesidades de los sistemas de IA.

Además de calidad, seguridad y disponibilidad, puede requerir revisar contexto, linaje, definiciones de negocio, permisos de acceso, datos no estructurados y la información generada por los propios sistemas de inteligencia artificial.

¿Por qué es importante el gobierno de datos para la IA?

Porque los modelos, asistentes y agentes utilizan datos para generar respuestas, análisis y acciones. Si la información es incorrecta, está desactualizada, tiene definiciones ambiguas o carece de contexto, la calidad y confiabilidad de los resultados puede verse afectada.

¿Qué significa tener datos preparados para IA?

Significa que los datos necesarios para un caso de uso cuentan con la calidad, disponibilidad, contexto, permisos y controles adecuados para el propósito en el que serán utilizados.

No implica que todos los datos de la empresa deban prepararse de la misma forma. Los requisitos dependen del caso de uso.

¿Qué relación existe entre gobierno de datos y las alucinaciones de la IA?

El gobierno de datos puede ayudar a reducir errores relacionados con información empresarial incorrecta, ambigua o sin contexto, pero no elimina por sí solo las alucinaciones de un modelo.

Las alucinaciones también pueden producirse por características propias del modelo, de la consulta o de la arquitectura utilizada.

¿Qué son los datos generados por IA?

Son contenidos o datos producidos por sistemas de inteligencia artificial, como resúmenes, clasificaciones, predicciones, recomendaciones, documentos o información derivada.

Cuando estos resultados se almacenan o reutilizan dentro de otros procesos, la empresa necesita definir cómo validarlos, identificarlos y gobernarlos.

¿El gobierno de datos es responsabilidad exclusiva de TI?

No. TI suele tener responsabilidades relacionadas con infraestructura, seguridad, accesos e integración, pero las áreas de negocio deben participar en la definición, calidad y uso de los datos de sus respectivos dominios.

¿Por dónde empezar un proyecto de gobierno de datos para IA?

Una forma práctica es comenzar por los casos de uso de IA prioritarios e identificar qué datos necesitan.

A partir de ahí se puede evaluar su calidad, definiciones, responsables, trazabilidad, accesibilidad y controles, y determinar qué brechas deben resolverse antes de implementar o ampliar el caso de uso.