La inteligencia artificial (IA) ya está dentro de su organización, por más caminos de los que la dirección ha discutido formalmente, y por eso la pregunta útil ya no es si adoptarla, sino dónde se usa, con qué datos, con cuánta autonomía y bajo qué gobierno. La ventaja no viene de usar IA, sino de usarla en el proceso correcto y con la técnica adecuada; y a medida que pasa de recomendar a actuar, lo que se delega deja de ser solo tecnología y pasa a ser autoridad, con riesgos que crecen con su autonomía y con el impacto de lo que hace. Gobernar esos riesgos exige primero tener ordenada la seguridad de la información, porque los marcos de IA se montan sobre esa base, y responder con evidencia, no con promesas, las preguntas de seguridad, confidencialidad y privacidad que ya llegan de clientes, trabajadores y reguladores. En Chile, la obligación de mayor alcance es la Ley 21.719 de datos personales, que rige a partir del 1 de diciembre de 2026, aunque un proyecto del Gobierno busca postergarla un año; la ley de IA sigue en tramitación. Para la organización que todavía no ha empezado, la guía propone un plan de 90 días: en el primer mes, saber dónde se usa IA, mover el trabajo sensible a cuentas empresariales, fijar qué datos nunca se ingresan y nombrar un responsable; en los dos meses siguientes, aprobar una política de uso, adoptar un marco de gobierno, implementar los controles y capacitar a las personas. Esta guía recorre ese camino de lo básico a lo específico, con ejemplos conocidos desde los primeros programas de dictado por voz hasta ChatGPT y DeepSeek, y cierra con cuatro anexos de consulta: preguntas de seguridad, confidencialidad y privacidad (Anexo A), checklist para comprar o construir (Anexo B), cómo pasar de iniciativas aisladas a un programa (Anexo C) y glosario (Anexo D).
Estas tres ideas se apoyan en cuatro dimensiones que reaparecen a lo largo de todo el documento, no como una secuencia, sino como preguntas transversales que conviene volver a hacer en cada etapa: Valor · Técnica · Autonomía · Gobierno.
El recorrido de lectura del documento es otro, y se explica a continuación.
Esta guía no busca convertir a un ejecutivo o director en especialista en inteligencia artificial. Busca darle suficiente criterio para distinguir una oportunidad real de una moda, comprender qué autoridad se está delegando, identificar los riesgos relevantes y hacer las preguntas correctas antes de aprobar una iniciativa. Para eso, el documento avanza en seis etapas, cada una apoyada en la anterior. Cada concepto aparece primero en simple, con un ejemplo cotidiano o un caso real, y después con el detalle que un ejecutivo necesita para decidir.
Los seis bloques son el recorrido de lectura: van de entender qué es la IA a decidir cómo escalarla, y cada uno se apoya en el anterior. Cada bloque tiene su color, que se repite en su portada, en los títulos y en las tablas de sus secciones.
Sobre el título de cada sección hay una etiqueta con la dimensión que responde: Valor, Técnica, Autonomía o Gobierno. Son las cuatro preguntas que conviene volver a hacer en cada etapa de una iniciativa, y funcionan también como índice temático: el mapa del resumen ejecutivo agrupa las secciones por dimensión, para quien quiera leer, por ejemplo, solo lo que tiene que ver con delegar autonomía en la IA.
Herramientas de consulta rápida, reunidas al final en la sección de Anexos: Anexo A. Preguntas de seguridad, confidencialidad y privacidad, y cómo responderlas · Anexo B. Checklist para comprar o construir · Anexo C. De la iniciativa al programa · Anexo D. Glosario esencial
| Si usted necesita | Lea |
|---|---|
| Lo esencial, de una sola vez | Resumen ejecutivo; secciones 1, 3, 7, 9, 12 y 18; cierre |
| Responder una pregunta de privacidad o confidencialidad | Secciones 8 y 15; riesgos 2 y 6 de la sección 9; Anexo A, niveles 1 y 3 |
| Responder una pregunta de seguridad | Secciones 9, 10 y 11; Anexo A, nivel 2 |
| Evaluar si una iniciativa vale la pena | Secciones 4, 5 y 6 |
| Aprobar, comprar o construir una solución | Secciones 7, 16 y 17; Anexo B |
| Organizar el gobierno de la IA | Secciones 10 (política de uso e incidentes), 12, 13 y 14; Anexo C |
| Empezar a ordenar la IA en la organización | Sección 18; sección 12 (qué reportar al directorio) |
| Adoptar IA de forma segura: regularizar, educar y demostrar | Secciones 8, 10 y 18; Anexo A, niveles 4 y 5 |
| Gobernar agentes de IA | Sección 7; sección 9, riesgos 3 y 4; sección 12; Anexo A, preguntas 14 y 15; Anexo B |
La IA está entrando a las empresas por múltiples caminos a la vez: herramientas corporativas, copilotos (asistentes de IA integrados en el software que ya se usa, como el correo o la planilla de cálculo), aplicaciones contratadas por internet (SaaS, software como servicio) que incorporan IA sin que nadie lo pida explícitamente, desarrollos internos, proveedores que la agregan a su oferta, agentes (sistemas que, además de responder, ejecutan acciones por su cuenta; se explican en la sección 2), conexiones directas entre sistemas (API, interfaces de programación de aplicaciones), herramientas que empleados individuales adoptan por su cuenta, asistentes de voz en teléfonos y oficinas, y herramientas que graban y resumen reuniones. Por eso la discusión de directorio ya cambió de forma:
En simple, inteligencia artificial es cualquier sistema que hace algo que normalmente asociamos a la inteligencia humana: reconocer una cara, recomendar una película, detectar un fraude, traducir o redactar un texto. Hay distintos tipos, y conviene ordenarlos como anillos concéntricos.
Estos cuatro niveles no compiten entre sí: se contienen unos a otros, cada anillo interior es un subconjunto del anillo que lo rodea. Ninguno reemplaza al anterior.
Que la IA generativa esté de moda desde el lanzamiento público de ChatGPT a fines de 2022, y que otros asistentes, como Claude o Gemini, lo hayan extendido después, no significa que la inteligencia artificial haya empezado ahí. Buena parte de lo que hoy se llama "IA" lleva décadas operando dentro de las empresas, generalmente sin ese nombre.
Motores de reglas en seguros y banca, sistemas de diagnóstico construidos a partir de reglas escritas por expertos.
Detección de fraude con tarjetas, filtros de spam, mantenimiento predictivo, recomendaciones en comercio electrónico, puntaje de riesgo crediticio (scoring), reconocimiento óptico de caracteres (OCR).
Reconocimiento de imágenes y de voz a gran escala, traducción automática moderna, sistemas de recomendación de video y música.
Generación de texto, imagen, audio, video y código a partir de instrucciones en lenguaje natural.
Es probable que su organización ya use, desde hace años, alguna de las tres primeras categorías sin llamarla "inteligencia artificial" en el lenguaje interno. Lo nuevo en 2022 no fue la IA: fue que, por primera vez, una IA generativa quedó disponible en una interfaz de conversación abierta al público general.
La historia de la IA se entiende mejor con seis hitos públicos, ordenados en el tiempo. Cada uno ilustra uno de los anillos del esquema anterior, y cada uno deja una lección útil para un ejecutivo.
En marzo de 1990, Dragon Systems lanzó DragonDictate, presentado como la primera "máquina de escribir por voz". Costaba unos USD 9.000, incluida una tarjeta especial para el computador, y reconocía un vocabulario de 30.000 palabras, con una condición: había que hacer una pausa de al menos un cuarto de segundo entre... cada... palabra.
Lección: lo que hoy parece torpe y caro puede volverse cotidiano. Tres décadas después, dictarle al teléfono, hablarle a un asistente de voz o recibir la transcripción automática de una reunión es gratis y casi no se nota. Al evaluar una tecnología de IA conviene mirar la tendencia, no solo la foto del día.
El supercomputador Deep Blue, de IBM, derrotó al campeón mundial Garry Kasparov por 3,5 a 2,5. No "aprendía" como la IA actual: su fuerza venía de calcular unos 200 millones de posiciones por segundo, con criterios de evaluación que su equipo de expertos ajustaba a mano.
Lección: una máquina puede superar a la mejor persona del mundo en una tarea muy acotada sin "entender" nada fuera de ella. Deep Blue solo sabía jugar ajedrez.
El sistema Watson, de IBM, ganó el concurso de televisión Jeopardy! frente a dos de sus campeones más exitosos. Debía entender preguntas en lenguaje natural, llenas de juegos de palabras, y responder en segundos. Su error más recordado es el más instructivo: en la categoría "Ciudades de Estados Unidos" respondió "Toronto", que está en Canadá. Pero lo hizo con signos de interrogación, porque su confianza era baja (cerca de 30%), y apostó solo USD 947.
Lección: la IA puede equivocarse con fluidez. Watson al menos mostraba cuán seguro estaba; muchos asistentes actuales usan el mismo tono cuando aciertan y cuando inventan. Su paso posterior a la medicina dejó otra lección, que se cuenta en la sección 6.
AlphaGo, de DeepMind (Google), venció 4 a 1 al campeón surcoreano Lee Sedol en Go, un juego con tantas combinaciones posibles que no se puede ganar solo calculando. AlphaGo aprendió de millones de jugadas de partidas humanas y de partidas contra sí mismo. En la segunda partida hizo la "jugada 37", que los expertos consideraron algo que ningún jugador humano habría hecho.
Lección: la IA que aprende de datos puede encontrar soluciones que a nadie se le habían ocurrido, pero también tiene puntos ciegos: Lee Sedol ganó la cuarta partida con una jugada que AlphaGo consideraba muy improbable.
El 30 de noviembre de 2022, OpenAI abrió ChatGPT al público. En unos dos meses alcanzó cerca de 100 millones de usuarios, según una estimación de UBS citada por Reuters: la adopción más rápida registrada hasta entonces para una aplicación de consumo. Por primera vez, cualquier persona podía conversar con una IA que redacta, resume, traduce y programa.
Lección: a diferencia de los casos anteriores, esta IA no la compró la empresa: entró sola, de la mano de cada trabajador. De ahí nace la IA en la sombra de la sección 1, y de ahí nace la mayoría de las preguntas de confidencialidad del Anexo A.
En enero de 2025, la empresa china DeepSeek publicó R1, un modelo "de razonamiento" de pesos abiertos (su fabricante publica el modelo entrenado para que cualquiera lo instale y opere), comparable con o1 de OpenAI. R1 se construyó sobre V3, un modelo base de la misma empresa cuyo entrenamiento final DeepSeek estimó en unos USD 5,6 millones en cómputo, una fracción de lo habitual; la etapa adicional de R1 sumó, según la empresa, unos USD 294.000. Ninguna de las dos cifras incluye la investigación ni los ensayos previos, y no fueron verificadas de forma independiente. Su aplicación superó a ChatGPT como la aplicación de IA más descargada en la App Store de Apple, y el 27 de enero Nvidia perdió cerca de USD 589.000 millones en valor bursátil, la mayor pérdida en un día registrada por una empresa estadounidense. Tres días después, la autoridad italiana de protección de datos bloqueó la aplicación por considerar insuficiente la información sobre cómo trataba los datos personales.
Lección: la frontera de la IA ya no es de un solo país ni de unas pocas empresas, y su costo baja rápido. Pero una herramienta brillante y barata no es, por eso, una herramienta aprobada: antes de usarla con datos de la empresa hay que saber dónde se procesan y bajo qué ley (secciones 8 y 15; Anexo A, pregunta 6).
Antes de hablar de riesgos conviene notar que la IA ya forma parte de la vida diaria, casi siempre sin llamarse así:
| Situación cotidiana | Qué hace la IA | Tipo (anillo) |
|---|---|---|
| El correo separa el spam | Aprendió a reconocer los patrones de los mensajes no deseados | Aprendizaje automático |
| El banco le avisa de una compra sospechosa | Detecta una compra que no calza con su comportamiento habitual | Aprendizaje automático |
| Waze o Google Maps estiman cuánto se demorará | Proyecta el tráfico a partir de datos históricos y en tiempo real | Aprendizaje automático |
| Netflix o Spotify le recomiendan qué ver o escuchar | Compara sus gustos con los de millones de personas parecidas | Aprendizaje automático y profundo |
| El teléfono se desbloquea con su cara | Reconoce rostros a partir de imágenes | Aprendizaje profundo |
| Busca "playa" en sus fotos y aparecen todas | Reconoce el contenido de cada imagen | Aprendizaje profundo |
| Le dicta un mensaje al teléfono o le habla a Siri o Alexa | Convierte la voz en texto e interpreta lo que se pidió | Aprendizaje profundo |
| Le pide a ChatGPT, Claude o Gemini que redacte un correo | Genera un texto nuevo a partir de una instrucción | IA generativa (LLM) |
La diferencia práctica entre las filas: en las siete primeras, la IA hace una sola tarea acotada dentro de un producto que alguien diseñó y controla. En la última, la persona le entrega a la IA información y una instrucción abierta. Ahí empiezan las preguntas de confidencialidad, exactitud y responsabilidad de esta guía.
Dentro del anillo de IA generativa del esquema anterior, los modelos de lenguaje (LLM) son el caso más conocido, pero no el único. La misma familia generativa incluye modelos especializados en otros tipos de contenido:
Un agente no es un quinto anillo más pequeño adentro de la IA generativa. Es una forma de usar un modelo, casi siempre un LLM, conectándolo a herramientas, memoria y la capacidad de ejecutar pasos por su cuenta. Por eso se representa como una ramificación hacia afuera del círculo, no como un nivel más específico dentro de él.
En simple: un modelo de lenguaje es como un experto que solo puede conversar. Un agente es ese mismo experto con acceso a su correo, su calendario y los sistemas de la empresa, y con permiso para hacer cosas en ellos.
Que un sistema pueda responder no significa que deba actuar por su cuenta. La sección 7 desarrolla los distintos niveles de autonomía y por qué esta diferencia es crítica para un directorio.
Antes de entrar en qué técnica usar para qué problema, conviene fijar un punto de partida honesto sobre las capacidades actuales.
| La IA suele ser buena en | La IA todavía puede ser débil en |
|---|---|
| Resumir grandes volúmenes de información | Garantizar exactitud factual absoluta |
| Encontrar patrones en datos | Demostrar causalidad, no solo correlación |
| Generar alternativas y borradores | Asumir responsabilidad por una decisión |
| Interactuar en lenguaje natural | Distinguir siempre información verdadera de información plausible |
| Automatizar tareas repetitivas | Manejar correctamente todas las excepciones |
| Analizar grandes cantidades de datos | Comprender completamente el contexto empresarial |
| Ejecutar flujos de trabajo definidos | Decidir qué riesgo empresarial debe aceptar una organización |
Comprender qué es IA no determina todavía dónde utilizarla. La siguiente pregunta es qué técnica corresponde realmente al problema, y si el valor que genera justifica hacerlo.
Esta sección aplica la idea central de la guía: primero el problema, después la técnica.
| Familia | Qué es | Para qué sirve | Herramientas de ejemplo |
|---|---|---|---|
| Reglas y lógica de negocio | Instrucciones explícitas: si pasa esto, se hace aquello. Determinista (ante la misma entrada da siempre el mismo resultado) y auditable | Validaciones, transformaciones con lógica conocida | Fórmulas y macros de Excel, Power Automate, Zapier, motores de reglas como IBM ODM |
| Aprendizaje supervisado clásico | Un modelo aprende de ejemplos ya etiquetados a clasificar o predecir un valor | Clasificación, priorización, puntaje de riesgo (scoring) | Amazon SageMaker, Azure Machine Learning, Google Vertex AI, DataRobot, scikit-learn |
| Aprendizaje no supervisado | Encuentra patrones, agrupaciones o desviaciones en los datos sin ejemplos previamente etiquetados | Detección de fraude o de anomalías, segmentación de clientes, agrupamiento | scikit-learn; detección de anomalías en Splunk, Datadog o Microsoft Sentinel |
| Series de tiempo | Proyecta un valor futuro a partir de su historia | Proyección (forecasting) de demanda, ventas e indicadores | Hoja de previsión de Excel, pronóstico en Power BI, Prophet, SAP IBP |
| Optimización matemática | Encuentra la mejor combinación de variables bajo restricciones | Planificación, asignación de recursos | Solver de Excel, Gurobi, IBM CPLEX, Google OR-Tools |
| Modelos de lenguaje (LLM) | Interpretan y generan lenguaje natural. No son deterministas: la misma pregunta puede dar respuestas distintas | Interpretar preguntas abiertas, redactar, resumir | ChatGPT, Claude, Gemini, Microsoft Copilot, Llama, DeepSeek |
| Agentes (LLM más herramientas) | Un LLM que además ejecuta acciones y encadena pasos por su cuenta | Automatizar tareas de varios pasos, con más riesgo que las anteriores | Modo agente de ChatGPT, Claude Code, Microsoft Copilot Studio, Salesforce Agentforce, Gemini Enterprise |
| Pregunta | Qué puede indicar |
|---|---|
| ¿Necesito una respuesta determinista? | Reglas u optimización |
| ¿Tengo históricos suficientes? | Aprendizaje automático clásico |
| ¿Necesito interpretar lenguaje natural? | Modelo de lenguaje |
| ¿Necesito ejecutar acciones en otros sistemas? | Agente |
| ¿El error tiene impacto alto? | Mayor supervisión, cualquiera sea la técnica |
| ¿Necesito poder explicar el resultado? | Modelos interpretables, no necesariamente el más nuevo |
| ¿El volumen de consultas es muy alto? | El costo y la arquitectura empiezan a importar tanto como la técnica |
| ¿Los datos pueden salir de la organización? | Afecta directamente la arquitectura y la elección de proveedor |
| ¿La acción se puede revertir? | Afecta cuánta autonomía es razonable permitir |
En ELIAC 2026, la conferencia latinoamericana de IA aplicada a ciberseguridad organizada por iSecurity, el Centro Nacional de Inteligencia Artificial de Chile (CENIA) presentó tres proyectos propios. Su tesis en la charla: la IA no es sinónimo de modelos de lenguaje; la técnica se elige por el problema, no por la moda.
| Caso | Problema | Técnica usada |
|---|---|---|
| Cámara Chilena de la Construcción | Revisar previamente solicitudes de permisos de edificación y detectar incumplimientos antes de ingresarlas a la municipalidad | Flujo agéntico (aquí sí correspondía IA generativa y agentes) |
| Fiscalía | Clasificar casos por urgencia y curso de acción | Clasificador clásico, sin modelo de lenguaje |
| CMPC | Optimizar producción con varios modelos encadenados | Cadena de modelos de optimización (pipeline), tampoco modelo de lenguaje |
El criterio correcto no es "¿funciona la IA?". Es "¿genera suficiente valor para justificar su costo y su riesgo?". Un directorio no debería preguntarse primero si una solución se compra o se construye. Primero debe preguntarse por qué debería existir esta iniciativa y qué valor debería generar; la sección 16 trata cómo obtener la solución, una vez resuelto el por qué.
Indicadores clave (KPI, por su sigla en inglés) de ejemplo, a elegir según el caso: tiempo ahorrado, costo por transacción, tasa de automatización, tasa de intervención humana requerida, precisión, tasa de error, adopción real por los usuarios, satisfacción, incremento de ingresos, incidentes registrados, costo por consulta y retorno sobre la inversión.
Causas frecuentes: problema mal seleccionado, proceso mal diseñado antes de automatizarlo, tecnología elegida por moda y no por ajuste al problema, datos insuficientes o de mala calidad, integración deficiente con los sistemas existentes, ausencia de un dueño claro del proceso, usuarios que no adoptan la herramienta, ausencia de controles, expectativas irreales sobre lo que la IA puede hacer, costo de operación subestimado, y retorno que nunca se midió formalmente.
Una vez identificado un caso con valor, la siguiente cuestión es cuánto poder de decisión y ejecución estamos dispuestos a delegar.
Mientras un modelo solo responde a una consulta, el riesgo es de calidad de la respuesta. Un agente inicia flujos de trabajo, llama a otros sistemas, encadena varios pasos y decide qué hacer a continuación sin que una persona intervenga en cada paso. "IA agéntica" es el término para nombrar justamente esa capacidad de actuar con autonomía hacia un objetivo, no solo contestar.
| Nivel de autonomía | Qué hace | Ejemplo | Herramientas de ejemplo |
|---|---|---|---|
| Asistente | Responde o sugiere. La persona decide y ejecuta todo | Redactar un borrador de correo para que alguien lo revise | Microsoft 365 Copilot en Outlook, Gemini en Gmail |
| Agente supervisado | Propone una acción concreta y espera aprobación antes de ejecutarla | Clasificar una licitación y proponer una tarea, que una persona aprueba | Modo agente de ChatGPT, que pide confirmación antes de acciones sensibles; agentes de Copilot Studio con paso de aprobación |
| Agente autónomo | Ejecuta la acción sin esperar aprobación previa, dentro de un margen que se le definió | Responder y cerrar por su cuenta reclamos de clientes de bajo monto, sin revisión previa | Agentes de atención como Salesforce Agentforce o Fin de Intercom |
El nivel de autonomía no lo define el nombre del producto ("asistente", "copiloto" o "agente"), sino lo que el sistema realmente puede hacer: sus capacidades, sus permisos y las aprobaciones que exige. Una misma herramienta puede operar en más de un nivel según cómo se configure. Y no toda acción automática es IA: una regla fija que bloquea una cuenta ante ciertos patrones es automatización tradicional.
Clasificar únicamente por autonomía es incompleto. Una acción de bajo impacto ejecutada de forma autónoma es distinta de una de alto impacto ejecutada de la misma forma.
Para entender dónde puede quedar la información conviene separar los componentes involucrados: modelo, servicio de inferencia (el servicio que ejecuta el modelo cada vez que responde), aplicación, almacenamiento, proveedor y registros. Durante una consulta normal, los pesos del modelo (los parámetros donde quedó guardado lo aprendido en el entrenamiento) generalmente no se modifican con el prompt (la instrucción o pregunta que se le escribe). Pero "el modelo no retiene el dato" no es toda la historia: la plataforma o el servicio que rodea al modelo puede conservar, según el producto, la arquitectura, la configuración y el contrato, los prompts, los resultados, archivos, registros, metadatos, trazas de razonamiento (los pasos intermedios que el modelo registra), cachés (copias temporales para responder más rápido) e información usada para detección de abuso.
El documento o dato tal como llegó, antes de que cualquier IA lo procese.
No es una superficie de IALo que el modelo procesa para responder esta consulta puntual. Normalmente no modifica los pesos del modelo.
No persiste, salvo configuración distintaDocumentos convertidos en vectores (representaciones numéricas que permiten buscar por significado), indexados, consultables en cada respuesta. Es donde suele vivir el dato empresarial.
Lo que el agente recuerda entre interacciones: conversación previa, preferencias, tareas en curso.
Registro de cada consulta, paso de razonamiento y tarea generada. La superficie que casi nadie declara con claridad.
Persiste si no se gestionaUna misma herramienta de IA trata los datos de forma muy distinta según el tipo de cuenta o de contrato. Es la distinción que más ayuda a responder si la IA "se queda" con la información.
| Tipo de cuenta | Contrato | Qué suele implicar para los datos |
|---|---|---|
| Personal, gratuita o pagada | Términos de adhesión, no negociables | El uso de las conversaciones para mejorar el modelo depende de una configuración que controla el propio usuario y que puede venir activada. No hay acuerdo de tratamiento de datos con la empresa, ni nadie que responda ante sus clientes. |
| Empresarial o de equipo | Adhesión con condiciones comerciales | Normalmente excluida del entrenamiento por defecto, con administración centralizada y plazos de retención definidos. Los planes de equipo pueden tener condiciones distintas de los empresariales: conviene revisarlas en cada caso. |
| Integración por API o contrato corporativo | Negociable en parte | Permite pactar por escrito la retención, la ubicación de los datos y, en algunos casos, la retención cero (el proveedor no guarda el contenido). Es el nivel que da más margen para comprometer algo concreto ante los propios clientes. |
Las condiciones cambian según el proveedor y en el tiempo: lo que vale es lo que dice el contrato vigente, no la publicidad.
La regla anterior no aplica solo a los asistentes de conversación. Vale también para el buscador, el navegador, el asistente de voz del teléfono y las herramientas que graban reuniones: en todos, la misma marca trata los datos de forma distinta según se use con una cuenta personal o con una cuenta de la empresa.
| Herramienta | Con cuenta personal | Con cuenta de la empresa |
|---|---|---|
| Asistentes de conversación | ||
| ChatGPT (OpenAI) | En los planes Free, Plus y Pro, las conversaciones pueden usarse para entrenar por defecto. Cada usuario puede desactivarlo en Configuración, Controles de datos, opción "Mejorar el modelo para todos". | En ChatGPT Business, Enterprise, Edu y en la API, por defecto no se usan las entradas ni las respuestas para entrenar. |
| Claude (Anthropic) | En los planes Free, Pro y Max, desde octubre de 2025 cada usuario elige si permite usar sus conversaciones para entrenar. Si lo permite, se conservan hasta cinco años; si no, el plazo es de 30 días. | En los planes Team y Enterprise, en Claude para Educación y para Gobierno, en la API y en el acceso por Amazon Bedrock o Google Cloud Vertex AI rigen los términos comerciales, que no incluyen ese uso para entrenamiento. |
| Gemini (Google) | Con la actividad de las apps de Gemini encendida, las conversaciones se usan para mejorar los servicios de Google, incluidos sus modelos de IA, y una parte la revisan personas. Esas conversaciones revisadas se conservan hasta tres años. Con la actividad apagada, Google igual las guarda 72 horas. | Con una edición calificada de Google Workspace, el contenido no lo revisan personas ni se usa para entrenar modelos fuera del dominio de la empresa sin su permiso. |
| Copilot (Microsoft) | Con una cuenta Microsoft personal, la actividad de conversación puede usarse para entrenar. Se desactiva en Privacidad, en las opciones de entrenamiento con conversaciones de texto y de voz. | Con una cuenta de trabajo o escuela de Microsoft 365, las instrucciones, las respuestas y los datos de la empresa no se usan para entrenar los modelos fundacionales, y Microsoft actúa como encargado del tratamiento bajo el contrato. Las búsquedas web que hace Copilot quedan fuera de ese régimen: ahí Microsoft actúa como responsable independiente. |
| IA en el buscador y en el navegador | ||
| Búsqueda de Google con IA (resúmenes con IA y Modo IA) | Usa los mismos modelos que Gemini, pero es otro producto con otras reglas: lo que se escribe en el buscador se rige por la política general de privacidad de Google y queda en la actividad de la cuenta si esa opción está activa, no por la configuración de la app de Gemini. Desde julio de 2026, Google usa por defecto las imágenes, archivos y audio de Search, Lens y Gemini Live para mejorar sus modelos, salvo que el usuario desactive la opción de guardar ese contenido. Un buscador no es el lugar para información confidencial, con o sin IA. | |
| Navegadores con IA (Chrome con Gemini, Edge con Copilot, ChatGPT Atlas, Comet de Perplexity) | Leen el contenido de las páginas abiertas, incluidas aplicaciones internas o el correo, para resumirlas o actuar en ellas con la sesión del usuario. Con cuenta personal, ese contenido queda bajo las reglas de consumo de cada proveedor. Además, son especialmente vulnerables a instrucciones escondidas en páginas web (sección 9, riesgo 3). | Algunos se pueden administrar o bloquear de forma centralizada. Conviene que Tecnología defina cuáles se permiten en los equipos de la empresa y para qué sitios. |
| Asistentes de voz | ||
| Siri, Alexa y el asistente de Google | Escuchan en el propio dispositivo para detectar la palabra de activación. Desde que se activan, a propósito o por error, lo que se dice se envía a los servidores del proveedor. Ha habido activaciones accidentales que terminaron en juicios (Anexo A, pregunta 3). | En teléfonos de la empresa, Tecnología puede limitar o desactivar el asistente. En salas donde se tratan temas confidenciales, la regla simple es no tener parlantes inteligentes. |
| Grabación y resumen de reuniones | ||
| Asistentes de reunión (Copilot en Teams, Zoom AI Companion, Gemini en Meet, Otter, Fireflies y similares) | Los asistentes externos que se unen a la reunión como un participante más suelen operar con la cuenta personal de quien los conectó: la grabación, la transcripción y el resumen quedan en manos de ese proveedor, a veces sin que el resto de los participantes lo sepa. | Las funciones integradas en la plataforma de reuniones que la empresa contrató quedan bajo las condiciones de ese contrato. En ambos casos: aviso previo a todos los participantes y revisión del resumen antes de circularlo (Anexo A, pregunta 9). |
Condiciones informadas por cada proveedor en sus páginas oficiales, revisadas en octubre de 2026. Cambian con frecuencia: antes de una decisión, conviene confirmarlas en el contrato vigente.
RAG (generación aumentada por recuperación) permite que un modelo consulte información empresarial externa durante una respuesta, sin que esa información necesariamente haya sido incorporada al entrenamiento del modelo. Es la diferencia entre lo que el modelo "sabe" de fábrica y lo que "consulta" al momento de responder. Siguiendo el ejemplo del consultor: RAG es entregarle una carpeta con documentos de la empresa para que la consulte durante la reunión; el ajuste fino (fine-tuning) es enviarlo a un curso de especialización con esos documentos, y lo que aprendió ahí ya no se le puede quitar con facilidad.
Es probable que su organización ya use RAG sin llamarlo así: NotebookLM, los Proyectos de ChatGPT y de Claude, Microsoft 365 Copilot cuando responde con documentos de SharePoint, o Gemini cuando busca en Google Drive. En todos esos casos, la herramienta consulta los documentos para responder, y lo que define el riesgo es quién puede ver esa carpeta y con qué tipo de cuenta se usa.
| Necesidad | RAG | Ajuste fino (fine-tuning) |
|---|---|---|
| Consultar documentos actuales | Muy adecuado | No necesariamente |
| La información cambia con frecuencia | Adecuado | Menos adecuado |
| Cambiar el estilo o comportamiento del modelo | Limitado | Más adecuado |
| Retirar una fuente de información | Relativamente gestionable | Más complejo |
| Poder citar la fuente de una respuesta | Generalmente mejor | No necesariamente |
Autonomía y acceso a datos cambian la superficie de riesgo. La siguiente pregunta es qué puede salir mal y cómo se controla.
Cada riesgo se presenta con qué es, un ejemplo cotidiano o un caso real, y sus controles.
Una IA puede producir contenido muy convincente y a la vez incorrecto. La consecuencia práctica: no confundir fluidez con certeza. Controles habituales: verificación humana, exigencia de fuentes, límites de uso declarados, y supervisión reforzada en decisiones críticas.
En la vida diaria. Es el estudiante que no estudió y, para no dejar la pregunta en blanco, inventa una respuesta con mucha seguridad.
Caso real. En 2023, en el juicio Mata contra Avianca en Nueva York, dos abogados presentaron un escrito con fallos judiciales inexistentes, con citas falsas incluidas, que ChatGPT había inventado. El tribunal los sancionó, junto a su estudio, con una multa de USD 5.000.
Incluye información confidencial, datos personales, secretos empresariales, información de clientes y propiedad intelectual. Puede ocurrir al enviar los datos, durante el almacenamiento, a través de los registros, por errores de aislamiento entre clientes, o mediante herramientas conectadas al agente.
Caso real. En 2023, según reportes de prensa, empleados de Samsung ingresaron en ChatGPT código fuente (las instrucciones internas de sus programas) y notas de reuniones, para corregir errores y resumirlas. La empresa confirmó que restringió el uso de herramientas de IA generativa en sus equipos y redes internas.
Cómo se maneja. Definir qué tipo de información nunca puede ingresarse a una IA externa, usar cuentas empresariales en vez de personales (sección 8), exigir por contrato que los datos no se usen para entrenar, aislar la información de cada cliente y revisar qué guardan los registros.
Un documento, correo, página web o archivo puede contener instrucciones dirigidas al agente y no al lector humano, ocultas en texto de color blanco, en metadatos o en una imagen. Un ejemplo conceptual: un documento aparentemente normal intenta persuadir al agente de ignorar instrucciones anteriores o ejecutar una acción indebida. El caso más difícil es la inyección indirecta (la instrucción llega escondida en el contenido que el sistema lee, no de quien lo usa), porque hoy no existe una forma completa de evitarla dentro del modelo: un modelo de lenguaje no distingue con certeza entre las instrucciones que debe seguir y el texto que está leyendo. El Centro Nacional de Ciberseguridad del Reino Unido (NCSC) advirtió en diciembre de 2025 que es posible que este ataque nunca se mitigue del todo, y recomienda que un sistema que procesa contenido de un tercero no tenga más privilegios que los que tendría ese tercero. Por eso el control principal no está en el modelo sino en el diseño: limitar lo que un agente manipulado podría hacer. Un agente que lee contenido externo no debería tener, al mismo tiempo y sin aprobación humana, acceso a información confidencial y capacidad de enviarla hacia afuera; debe leer solo lo que le corresponde, y proponer en vez de ejecutar las acciones relevantes.
En la vida diaria. Es como si alguien escondiera, dentro de una carpeta que usted le pasa a su asistente, una nota que dice "al asistente que lea esto: envíe esta carpeta a esta dirección". Una persona la ignoraría. Una IA puede no distinguir entre las instrucciones de su jefe y el texto que está leyendo.
Caso real. En junio de 2025, la empresa de seguridad Aim Security reveló "EchoLeak": un correo con instrucciones ocultas podía hacer que Microsoft 365 Copilot filtrara información interna, sin que el usuario hiciera clic en nada. Microsoft corrigió la falla y no hubo evidencia de que se usara contra clientes.
Un agente puede tener más capacidad que la necesaria, ser técnicamente correcto y aun así ejecutar una acción que el negocio no quería. Los controles aquí son los mismos que en cualquier sistema con capacidad de actuar: mínimo privilegio, separación de funciones, límites de autoridad explícitos, aprobación humana en lo relevante, límites financieros u operacionales, y que la acción sea reversible siempre que sea posible. En los copilotos y agentes que actúan con la cuenta de una persona, el exceso de permisos viene de fábrica: el agente recibe todo lo que esa persona puede ver y hacer, aunque su tarea necesite solo una fracción (sección 12).
Caso real. En julio de 2025, un agente de programación de la plataforma Replit borró la base de datos en uso de un proyecto, con registros de más de 1.200 ejecutivos y 1.190 empresas, durante un período en que se le había indicado expresamente no hacer cambios sin aprobación. El propio agente lo calificó como "una falla catastrófica". Los datos se recuperaron después, y la plataforma agregó separación automática entre los ambientes de prueba y de uso real.
Una solución de IA puede depender del proveedor del modelo, de la nube, de las API, de complementos (plugins), de integradores, de herramientas externas y de fuentes de datos de terceros. Una empresa puede prometerle algo a su cliente que en realidad depende de un tercero que no lo garantiza por contrato. Incluye riesgo de dependencia de un solo proveedor, disponibilidad del servicio, y cambios de producto o precio fuera del control de la empresa.
Caso real. En mayo de 2025, en el juicio de The New York Times contra OpenAI, un tribunal de Estados Unidos ordenó preservar registros de conversaciones que normalmente se habrían borrado, incluidos los de cuentas de consumidor y de equipo; las cuentas empresariales y las integraciones con retención cero quedaron fuera. La orden general se levantó en octubre de 2025. Un juicio en el que las empresas usuarias no eran parte cambió lo que pasaba con sus datos.
Cómo se maneja. Saber de qué proveedores depende cada solución, incluidos los indirectos; elegir el tipo de cuenta según la sensibilidad del uso; exigir aviso de cambios relevantes; y tener un plan de salida (sección 16).
La IA puede crear riesgo sobre datos personales, derechos de autor, uso de información, transparencia, decisiones automatizadas, discriminación y regulación sectorial. Esta guía no reemplaza asesoría legal: la sección 15 retoma el punto con más detalle.
Caso real. En marzo de 2023, la autoridad italiana de protección de datos bloqueó temporalmente ChatGPT. En diciembre de 2024 multó a OpenAI con 15 millones de euros, entre otras razones por usar datos personales para entrenar sin una base legal adecuada y por no notificar una brecha de seguridad. En marzo de 2026, el Tribunal de Roma anuló esa multa por un motivo de competencia: como OpenAI ya tenía su sede europea en Irlanda, el caso correspondía a la autoridad irlandesa. El tribunal no se pronunció sobre el fondo.
Cómo se maneja. Antes de usar datos personales con IA, confirmar la base legal y la finalidad, usar solo los datos necesarios, revisar dónde se procesan, y permitir que una persona pida revisión humana de las decisiones tomadas solo por un sistema automatizado que la afecten de forma significativa. En Chile, esto cobra fuerza con la nueva ley de datos personales (sección 15).
Es común mezclar tres conversaciones que en realidad son separadas, y conviene distinguirlas explícitamente en cualquier discusión con un proveedor o un equipo interno.
La primera de las tres conversaciones de esta sección, usar IA de forma segura en el día a día, se resuelve en buena parte con una política de uso que cualquier persona de la organización pueda leer en diez minutos. No necesita cincuenta páginas: necesita responder cuatro preguntas con claridad, y coincidir con lo que la tecnología de la empresa realmente permite.
| Qué debe responder | Qué debería decir | Ejemplo |
|---|---|---|
| ¿Qué herramientas puedo usar? | La lista de herramientas aprobadas, con el tipo de cuenta permitido para cada una, y cómo pedir que se evalúe una nueva | "Para trabajo con información de la empresa, solo la cuenta empresarial del asistente aprobado; nunca una cuenta personal" |
| ¿Qué datos nunca ingreso? | Una lista corta y concreta, no una definición abstracta de "información sensible" | Datos personales de clientes o trabajadores, información entregada por un cliente bajo confidencialidad, contraseñas y credenciales, código fuente, cifras financieras no publicadas |
| ¿Cuándo debe revisar una persona? | Los casos en que un resultado de IA no puede salir de la organización ni usarse para decidir sin revisión humana | Antes de enviarlo a un cliente, publicarlo, firmarlo, usarlo en una decisión sobre personas o en un asunto legal o financiero |
| ¿Cómo reporto un error? | Un canal único, un plazo y la garantía de que reportar a tiempo no se sanciona | "Si ingresó un dato que no debía o la IA hizo algo inesperado, avise el mismo día al responsable de IA" |
Tarde o temprano, algo va a salir mal: un trabajador ingresa información de un cliente en una herramienta pública, un agente ejecuta una acción equivocada, un asistente le entrega a un cliente una respuesta falsa, o un documento manipulado altera un análisis. Sin un procedimiento escrito de antemano, la primera vez se improvisa, y se improvisa mal. El procedimiento general tiene cinco pasos:
El Anexo A, pregunta 10, aplica esta lógica al caso más frecuente: un trabajador que ingresó información confidencial en una cuenta personal.
Hay además un tipo de incidente propio de la IA que no parece un incidente: el sistema empieza a responder distinto sin que nadie en la empresa haya cambiado nada, porque el proveedor actualizó el modelo. Los controles para la continuidad de la operación son cuatro:
Esta sección busca únicamente generar conciencia ejecutiva. No es una guía de técnicas de ataque. Actores con intención maliciosa pueden usar IA para mejorar ingeniería social, phishing, generación de contenido, traducción, personalización de mensajes, investigación de objetivos, automatización, generación o modificación de código, y la velocidad y escala de ciertas campañas. No hay evidencia de que la IA haya reemplazado las técnicas tradicionales de ataque: lo que hace, principalmente, es reducir barreras de entrada, aumentar la escala y acelerar la operación de quien ataca.
Controlar estos riesgos requiere algo más que tecnología: requiere autoridad, responsabilidad y reglas claras.
Gobierno de IA no significa crear burocracia. Significa definir, con nombre y apellido, quién puede aprobar casos de uso, quién es dueño del proceso, quién es dueño del riesgo, qué datos se pueden utilizar, qué modelos y proveedores están permitidos, qué nivel de autonomía está autorizado, qué usos están prohibidos, cuándo se requiere supervisión humana, cómo se monitorea el desempeño, cómo se reportan incidentes, y cuándo una solución debe retirarse.
| Pregunta de gobierno | Responsable típico |
|---|---|
| ¿Por qué hacemos esto? | Negocio |
| ¿Quién es dueño del resultado? | Dueño del proceso |
| ¿Qué riesgo aceptamos? | Negocio / Riesgo |
| ¿Qué datos puede usar? | Datos / Privacidad |
| ¿Cómo se protege? | Seguridad |
| ¿Cumple con la regulación? | Legal / Cumplimiento |
| ¿Cómo se opera? | Tecnología |
| ¿Cómo se supervisa? | Gobierno / Auditoría |
Los nombres de las áreas son referenciales (directorio, gerencia general, dueño del proceso, Tecnología, Seguridad, Datos, Legal o Cumplimiento, Riesgo, Auditoría): cada empresa los adapta a su tamaño e industria.
Antes de gobernar específicamente la IA conviene tener ordenada la gobernanza general de tecnología e información. Una organización que no gestiona bien sus riesgos de información difícilmente va a gestionar bien los riesgos, más nuevos y menos conocidos, de sus sistemas de IA.
Conviene distinguir dos niveles: marcos generales de gestión de riesgo y seguridad, que aplican a cualquier organización que use tecnología, y marcos específicos para IA, que empiezan a consolidarse recién en los últimos años.
No son excluyentes: muchas organizaciones usan el NIST CSF como marco de evaluación interna e ISO/IEC 27001 como el sistema de gestión certificado que sostiene esa evaluación.
| Dimensión | NIST CSF | ISO/IEC 27001 |
|---|---|---|
| Naturaleza | Marco de referencia voluntario | Norma internacional certificable |
| Enfoque | Funciones y niveles de madurez frente al riesgo | Sistema de gestión (SGSI) con ciclo de mejora continua |
| Verificación | Autoevaluación, sin certificación formal | Auditoría externa y certificación formal |
| Rigidez | Flexible, se adapta al tamaño y sector | Más estructurado y documentado |
| Uso típico | Evaluar y priorizar el estado de la ciberseguridad | Demostrar a terceros que existe gestión auditada de riesgos |
| Analogía cotidiana | Una pauta de chequeo preventivo que la propia empresa aplica para saber cómo está | Un certificado que otorga un auditor externo, como la auditoría de los estados financieros |
Con esa base general en su lugar, recién tiene sentido avanzar a los marcos que abordan específicamente la IA:
A estos dos se suma, con otra naturaleza, la ley europea de IA (EU AI Act): no es un marco voluntario de gestión sino una regulación con fuerza legal que clasifica los sistemas de IA por nivel de riesgo y exige obligaciones distintas según esa clasificación (sección 15). Un SGSI de ISO/IEC 27001 protege el entorno donde opera la IA (los datos, los accesos, la infraestructura), pero no responde a las preguntas propias de la IA: qué puede decidir un sistema por su cuenta, con qué nivel de autonomía, con qué sesgo o con qué explicabilidad. Para eso están pensados ISO/IEC 42001, el NIST AI RMF y, como obligación legal en ciertos mercados, la ley europea de IA.
Para la privacidad existe además ISO/IEC 27701, cuya edición de 2025 pasó a ser una norma independiente para gestionar datos personales: ya no requiere tener primero ISO/IEC 27001.
En Chile, esa base ya es exigible para algunas empresas: la Ley Marco de Ciberseguridad exige a los operadores de importancia vital contar con un sistema de gestión de seguridad de la información (sección 15).
En la práctica, un SGSI de ISO/IEC 27001 ya maduro no se descarta al avanzar a IA: una parte importante se reutiliza, y otra parte debe extenderse porque la IA introduce preguntas que el SGSI no estaba diseñado para responder.
| Control o dominio de ISO/IEC 27001 | Qué cubre en IA | Qué le falta, y cubren ISO/IEC 42001 o el NIST AI RMF |
|---|---|---|
| Inventario de activos | Identifica servidores, datos y accesos del entorno donde corre la IA | No distingue modelos, versiones, conjuntos de datos de entrenamiento ni proveedores de IA como activos propios |
| Gestión de accesos | Controla quién entra a los sistemas e interfaces de IA | No controla qué puede decidir o ejecutar un agente una vez que ya tiene acceso autorizado, ni distingue si quien actúa es una persona o un agente que usa su cuenta |
| Evaluación de riesgos | Evalúa riesgos de confidencialidad, integridad y disponibilidad | No evalúa riesgos propios de IA como sesgo, alucinación, pérdida gradual de precisión con el tiempo (deriva del modelo) o pérdida de explicabilidad |
| Gestión de proveedores | Evalúa proveedores de tecnología en general | No pide evaluar el origen de los datos de entrenamiento ni la trazabilidad del modelo del proveedor (de dónde viene y cómo ha cambiado) |
| Gestión de incidentes | Responde a incidentes de seguridad de la información | No contempla un incidente donde el sistema actuó de forma autónoma dentro de sus permisos pero con un resultado indebido |
| Mejora continua y auditoría | Audita el cumplimiento del SGSI en el tiempo | No audita el desempeño del modelo en el tiempo ni su reentrenamiento |
La secuencia de madurez recomendada, de forma general, es la siguiente:
Un agente se gobierna con la misma lógica con que se incorpora a un trabajador nuevo con acceso a sistemas: se sabe quién es, qué puede hacer, quién responde por él y qué hizo. La primera pregunta, quién es, tiene hoy una respuesta incómoda.
En la práctica, muchos de los copilotos y agentes más usados operan con la cuenta de la persona que los usa. Microsoft 365 Copilot, Gemini en Google Workspace, ChatGPT conectado al correo o a SharePoint, o un navegador con IA actúan en nombre del usuario: ven lo que esa persona puede ver y hacen lo que ella puede hacer (Anexo A, preguntas 14 y 15). Esto se llama acceso delegado. La alternativa es que el agente tenga una identidad propia, distinta de la de cualquier persona y con permisos asignados para su tarea. Hay además una tercera forma, menos visible y más riesgosa: que el agente use las credenciales de la persona que lo creó, sea quien sea quien lo use. Las tres coexisten, a veces dentro de un mismo producto, y conviene saber cuál usa cada agente, porque sus riesgos son distintos.
| Modelo | Cómo funciona | Riesgo principal | Control mínimo |
|---|---|---|---|
| Acceso delegado En nombre de una persona | El agente usa la sesión o los permisos de quien lo invoca. Es el modelo habitual de los asistentes personales: resumir el correo propio o buscar en los documentos a los que la persona ya tiene acceso | Hereda todo lo que la persona puede ver y hacer, que casi siempre es mucho más de lo que la tarea requiere. Si una instrucción oculta lo manipula (sección 9, riesgo 3), actúa con toda la autoridad de esa persona, y en los registros su acción puede parecer hecha por ella | Limitar lo que el agente puede usar dentro de los permisos de la persona, y que el registro distinga lo que hizo el agente de lo que hizo la persona |
| Identidad propia Cuenta del agente | El agente opera con su propia cuenta (una cuenta de servicio), con permisos que asigna un administrador para su tarea. Corresponde a agentes que trabajan para un equipo o un proceso, que corren programados sin nadie conectado, o que ejecutan acciones con efectos: pagar, aprobar, modificar registros | Si la cuenta tiene permisos amplios, el agente ve y hace más que cualquier persona, y quien pueda invocarlo accede a través de él a información que no le corresponde | Separar quién puede invocar al agente de lo que el agente puede hacer, con un dueño, permisos mínimos y credenciales que se puedan rotar y revocar |
| Credenciales del creador Las conexiones de quien lo armó | El agente usa las conexiones o credenciales de la persona que lo creó, y las reutiliza con todos los que lo usan. Ocurre cuando alguien arma un agente con sus propios accesos y lo comparte con su equipo | Cualquier persona que lo invoque accede, a través de él, a todo lo que el creador puede ver y hacer, y en los registros todo aparece como hecho por el creador | Evitarlo: que cada usuario entre con su propia identidad o que el agente use la suya, y bloquear esta modalidad donde la plataforma lo permita |
Que un agente herede los permisos de la persona que lo usa resuelve un problema práctico, porque evita mantener una segunda matriz de accesos, pero desde el punto de vista de la seguridad es un problema. Los permisos de una persona se acumulan durante años, por proyectos, reemplazos y carpetas compartidas que nadie cerró, y el agente los recibe todos de una vez. Y los sigue heredando: cada acceso nuevo que la persona recibe queda disponible para el agente, sin que nadie haya evaluado si ese agente lo necesita. Un agente que prepara el informe semanal de ventas no necesita leer los correos de Recursos Humanos ni poder borrar archivos, aunque la persona que lo usa sí pueda hacerlo.
En la práctica, eso se traduce en cuatro decisiones: permisos definidos por tarea y no copiados de una persona; acceso solo a las fuentes de datos que la tarea usa; permisos con vencimiento, que se renuevan después de una revisión y no por defecto; y una regla de intersección, según la cual las políticas del agente solo pueden restringir lo que la persona puede hacer, nunca ampliarlo. El "ni menos" también importa: un agente con menos permisos de los que su tarea requiere no protege a nadie, porque empuja a que alguien le abra un acceso amplio para que funcione, o a que las personas lo reemplacen por una herramienta no aprobada.
Alrededor de cada agente hay cuatro identidades, no dos: quien lo crea y lo modifica, quien responde por él (su dueño), quien lo invoca y el propio agente. La de quien lo crea es la que más a menudo queda fuera del gobierno, porque hoy cualquier persona con la licencia adecuada puede armar un agente en minutos, en Copilot Studio, en los GPT de ChatGPT o en plataformas similares, conectarlo a sistemas de la empresa y compartirlo. De ahí vienen tres riesgos: que el agente use las credenciales de su creador con todos los que lo usan (la tercera fila de la tabla anterior; Copilot Studio, por ejemplo, permite configurarlo así); que el creador cambie después las instrucciones, las herramientas o las conexiones de un agente ya aprobado, y con eso lo que hace, sin que nadie lo revise; y que, cuando el creador deja la organización, sus agentes sigan funcionando con sus conexiones o queden sin nadie que los entienda.
Por eso quien crea un agente se gobierna como parte del agente, con cuatro reglas: crear y publicar agentes es un permiso que se asigna, no una capacidad que todos tienen por defecto; las conexiones personales del creador no se comparten con el agente; cada cambio en sus instrucciones, herramientas, conexiones o permisos queda registrado con su autor y, si amplía lo que el agente puede hacer, se revisa antes de publicarse; y quien crea un agente de alto impacto no es quien lo aprueba. El creador puede ser también su dueño, pero son funciones distintas: el creador lo construye y el dueño responde por lo que hace.
Sea cual sea el modelo de identidad, cada agente debería cumplir ocho reglas:
Más allá de esas reglas básicas, la industria todavía no tiene una respuesta única. En ELIAC 2026, tres fabricantes de seguridad presentaron tres formas distintas de controlar a un agente, que conviene leer como complementarias y no como alternativas:
| Tesis | Pregunta que responde | Qué resuelve | Qué no resuelve |
|---|---|---|---|
| Autoridad digital Steve Riley, Netskope | ¿Qué autoridad tiene este agente, y está creciendo sin que nadie la revise? | La acumulación silenciosa de permisos. Propone revisar cuatro dimensiones: identidad, autoridad mínima, comportamiento y datos | Que el agente, con los permisos correctos, decida mal |
| Control por intención Ron Bennatan, Varonis | ¿Debería hacer esto ahora, dado lo que se le pidió? | El modo de falla real de un agente: actuar fuera de lo que se le encargó, aunque tenga permiso | Es la propuesta más reciente y la menos probada en operación real |
| Contención Mario Espinoza, Illumio | Si algo falla, ¿hasta dónde puede llegar el daño? | Acota el radio de daño sin necesidad de predecir lo que hará el modelo | No previene el error: lo limita |
Cada tesis coincide con la categoría de producto que vende la empresa que la presentó. Eso no invalida el diagnóstico, pero obliga a separarlo de la receta: ninguna de las tres es una solución completa, y la identidad propia de los agentes sigue siendo un tema abierto, porque cada fabricante construye su propio esquema y esos esquemas todavía no conversan entre sí.
En el modelo delegado, la cuenta de la persona es la llave del agente: si esa cuenta está mal protegida, también lo está todo lo que el agente puede hacer con ella. Por eso el control de los agentes empieza por el de las personas, con tres reglas:
El Model Context Protocol (MCP) es un estándar abierto para conectar asistentes y agentes de IA con otras aplicaciones y fuentes de datos: el correo, el sistema de gestión de clientes (CRM), el repositorio de código o una base de datos. Lo creó Anthropic, desde diciembre de 2025 es un proyecto de la Agentic AI Foundation, bajo la Linux Foundation, y lo admiten, entre otros, ChatGPT, Claude, Gemini, Microsoft Copilot y Cursor. Para un ejecutivo, lo relevante es que cada conexión MCP le da al agente la capacidad de leer o de actuar en otro sistema. Por eso cada servidor MCP se trata como cualquier otra integración: se inventaría, tiene un dueño, se aprueba antes de usarse, se limita a lo que la tarea necesita y queda registrado. Un servidor MCP que una persona conecta por su cuenta es IA en la sombra con capacidad de actuar.
Un directorio no necesita un informe técnico sobre IA: necesita una página, con el mismo formato cada vez, que le permita ver la tendencia y decidir. Cinco contenidos bastan para empezar:
| Qué reportar | Qué debería mostrar | Frecuencia sugerida |
|---|---|---|
| Inventario de IA | Usos nuevos, usos retirados, IA en la sombra detectada, y cuántos usos hay en cada nivel de riesgo | Trimestral |
| Incidentes | Qué pasó, a quién afectó, qué se corrigió y qué se aprendió, incluidos los casi incidentes | Trimestral, y de inmediato los graves |
| Cumplimiento | Avance frente a la política y al marco adoptado, resultados de auditorías, y obligaciones legales nuevas o modificadas | Semestral |
| Valor generado | Para cada iniciativa relevante, el resultado comprometido frente al obtenido, con los indicadores de la sección 6 | Semestral |
| Usos de alto riesgo aprobados | Cuáles son, qué autonomía tienen, quién es dueño del riesgo, qué controles operan y qué excepciones se autorizaron | En cada aprobación nueva, y revisión completa una vez al año |
Las frecuencias son una referencia de partida: conviene ajustarlas a la intensidad de uso de IA y al calendario del directorio.
Gobierno responde quién decide. Ética responde qué estamos dispuestos a permitir, aunque técnicamente pueda hacerse. Ética, regulación y seguridad se superponen, pero no son lo mismo: una decisión puede ser legal y técnicamente segura, y aun así ser considerada inapropiada por clientes, trabajadores, la comunidad o el propio directorio. Los temas centrales son transparencia, equidad, no discriminación, privacidad, capacidad de explicar una decisión, responsabilidad, supervisión humana, impacto en las personas y uso proporcional al problema que se busca resolver.
La lección para un directorio: una IA que aprende del pasado puede repetir, y amplificar, los sesgos del pasado. Por eso las decisiones sobre personas (contratación, crédito, seguros, desvinculaciones) merecen la supervisión más estricta.
| Actor | Responsabilidad típica |
|---|---|
| Proveedor del modelo | El modelo o servicio subyacente |
| Proveedor de la aplicación | La aplicación construida sobre el modelo |
| Integrador | La implementación específica para la empresa |
| Empresa usuaria | El gobierno y el uso que le da al sistema |
| Dueño del proceso | El resultado final del proceso de negocio |
| Usuario humano | La decisión, cuando la decisión efectivamente le correspondía a una persona |
La distribución real de responsabilidad depende del contrato específico, la regulación aplicable y la arquitectura concreta: esta tabla es un mapa de partida, no una asignación automática.
La lección: frente al cliente, "fue la IA" no es una defensa. La empresa responde por lo que su IA dice y hace.
La IA ya tiene implicancias sobre privacidad, derechos de autor, discriminación, transparencia, decisiones automatizadas, responsabilidad y regulación sectorial específica de cada industria. Los marcos voluntarios (NIST, ISO) se describieron en la sección 12. Esta sección resume las obligaciones legales más relevantes para una empresa que opera en Chile o con clientes en Europa, a octubre de 2026.
| Norma | Estado | Qué significa para la empresa |
|---|---|---|
| Ley 21.719 de protección de datos personales (Chile) | Publicada en diciembre de 2024. Rige a partir del 1 de diciembre de 2026. Un proyecto del Gobierno de septiembre de 2026 (boletín 18.623-07) propone postergarla al 1 de diciembre de 2027. El 19 de octubre, la Comisión de Constitución del Senado lo aprobó en general y por unanimidad; en la discusión en particular hay propuestas de un plazo menor o de postergar solo la fiscalización y las sanciones | Crea la Agencia de Protección de Datos Personales, que fiscaliza y sanciona. Mantiene los derechos de acceso, rectificación, supresión, oposición y bloqueo, y agrega la portabilidad y el derecho a oponerse a decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente a la persona, y a pedir su revisión por una persona, con las excepciones que fija la ley. Obliga a informar a la Agencia las vulneraciones de seguridad que generen un riesgo razonable para las personas. Es la norma que más impacta el uso de IA con datos de clientes y trabajadores. A octubre de 2026 la Agencia aún no estaba constituida, porque en mayo el Senado rechazó la propuesta para su Consejo Directivo: eso retrasa la fiscalización, no las obligaciones. El mismo proyecto propone que, durante el primer año, la Agencia pueda optar por una amonestación escrita en lugar de una multa con empresas de cualquier tamaño, una facultad que hoy la ley reserva a las de menor tamaño. Es una opción de la Agencia, no una exención de multas. |
| Ley 21.663, Ley Marco de Ciberseguridad (Chile) | Publicada en abril de 2024. Las obligaciones de reporte rigen desde el 1 de marzo de 2025 | Crea la Agencia Nacional de Ciberseguridad. Los prestadores de servicios esenciales y los operadores de importancia vital deben reportar los incidentes con efectos significativos, con los plazos del reglamento de reporte (decreto 295): alerta temprana dentro de 3 horas, un segundo reporte a las 72 horas (24 si se afecta un servicio esencial), un plan de acción a los 7 días y un informe final a los 15. Entre los servicios esenciales que define la ley están la infraestructura digital, los servicios digitales y los servicios de tecnología de la información gestionados por terceros, por lo que también puede alcanzar a proveedores de TI y de IA. La Agencia ya publicó las primeras nóminas de operadores de importancia vital; la segunda, aprobada en julio de 2026, incluye 239 instituciones. Los operadores de importancia vital deben además implementar un sistema de gestión de seguridad de la información. |
| Proyecto de ley de IA (Chile, boletín 16.821-19) | En tramitación. Aprobado por la Cámara de Diputados en octubre de 2025, en el Senado (estado a agosto de 2026) | El texto aprobado por la Cámara sigue el modelo europeo de niveles de riesgo. En 2026 el Gobierno anunció que lo reemplazará por una ley marco "habilitante" que, entre otros puntos, reconocería estándares técnicos internacionales como ISO/IEC y NIST como mecanismos de cumplimiento. Aún no es ley. Es estratégicamente relevante y conviene seguirlo, pero hoy no genera obligaciones; su orientación favorece a las organizaciones que ya ordenaron su gestión de riesgos. |
| Ley europea de IA (EU AI Act) | Vigente desde agosto de 2024, con aplicación gradual | Alcanza también a empresas de fuera de Europa cuando sus sistemas de IA se ofrecen o sus resultados se usan en la Unión Europea. Desde febrero de 2025 rigen las prácticas prohibidas y desde agosto de 2025 las obligaciones de los modelos de propósito general. En 2026 se postergaron las obligaciones de los sistemas de alto riesgo: a diciembre de 2027 para los usos de alto riesgo del Anexo III de esa ley (por ejemplo, selección de personal, educación o evaluación de crédito), y a agosto de 2028 para la IA integrada en productos ya regulados del Anexo I (por ejemplo, maquinaria o dispositivos médicos), según el Reglamento (UE) 2026/1744, vigente desde el 27 de julio de 2026. Ese mismo ajuste suavizó la obligación de alfabetización en IA y agregó prohibiciones nuevas, como generar contenido sexual explícito no consentido de personas identificables. Lo que ya rige para quien usa IA: desde el 2 de agosto de 2026, las obligaciones de transparencia, por ejemplo que un asistente de chat que atiende a personas en la Unión Europea les informe que están conversando con una IA, salvo que sea evidente, y que los deepfakes se identifiquen como contenido artificial. El marcado del contenido generado por sistemas que ya estaban en el mercado se exige desde el 2 de diciembre de 2026. |
Esta guía no reemplaza asesoría legal: antes de una decisión de cumplimiento, conviene revisar el texto vigente de cada norma con un abogado.
Con estas condiciones definidas (autoridad, límites éticos, responsabilidad y obligaciones regulatorias) la organización ya puede decidir cómo implementar la solución y si está preparada para escalarla.
Existen al menos ocho caminos distintos, y no son mutuamente excluyentes dentro de una misma organización:
| Alternativa | Ventaja | Riesgo o contrapartida | Cuándo tiene sentido |
|---|---|---|---|
| Comprar un SaaS con IA | Rapidez, sin desarrollo propio | Menor control y personalización | Problema estándar, ya resuelto por el mercado |
| Usar copilotos empresariales | Adopción rápida sobre herramientas ya en uso | Alcance limitado a lo que el copiloto permite | Productividad individual o de equipo |
| Construir sobre las API de un proveedor | Flexibilidad sin operar infraestructura de modelos | Dependencia del proveedor de la API | Caso de uso propio, sin necesidad de operar el modelo |
| Desarrollar agentes propios | Adaptación precisa al proceso de negocio | Requiere ingeniería y gobierno propios | Ventaja competitiva real en un proceso específico |
| Ajuste fino (fine-tuning) | Comportamiento o estilo específico y estable | Costo, y mayor dificultad para revertir | Necesidad de comportamiento consistente y particular |
| Operar modelos de pesos abiertos (open-weight) | Mayor control y residencia de datos | Infraestructura, seguridad y talento propios | Requisitos estrictos de control o soberanía de datos |
| Entrenar modelos propios desde cero | Control total | Costo y complejidad muy altos | Casos excepcionales, no la consecuencia automática de tener estrategia de IA |
| Partner / integrador especializado | Acelera la implementación y aporta capacidades, experiencia o especialización que la organización no tiene internamente | Dependencia del partner, transferencia insuficiente de conocimiento, costos de integración y posible dependencia operativa difícil de revertir (lock-in) | Cuando el caso de uso requiere velocidad, integración, capacidades especializadas o experiencia que la organización no puede desarrollar de manera eficiente por sí sola |
Ninguna de las dos opciones es intrínsecamente más segura: la seguridad depende de cómo se implemente y gobierne cada una, no de la etiqueta "propietario" o "pesos abiertos". Un mismo fabricante puede ofrecer ambos tipos de modelo.
Para la etapa de compra o de desarrollo, el Anexo B reúne un checklist práctico de preguntas antes de firmar un contrato o de iniciar un desarrollo.
Las 18 preguntas, agrupadas por tema para facilitar su uso en una sesión de directorio.
No hace falta tener todo resuelto para empezar a gobernar la IA, y esperar a tenerlo es, en sí mismo, una decisión con riesgo. El plan se ordena en dos tramos.
Los plazos son referenciales y dependen del tamaño y de la complejidad de la organización.
Antes de aprobar una iniciativa de IA, un ejecutivo debería poder responder con solvencia cinco preguntas:
La ventaja competitiva no vendrá simplemente de utilizar IA. Vendrá de utilizarla en los procesos correctos, bajo el nivel adecuado de autonomía, con datos confiables, controles proporcionales al riesgo, y responsabilidad claramente definida desde antes de empezar.
Si la organización todavía no ha empezado, el plan de la sección 18 ordena los primeros 90 días.
Y cuando alguien pregunte si la IA de la empresa es segura, conviene recordar la regla del Anexo A: se responde con evidencia, no con promesas.
Estas son las preguntas que con más frecuencia hacen clientes, trabajadores, gerencia, auditores y el propio directorio, ordenadas en cinco niveles, de lo más básico a lo más complejo. Cada una indica quién suele hacerla. Para cada una se propone una respuesta en lenguaje simple, lo que conviene verificar antes de darla, y lo que no se debe prometer.
Las respuestas están escritas como respuesta modelo: solo se pueden dar si lo indicado en "Qué verificar antes" está resuelto. Si todavía no lo está, la respuesta honesta es explicar qué se está haciendo para resolverlo.
"Lo que escribimos o subimos puede quedar en cinco lugares: el historial de la conversación, los archivos cargados, la memoria del asistente, los registros del proveedor y, solo si la cuenta lo permite, el entrenamiento de versiones futuras. Cuánto tiempo queda y quién puede verlo depende del tipo de cuenta, no de la marca: con una cuenta personal lo fijan la configuración de cada usuario y los términos de consumo, que pueden incluir la revisión de conversaciones por personas del proveedor; con una cuenta de la empresa lo fija el contrato. Y a un buscador, con o sin IA, no se le entrega información confidencial."
Qué verificar antes"Ninguna IA guarda nuestros datos", sin saber qué cuentas se están usando.
"Algo queda, pero el modelo no aprende en el momento: lee lo que le escribimos para responder y no cambia con eso. Lo que puede ocurrir después es que el proveedor use esas conversaciones para entrenar versiones futuras. En las cuentas personales eso depende de la configuración de cada usuario; en nuestras cuentas empresariales, el proveedor se compromete por contrato a no hacerlo y guarda los registros por un plazo definido. Lo que sí queda guardado son el historial, los documentos cargados y la memoria de la herramienta, y eso lo administramos nosotros."
Qué verificar antes"La IA no guarda nada." Casi siempre guarda algo, en algún lugar.
"Escuchan de forma continua solo para detectar la palabra de activación, y eso ocurre en el propio dispositivo. Pero cuando se activan, a propósito o por error, lo que se dice a continuación se envía al proveedor. Por eso, en una conversación confidencial no debería haber un parlante inteligente encendido, y en los teléfonos de trabajo definimos si el asistente queda activo."
Caso real. En enero de 2025, Apple acordó pagar USD 95 millones para cerrar una demanda colectiva en Estados Unidos que la acusaba de grabar conversaciones tras activaciones involuntarias de Siri. Apple negó haber actuado mal. Ese mismo año, Amazon eliminó en algunos modelos de Echo la opción de procesar la voz solo en el dispositivo: desde marzo de 2025, las solicitudes a Alexa se procesan en la nube.
Qué verificar antes"Nadie escucha nuestras reuniones", si en la sala hay dispositivos con un asistente activo.
"Como borrador, sí. Como verdad final, no sin revisión: la IA puede inventar con total seguridad. En los usos críticos exigimos fuentes y revisión humana."
Qué verificar antesExactitud absoluta. El caso Mata contra Avianca (sección 9) es el recordatorio.
"La información de cada cliente está separada de la de los demás, y el proveedor no la usa para responderle a otros. Podemos mostrar cómo se logra esa separación."
Qué verificar antesUn aislamiento que no se haya probado. Es la pregunta de seguridad más grave cuando la respuesta es débil.
"Se procesan en la región que define nuestro contrato con el proveedor, que también establece dónde se almacenan, por cuánto tiempo y qué terceros participan."
Qué verificar antes"Los datos nunca salen de Chile", salvo que el contrato y la arquitectura lo garanticen.
"Borramos todo lo que es borrable y podemos mostrar el contrato y el plazo: archivos, índices, memoria y registros. No podemos garantizar que se borre lo que haya entrado al entrenamiento de un modelo, porque un modelo no es una base de datos. Por eso nuestro control está en la entrada: los datos sensibles no se usan para entrenar."
Qué verificar antesUn borrado total si alguna vez esos datos se usaron para entrenar o ajustar un modelo.
"Tenemos un inventario de las herramientas aprobadas, medimos el uso no autorizado y ofrecemos alternativas empresariales para que nadie necesite usar cuentas personales."
Qué verificar antesUna respuesta que describa solo la IA contratada formalmente. Casi siempre es una fracción del uso real.
"Sí, con una herramienta aprobada y con reglas: avisamos a todos los participantes antes de grabar, incluidos los externos; la grabación, la transcripción y el resumen quedan en una cuenta de la empresa; alguien revisa el resumen antes de circularlo; y hay reuniones que no se graban."
Caso real. En agosto de 2025 se presentó en California una demanda colectiva contra Otter.ai, que acusa a su asistente de unirse a reuniones y grabar a participantes que no habían dado su consentimiento, y de usar esas conversaciones para entrenar sus sistemas. Son acusaciones, no hechos probados, pero muestran el riesgo de un asistente que entra a la reunión con la cuenta de una sola persona.
Qué verificar antesQue el resumen es exacto. Puede omitir matices o atribuir a alguien algo que no dijo: es un borrador, no un acta.
"Lo tratamos como lo que es: una divulgación de información de un tercero a un proveedor externo, no un descuido menor. Actuamos en este orden:"
Que "ya se borró todo". El registro se borra: no se puede garantizar que se borre lo que pudo entrar al entrenamiento.
"No se sabe por la cara ni por la voz: hoy ambas se pueden imitar. Toda instrucción inusual de dinero o de datos se confirma por un segundo canal conocido, aunque parezca venir de la máxima autoridad."
Qué verificar antesQue la capacitación basta por sí sola. El caso Arup (sección 11) muestra hasta qué punto el engaño puede ser convincente.
"Sí, como a cualquier sistema. Los ataques más propios de la IA son las instrucciones ocultas en documentos o correos que la IA lee, y el abuso de los permisos de un agente. Ninguna IA puede distinguir siempre una instrucción escondida del texto que lee, así que no prometemos que no pueda ser engañada: limitamos lo que podría hacer si lo es. Nuestros agentes tienen solo los permisos mínimos, no combinan información confidencial, contenido externo y capacidad de enviar datos hacia afuera sin aprobación, y las acciones relevantes requieren aprobación."
Qué verificar antes"Nuestra IA no puede ser manipulada."
"Depende de los términos del proveedor y de los derechos sobre lo que le entregamos. Solo subimos información que tenemos derecho a usar para ese fin, y todo lo que se publica o se entrega a un cliente pasa antes por revisión humana. La protección por derechos de autor de un contenido generado solo por IA es incierta y varía según el país."
Qué verificar antes"Lo que genera la IA es nuestro y está libre de derechos."
"Sí, y ese es el punto. Microsoft 365 Copilot y Gemini en Google Workspace responden con lo que cada persona ya tiene permiso para abrir: correos, documentos, carpetas compartidas y reuniones. No se saltan los permisos, pero los dejan en evidencia: si una carpeta con sueldos o contratos quedó compartida con toda la empresa, ahora basta una pregunta para encontrarla. Por eso, antes de activarlos, revisamos quién tiene acceso a qué, y lo seguimos revisando. Lo mismo vale para cualquier asistente o buscador con IA que se conecte a los sistemas de la empresa respetando los permisos de cada persona."
Qué verificar antes"Copilot solo ve lo que debe ver", si nunca se revisaron los permisos.
"Con cuidado. Un navegador con IA, como ChatGPT Atlas o Perplexity Comet, o el modo agente de un asistente, puede leer páginas, llenar formularios y hacer clic con la sesión abierta de la persona: su correo, su banco o los sistemas de la empresa. Si una página contiene instrucciones ocultas, el agente puede seguirlas (sección 9, riesgo 3). Por eso no los usamos con sesiones de sistemas de la empresa hasta que estén aprobados, y las acciones sensibles siempre requieren confirmación humana."
Qué verificar antes"El agente solo hace lo que le pedimos." Puede seguir instrucciones escondidas en lo que lee.
"Sí, con las mismas reglas que cualquier otro uso de datos personales: una base legal, una finalidad clara, solo los datos necesarios, seguridad adecuada y un contrato con el proveedor que los procesa."
Qué verificar antes"Como el modelo no guarda datos personales, no aplica la ley." Un modelo entrenado con datos personales no puede presumirse anónimo: debe evaluarse caso a caso, según el Comité Europeo de Protección de Datos.
"Hoy la fecha legal es el 1 de diciembre de 2026. En septiembre de 2026 el Gobierno presentó un proyecto para postergarla un año, al 1 de diciembre de 2027, que a comienzos de octubre seguía en su primer trámite en el Senado: mientras no se apruebe, la fecha no cambia. La Ley 21.719 crea una Agencia que fiscaliza y sanciona, da a las personas más derechos, entre ellos pedir revisión humana de decisiones tomadas solo por un sistema automatizado que las afecten significativamente, y obliga a informar las brechas de seguridad que generen riesgo para ellas."
Qué verificar antesCumplimiento sin inventario. Sin saber qué datos toca cada IA, no hay respuesta posible. Tampoco que hay un año más de plazo: mientras el proyecto no se apruebe, la fecha sigue siendo el 1 de diciembre de 2026.
"Puede apoyar la decisión, pero las decisiones con efectos importantes sobre personas tienen supervisión humana real, se pueden explicar, y la persona puede oponerse o pedir una revisión."
Qué verificar antes"La IA es objetiva." Aprende de datos históricos y puede repetir sus sesgos.
"Puede ocurrir. Las conversaciones con una IA son registros como cualquier otro, y un tribunal puede ordenar conservarlas o entregarlas. En 2025, en el juicio de The New York Times contra OpenAI, un tribunal de Estados Unidos ordenó preservar conversaciones que normalmente se habrían borrado, incluidas las de cuentas de consumidor. La orden se levantó en octubre de ese año, pero mostró que el borrado no siempre depende de nosotros. Por eso, lo que se escribe a una IA se trata con el mismo cuidado que un correo."
Qué verificar antes"Lo que se borra en la IA ya no existe." Puede haber copias que el proveedor deba conservar.
"Primero medimos sin castigar, después ofrecemos una alternativa mejor y recién entonces fijamos la regla:"
Que la IA en la sombra desaparece con una prohibición. Si no hay alternativa, el uso se traslada a donde no se ve.
"Respondemos de forma proporcional y con un criterio que todos conocen de antemano:"
"Tolerancia cero" sin herramientas alternativas: empuja el uso a la sombra y desincentiva el reporte.
"No todos necesitan lo mismo. Organizamos la formación en cuatro públicos:"
Que una charla anual resuelve el tema. Es un proceso continuo, como la formación en ciberseguridad.
"Nosotros. Frente al cliente, la empresa responde por lo que dice y hace su IA, igual que por lo que dice cualquiera de sus canales. Internamente, cada caso de uso tiene un dueño con nombre y apellido."
Qué verificar antesQue la responsabilidad es del proveedor. El caso Air Canada (sección 14) lo deja claro.
"Seis cosas mínimas: que no entrene con nuestros datos, plazos de retención definidos, ubicación de los datos y lista de subcontratistas, aislamiento entre clientes, aviso de incidentes y de cambios relevantes, y eliminación verificable al terminar."
Qué verificar antesA los propios clientes, nada que el proveedor no le garantice a la empresa por contrato.
"Con una carpeta de evidencia, no con una declaración. Podemos mostrar el inventario de IA, la política aprobada y aceptada por las personas, los contratos con sus cláusulas de datos, los registros de uso, la capacitación realizada, los incidentes y cómo se cerraron, y los reportes al directorio."
Qué verificar antes"Cumplimos con todo", si no se puede mostrar el documento que lo respalda.
"No es obligatorio. Es útil cuando clientes o reguladores piden evidencia auditada de cómo gobernamos la IA. Antes, conviene tener ordenada la base de seguridad de la información (sección 12)."
Qué verificar antesQue una certificación vuelve segura a la IA. Certifica que existe un sistema de gestión, no que nunca habrá incidentes.
"En tres horizontes: los primeros 90 días para ordenar la base (sección 18); el primer año para pasar de iniciativas aisladas a un programa (Anexo C); y, en paralelo, una cartera de casos de uso priorizados por valor y por riesgo, cada uno aprobado con las 18 preguntas (secciones 6 y 17)."
Qué verificar antesUna transformación completa con IA en 90 días. Ese plazo sirve para ordenar la base, no para capturar todo el valor.
Las ocho alternativas de la sección 16 se reducen, en la práctica, a dos decisiones operativas frecuentes: comprar un producto que ya incluye IA, o construir algo propio que la incorpora. Estas preguntas no reemplazan las 18 preguntas de la sección 17 ni las 7 preguntas antes de usar un modelo de lenguaje de la sección 4: las complementan en la etapa siguiente, como filtro final antes de firmar un contrato o de iniciar un desarrollo.
Las secciones anteriores ayudan a decidir sobre una iniciativa concreta. Pero una organización que aprueba iniciativas una por una, sin construir capacidad detrás, tiende a acumular pilotos que no escalan. Gartner propone una hoja de ruta de IA organizada en siete ejes de trabajo, cada uno con actividades iniciales y otras más avanzadas. Esta hoja de ruta no reemplaza el marco de esta guía (Valor, Técnica, Autonomía, Gobierno): funciona como una referencia externa de comparación (benchmark), un control de completitud para verificar que la organización está construyendo las capacidades necesarias para escalar.
| Eje | Actividades iniciales | Actividades avanzadas | Dónde se trata en esta guía |
|---|---|---|---|
| Estrategia de IA | Definir la visión de IA; medir la madurez en IA | Establecer un proceso para refinar la estrategia de IA | Resumen ejecutivo y sección 17 |
| Valor de la IA | Priorizar los primeros casos de uso; definir su valor | Sistema de monitoreo del valor; portafolio de productos de IA | Secciones 4 y 6 |
| Organización | Plan de recursos de IA; comunidad de práctica | Sin actividades avanzadas en la fuente | Este anexo |
| Personas y cultura | Plan inicial de fuerza laboral; proceso de revisión de roles y rediseño de puestos | Sin actividades avanzadas en la fuente | Este anexo y sección 17 |
| Gobierno de IA | Identificar los principales riesgos y sus mitigaciones; definir políticas iniciales | Programas de alfabetización en IA para el gobierno; pilotear herramientas de gobierno | Secciones 9, 10, 12, 13 y 15 |
| Ingeniería de IA | Marco de decisión build vs. buy; seleccionar proveedores para los primeros casos | Buenas prácticas de experiencia de usuario en IA; ingeniería de plataforma de IA | Sección 16 |
| Datos para IA | Evaluar la preparación de los datos; implementar un plan de preparación | Observabilidad de datos para IA | Secciones 8 y 17 |
Fuente: Gartner, "AI Roadmap: How to Build and Scale AI" (gartner.com), difundido también por LinkedIn. Traducción y adaptación propias, sin reproducir el gráfico original (© Gartner, Inc.). La última columna es una correspondencia elaborada para esta guía, no forma parte del material de Gartner.
La IA cambia tareas, no solo herramientas. Cuando un proceso incorpora IA, cambia qué hace cada persona, qué habilidades necesita y cómo se evalúa su trabajo. Si esto no se planifica, suelen aparecer tres efectos: resistencia al cambio, uso informal fuera de gobierno (la IA en la sombra de la sección 1) y pérdida de conocimiento cuando se reduce personal antes de entender qué hacía realmente cada rol.
Gartner ubica los programas de alfabetización en IA dentro del eje de gobierno. La lógica es que un equipo que entiende qué hace y qué no hace la IA es, en sí mismo, un control: detecta antes un resultado dudoso, un uso indebido o una promesa de proveedor que no se sostiene.
Dos decisiones suelen quedar implícitas. La primera, con qué recursos se desarrollará la IA: equipo interno, proveedor, integrador o una combinación, en línea con la sección 16. La segunda, cómo se comparte el aprendizaje entre áreas. Una comunidad de práctica, es decir, un grupo transversal que reúne a quienes usan IA en distintas áreas, evita que cada equipo repita los mismos errores y ayuda a detectar casos de uso reutilizables.
Gartner sitúa al comienzo del recorrido dos actividades: medir la madurez en IA de la organización y evaluar si los datos están preparados para los primeros casos de uso. Ambas son preguntas de la sección 17 (preguntas 4 y 8).
Términos que aparecen en esta guía o en cualquier conversación sobre IA, explicados en una línea.
Diego Macor es ejecutivo de tecnología y ciberseguridad, con más de 25 años construyendo negocios de tecnología en América Latina: 22 años en IBM y, después, country manager en Chile de una compañía regional de ciberseguridad. Ha sido presidente de la Mesa de Ciberseguridad de la Asociación Chilena de Empresas de Tecnologías de Información (ACTI) y es voz habitual del sector en los medios chilenos. Tiene un MBA y las certificaciones CISM y CCSK.
Contacto y documentos actualizados: diegomacor.com · linkedin.com/in/diegomacor
Documentos del proyecto utilizados: Guia_Educativa_Tipos_de_IA_y_Preguntas_Frecuentes_v2.00_20260924.html, Guia_Educativa_Arquitectura_3_Capas_v2.10_20260922.html, Marco_Conceptual_Preguntas_Clientes_Seguridad_IA_v1.00_20260922.html, Casos_de_Uso_IA_por_Tamano_de_Empresa_v1.00_20260916.html, ELIAC2026_Sintesis_Charlas_v1.10_20260824.html (charla de CENIA en ELIAC 2026), Respuesta_Clientes_Seguridad_IA_v1.10_20260915.html (incluye el caso de preservación de registros en The New York Times contra OpenAI y la Opinión 28/2024 del Comité Europeo de Protección de Datos), Seguridad_IA_Guia_Ejecutiva_Gobernanza_v1.00_20260916.html, Seguridad_Agentes_IA_Lado_Proveedor_v1.04_20260916.html (continuidad ante cambios de versión del modelo), ELIAC2026_Resumen_Ejecutivo_Consolidado_v1.00_20260916.html (las tres tesis de control de agentes presentadas en ELIAC 2026), la versión 5.21 de esta guía y AI with Judgment, su edición para FQ4 (fq4tech.com/ai-guide). Las analogías cotidianas, las respuestas modelo del Anexo A, el plan de 90 días, la política de uso, el procedimiento ante incidentes, las reglas de identidad y permisos para agentes y personas y el reporte al directorio son elaboración propia con apoyo de IA a partir de esas fuentes.
Fuentes externas: