Guia Completo · executivos não técnicos

IA com critério

Guia para executivos sobre valor, risco, segurança e governança
O que um executivo ou conselheiro, sem conhecimentos técnicos prévios, precisa saber para decidir, avaliar, governar e responder a perguntas sobre o uso de IA em sua empresa
Diego Macor · Versão 5.22 · 20 de outubro de 2026 · diegomacor.com · linkedin.com/in/diegomacor

Resumo executivo

A inteligência artificial (IA) já está dentro da sua organização, por mais caminhos do que a liderança discutiu formalmente, e por isso a pergunta útil já não é se deve adotá-la, mas onde ela é usada, com quais dados, com quanta autonomia e sob qual governança. A vantagem não vem de usar IA, e sim de usá-la no processo certo e com a técnica adequada; e, à medida que ela passa de recomendar a agir, o que se delega deixa de ser apenas tecnologia e passa a ser autoridade, com riscos que crescem junto com a autonomia e com o impacto do que ela faz. Governar esses riscos exige, primeiro, ter a segurança da informação em ordem, porque os marcos de IA se apoiam nessa base, e responder com evidências, não com promessas, às perguntas de segurança, confidencialidade e privacidade que já chegam de clientes, colaboradores e reguladores. No Chile, a obrigação de maior alcance é a Ley 21.719 de proteção de dados pessoais, que entra em vigor em 1º de dezembro de 2026, embora um projeto do Governo busque adiá-la por um ano; a lei de IA segue em tramitação. Para a organização que ainda não começou, o guia propõe um plano de 90 dias: no primeiro mês, saber onde se usa IA, mover o trabalho sensível para contas corporativas, definir quais dados nunca são inseridos e nomear um responsável; nos dois meses seguintes, aprovar uma política de uso, adotar um marco de governança, implementar os controles e capacitar os colaboradores. Este guia percorre esse caminho do básico ao específico, com exemplos conhecidos desde os primeiros programas de ditado por voz até o ChatGPT e o DeepSeek, e se encerra com quatro anexos de consulta: perguntas de segurança, confidencialidade e privacidade (Anexo A), checklist para comprar ou construir (Anexo B), como passar de iniciativas isoladas a um programa (Anexo C) e glossário (Anexo D).

A pergunta certa não é “onde podemos colocar IA generativa?”, e sim “que problema queremos resolver e qual é a técnica mais adequada para resolvê-lo?”

O fato de algo poder ser feito com IA não significa que deva ser feito com IA.

À medida que uma IA ganha autonomia, a discussão deixa de ser apenas tecnológica: passa a ser também uma discussão sobre autoridade, risco, governança e responsabilidade.

Essas três ideias se apoiam em quatro dimensões que reaparecem ao longo de todo o documento, não como uma sequência, mas como perguntas transversais que convém refazer em cada etapa: Valor · Técnica · Autonomia · Governança.

Valor
Para que fazemos isso e que resultado buscamos?
1. O que já está acontecendo 3. O que ela faz bem e o que faz mal 6. Economia e valor
Autonomia
Que capacidade de decidir ou agir estamos delegando?
7. Do copiloto ao agente 9. Os seis riscos 10. Segurança de IA 11. IA a serviço dos atacantes

O roteiro de leitura do documento é outro, e é explicado a seguir.

Como ler este guia

Este guia não pretende transformar um executivo ou conselheiro em especialista em inteligência artificial. Pretende dar-lhe critério suficiente para distinguir uma oportunidade real de uma moda, compreender qual autoridade está sendo delegada, identificar os riscos relevantes e fazer as perguntas certas antes de aprovar uma iniciativa. Para isso, o documento avança em seis etapas, cada uma apoiada na anterior. Cada conceito aparece primeiro de forma simples, com um exemplo cotidiano ou um caso real, e depois com o detalhe de que um executivo precisa para decidir.

I. ENTENDER
→
II. ESCOLHER
→
III. AGIR
→
IV. PROTEGER
→
V. GOVERNAR
→
VI. DECIDIR E ESCALAR

Por blocos, em ordem

Os seis blocos formam o roteiro de leitura: vão de entender o que é a IA até decidir como escalá-la, e cada um se apoia no anterior. Cada bloco tem a sua cor, que se repete na sua capa, nos títulos e nas tabelas das suas seções.

Por dimensões, conforme a pergunta

Acima do título de cada seção há uma etiqueta com a dimensão a que ela responde: Valor, Técnica, Autonomia ou Governança. São as quatro perguntas que convém refazer em cada etapa de uma iniciativa, e funcionam também como índice temático: o mapa do resumo executivo agrupa as seções por dimensão, para quem quiser ler, por exemplo, apenas o que tem a ver com delegar autonomia à IA.

Ferramentas de consulta rápida, reunidas ao final na seção de Anexos: Anexo A. Perguntas de segurança, confidencialidade e privacidade, e como respondê-las · Anexo B. Checklist para comprar ou construir · Anexo C. Da iniciativa ao programa · Anexo D. Glossário essencial

Roteiros de leitura

Se você precisa deLeia
O essencial, de uma só vezResumo executivo; seções 1, 3, 7, 9, 12 e 18; encerramento
Responder a uma pergunta de privacidade ou confidencialidadeSeções 8 e 15; riscos 2 e 6 da seção 9; Anexo A, níveis 1 e 3
Responder a uma pergunta de segurançaSeções 9, 10 e 11; Anexo A, nível 2
Avaliar se uma iniciativa vale a penaSeções 4, 5 e 6
Aprovar, comprar ou construir uma soluçãoSeções 7, 16 e 17; Anexo B
Organizar a governança da IASeções 10 (política de uso e incidentes), 12, 13 e 14; Anexo C
Começar a colocar a IA em ordem na organizaçãoSeção 18; seção 12 (o que reportar ao conselho)
Adotar IA com segurança: regularizar, educar e demonstrarSeções 8, 10 e 18; Anexo A, níveis 4 e 5
Governar agentes de IASeção 7; seção 9, riscos 3 e 4; seção 12; Anexo A, perguntas 14 e 15; Anexo B
Valor

1O que já está acontecendo na sua organização

A IA está entrando nas empresas por vários caminhos ao mesmo tempo: ferramentas corporativas, copilotos (assistentes de IA integrados ao software que já se usa, como o e-mail ou a planilha), aplicativos contratados pela internet (SaaS, software como serviço) que incorporam IA sem que ninguém peça explicitamente, desenvolvimentos internos, fornecedores que a acrescentam à sua oferta, agentes (sistemas que, além de responder, executam ações por conta própria; são explicados na seção 2), conexões diretas entre sistemas (API, interfaces de programação de aplicações), ferramentas que colaboradores adotam por conta própria, assistentes de voz em telefones e escritórios, e ferramentas que gravam e resumem reuniões. Por isso a discussão no conselho já mudou de natureza:

A pergunta de dois anos atrás

Vamos adotar IA?

A pergunta de hoje

Onde a estamos utilizando, para quê, com quais dados, com qual nível de autonomia, com quais riscos e sob qual governança?
IA nas sombras (shadow AI). A organização pode estar usando IA antes mesmo de Tecnologia, Segurança, Jurídico ou o conselho terem tomado uma decisão formal a respeito: colaboradores que colam informações da empresa em ferramentas de consumo, equipes que ativam funções de IA já incluídas em um software contratado por outro motivo, ou fornecedores que acrescentam IA a um produto sem que o contrato original previsse isso. Não é necessariamente má-fé, é adoção sem governança. Lembra o que aconteceu quando os colaboradores começaram a compartilhar arquivos de trabalho a partir de contas pessoais na nuvem ou pelo WhatsApp: ninguém autorizou, mas foi feito do mesmo jeito porque era mais cômodo. É, em si mesmo, o primeiro ponto que um conselho deveria perguntar na próxima reunião: sabemos onde estamos usando IA hoje?
Técnica

2O que é a IA, e o que não é

De forma simples, inteligência artificial é qualquer sistema que faz algo que normalmente associamos à inteligência humana: reconhecer um rosto, recomendar um filme, detectar uma fraude, traduzir ou redigir um texto. Existem diferentes tipos, e convém ordená-los como anéis concêntricos.

Esses quatro níveis não competem entre si: contêm-se uns aos outros, e cada anel interno é um subconjunto do anel que o envolve. Nenhum substitui o anterior.

1Inteligência artificial2Aprendizado de máquina3Aprendizado profundo4IA generativaincl. LLM
1
Inteligência artificialQualquer sistema que imita uma capacidade que associamos ao humano: decidir, classificar, prever, gerar. Vai desde regras escritas à mão até as tecnologias mais recentes.
2
Aprendizado de máquina (machine learning)A parte da IA que não segue regras fixas, mas aprende padrões a partir de dados: classificar casos, projetar valores futuros (forecasting), detectar comportamentos anômalos.
3
Aprendizado profundo (deep learning)Aprendizado de máquina com redes neurais de muitas camadas (modelos matemáticos inspirados, de forma muito simplificada, no funcionamento do cérebro). Precisa de mais dados e mais capacidade de processamento, mas encontra padrões que um modelo clássico não enxerga.
4
IA generativa, incluindo os grandes modelos de linguagem (LLM)A IA generativa é a categoria ampla: sistemas que geram conteúdo novo. Os LLM são um tipo de modelo generativo especializado em linguagem. Também existem modelos generativos para imagem, áudio e vídeo: não são sinônimo de LLM, são a mesma família com outro foco.
Precisão importante: nem tudo o que está dentro do anel “inteligência artificial” passou por aprendizado de máquina. As regras de negócio, os sistemas especialistas e a otimização matemática são IA em sentido amplo, mas não aprendem com dados: vivem apenas no anel externo.

A IA não nasceu com o ChatGPT

O fato de a IA generativa estar na moda desde o lançamento público do ChatGPT, no fim de 2022, e de outros assistentes, como Claude ou Gemini, a terem ampliado depois, não significa que a inteligência artificial tenha começado ali. Boa parte do que hoje se chama de “IA” opera há décadas dentro das empresas, geralmente sem esse nome.

Desde as décadas de 1970 e 1980
Regras e sistemas especialistas

Motores de regras em seguros e bancos, sistemas de diagnóstico construídos a partir de regras escritas por especialistas.

Amplamente desde as décadas de 1990 e 2000
Aprendizado de máquina clássico

Detecção de fraude com cartões, filtros de spam, manutenção preditiva, recomendações no comércio eletrônico, pontuação de risco de crédito (scoring), reconhecimento óptico de caracteres (OCR).

Desde aproximadamente 2012
Aprendizado profundo

Reconhecimento de imagens e de voz em grande escala, tradução automática moderna, sistemas de recomendação de vídeo e música.

Desde o lançamento público do ChatGPT, em 2022
IA generativa e LLM

Geração de texto, imagem, áudio, vídeo e código a partir de instruções em linguagem natural.

É provável que a sua organização já use, há anos, alguma das três primeiras categorias sem chamá-la de “inteligência artificial” na linguagem interna. O novo em 2022 não foi a IA: foi que, pela primeira vez, uma IA generativa ficou disponível em uma interface de conversa aberta ao público em geral.

Seis momentos que todos lembram, e o que cada um ensina

A história da IA se entende melhor com seis marcos públicos, em ordem cronológica. Cada um ilustra um dos anéis do esquema anterior, e cada um deixa uma lição útil para um executivo.

1990Aprendizado de máquina: voz

DragonDictate: ditar ao computador, palavra por palavra

Em março de 1990, a Dragon Systems lançou o DragonDictate, apresentado como a primeira “máquina de escrever por voz”. Custava cerca de USD 9.000, incluindo uma placa especial para o computador, e reconhecia um vocabulário de 30.000 palavras, com uma condição: era preciso fazer uma pausa de ao menos um quarto de segundo entre... cada... palavra.

Lição: o que hoje parece desajeitado e caro pode se tornar cotidiano. Três décadas depois, ditar ao telefone, falar com um assistente de voz ou receber a transcrição automática de uma reunião é gratuito e quase passa despercebido. Ao avaliar uma tecnologia de IA, convém olhar a tendência, não apenas a foto do dia.

1997Anel externo: regras e cálculo

O Deep Blue vence Kasparov no xadrez

O supercomputador Deep Blue, da IBM, derrotou o campeão mundial Garry Kasparov por 3,5 a 2,5. Ele não “aprendia” como a IA atual: sua força vinha de calcular cerca de 200 milhões de posições por segundo, com critérios de avaliação que sua equipe de especialistas ajustava manualmente.

Lição: uma máquina pode superar a melhor pessoa do mundo em uma tarefa muito delimitada sem “entender” nada fora dela. O Deep Blue só sabia jogar xadrez.

2011Aprendizado de máquina e linguagem

O Watson vence o Jeopardy!

O sistema Watson, da IBM, venceu o programa de TV Jeopardy! diante de dois de seus campeões de maior sucesso. Precisava entender perguntas em linguagem natural, cheias de jogos de palavras, e responder em segundos. Seu erro mais lembrado é o mais instrutivo: na categoria “Cidades dos Estados Unidos” respondeu “Toronto”, que fica no Canadá. Mas o fez com pontos de interrogação, porque sua confiança era baixa (cerca de 30%), e apostou apenas USD 947.

Lição: a IA pode errar com fluência. O Watson pelo menos mostrava o quanto estava seguro; muitos assistentes atuais usam o mesmo tom quando acertam e quando inventam. Sua passagem posterior para a medicina deixou outra lição, contada na seção 6.

2016Aprendizado profundo

O AlphaGo vence Lee Sedol no Go

O AlphaGo, da DeepMind (Google), venceu por 4 a 1 o campeão sul-coreano Lee Sedol no Go, um jogo com tantas combinações possíveis que não se pode vencer apenas calculando. O AlphaGo aprendeu com milhões de jogadas de partidas humanas e de partidas contra si mesmo. Na segunda partida fez a “jogada 37”, que os especialistas consideraram algo que nenhum jogador humano teria feito.

Lição: a IA que aprende com dados pode encontrar soluções que ninguém havia imaginado, mas também tem pontos cegos: Lee Sedol venceu a quarta partida com uma jogada que o AlphaGo considerava muito improvável.

2022IA generativa (LLM)

O ChatGPT chega ao público

Em 30 de novembro de 2022, a OpenAI abriu o ChatGPT ao público. Em cerca de dois meses ele alcançou aproximadamente 100 milhões de usuários, segundo uma estimativa do UBS citada pela Reuters: a adoção mais rápida registrada até então para um aplicativo de consumo. Pela primeira vez, qualquer pessoa podia conversar com uma IA que redige, resume, traduz e programa.

Lição: diferentemente dos casos anteriores, essa IA não foi comprada pela empresa: entrou sozinha, pelas mãos de cada colaborador. Daí nasce a IA nas sombras da seção 1, e daí nasce a maioria das perguntas de confidencialidade do Anexo A.

2025IA generativa de pesos abertos

A DeepSeek abala o mercado a partir da China

Em janeiro de 2025, a empresa chinesa DeepSeek publicou o R1, um modelo “de raciocínio” de pesos abertos (seu fabricante publica o modelo treinado para que qualquer pessoa o instale e opere), comparável ao o1 da OpenAI. O R1 foi construído sobre o V3, um modelo de base da mesma empresa cujo treinamento final a DeepSeek estimou em cerca de USD 5,6 milhões em capacidade de processamento, uma fração do habitual; a etapa adicional do R1 somou, segundo a empresa, cerca de USD 294.000. Nenhuma das duas cifras inclui a pesquisa nem os testes prévios, e elas não foram verificadas de forma independente. Seu aplicativo superou o ChatGPT como o aplicativo de IA mais baixado na App Store da Apple, e em 27 de janeiro a Nvidia perdeu cerca de USD 589 bilhões em valor de mercado, a maior perda em um dia já registrada por uma empresa americana. Três dias depois, a autoridade italiana de proteção de dados bloqueou o aplicativo por considerar insuficiente a informação sobre como ele tratava os dados pessoais.

Lição: a fronteira da IA já não pertence a um único país nem a poucas empresas, e seu custo cai rápido. Mas uma ferramenta brilhante e barata não é, por isso, uma ferramenta aprovada: antes de usá-la com dados da empresa, é preciso saber onde eles são processados e sob qual lei (seções 8 e 15; Anexo A, pergunta 6).

O que mudouO Deep Blue só jogava xadrez. O Watson só respondia a perguntas de programa de auditório. O filtro de spam só filtra e-mails. A IA generativa é a primeira de uso geral ao alcance de qualquer pessoa: a mesma ferramenta redige um contrato, resume uma reunião, analisa uma planilha ou escreve código. Essa versatilidade a torna muito útil, e é a mesma que a torna mais arriscada, porque ela pode tocar quase qualquer dado e quase qualquer processo da empresa.

A IA que você já usa todos os dias

Antes de falar de riscos, convém notar que a IA já faz parte da vida diária, quase sempre sem se apresentar como tal:

Situação cotidianaO que a IA fazTipo (anel)
O e-mail separa o spamAprendeu a reconhecer os padrões das mensagens indesejadasAprendizado de máquina
O banco avisa sobre uma compra suspeitaDetecta uma compra que não combina com o seu comportamento habitualAprendizado de máquina
O Waze ou o Google Maps estimam quanto tempo você vai levarProjeta o trânsito a partir de dados históricos e em tempo realAprendizado de máquina
A Netflix ou o Spotify recomendam o que assistir ou ouvirCompara os seus gostos com os de milhões de pessoas parecidasAprendizado de máquina e profundo
O telefone é desbloqueado com o seu rostoReconhece rostos a partir de imagensAprendizado profundo
Você busca “praia” nas suas fotos e todas aparecemReconhece o conteúdo de cada imagemAprendizado profundo
Você dita uma mensagem ao telefone ou fala com a Siri ou a AlexaConverte a voz em texto e interpreta o que foi pedidoAprendizado profundo
Você pede ao ChatGPT, ao Claude ou ao Gemini que redija um e-mailGera um texto novo a partir de uma instruçãoIA generativa (LLM)

A diferença prática entre as linhas: nas sete primeiras, a IA executa uma única tarefa delimitada dentro de um produto que alguém projetou e controla. Na última, a pessoa entrega à IA informações e uma instrução aberta. Aí começam as perguntas de confidencialidade, exatidão e responsabilidade deste guia.

A IA generativa não é só texto

Dentro do anel de IA generativa do esquema anterior, os modelos de linguagem (LLM) são o caso mais conhecido, mas não o único. A mesma família generativa inclui modelos especializados em outros tipos de conteúdo:

Texto e linguagem (LLM)

Modelos como os que estão por trás do ChatGPT, do Claude ou do Gemini: redigem, resumem, traduzem e conversam.Exemplos: além desses três, Microsoft Copilot, Meta AI, DeepSeek e Le Chat da Mistral.

Imagem (modelos de difusão)

Geram ou editam imagens a partir de uma descrição em linguagem natural. É uma família técnica distinta dos LLM, embora às vezes sejam combinados.Exemplos: Midjourney, Adobe Firefly, a geração de imagens do ChatGPT e do Gemini.

Áudio e voz

Texto para voz, voz para texto e clonagem de voz: narração, transcrição, dublagem, assistentes de voz.Exemplos: ElevenLabs, Whisper, a transcrição automática do Teams ou do Zoom, o ditado do telefone.

Vídeo

Geração ou edição de vídeo a partir de texto ou imagem: a modalidade generativa mais recente a amadurecer.Exemplos: Veo (Google), Runway, Kling.
Uma precisão sobre “código”. Gerar ou revisar código não é uma família generativa à parte: é uma aplicação dos modelos de linguagem a um tipo particular de texto (código em vez de prosa), como GitHub Copilot, Cursor, Claude Code ou Codex. Os sistemas multimodais, cada vez mais comuns, combinam várias dessas modalidades em um mesmo modelo, por exemplo texto e imagem ao mesmo tempo.

Onde entram os agentes

Um agente não é um quinto anel menor dentro da IA generativa. É uma forma de usar um modelo, quase sempre um LLM, conectando-o a ferramentas, memória e à capacidade de executar etapas por conta própria. Por isso é representado como uma ramificação para fora do círculo, não como um nível mais específico dentro dele.

Modelo de linguageminterpreta o contexto e gera linguagem
+
Ferramentas e memóriapode consultar sistemas e conservar contexto
=
Agenteseleciona e executa etapas dentro de regras dadas

Em termos simples: um modelo de linguagem é como um especialista que só pode conversar. Um agente é esse mesmo especialista com acesso ao seu e-mail, à sua agenda e aos sistemas da empresa, e com permissão para fazer coisas neles.

Um cuidado de linguagem que vale a pena adotar. É comum dizer que um modelo “raciocina” ou “entende”. Rigorosamente, um modelo interpreta contexto, processa informação, gera respostas, realiza inferências estatísticas e propõe alternativas dentro de padrões aprendidos. Quando se fala de um agente, pode-se dizer que ele “decide qual ação executar”, mas sempre dentro das ferramentas, permissões e objetivos que alguém lhe entregou. A autonomia de um agente é sempre autonomia delegada: nunca é autoridade que o sistema concedeu a si mesmo.

O fato de um sistema poder responder não significa que deva agir por conta própria. A seção 7 desenvolve os diferentes níveis de autonomia e por que essa diferença é crítica para um conselho.

Valor

3O que a IA faz bem, e o que ainda faz mal

Antes de entrar em qual técnica usar para qual problema, convém fixar um ponto de partida honesto sobre as capacidades atuais.

A IA costuma ser boa emA IA ainda pode ser fraca em
Resumir grandes volumes de informaçãoGarantir exatidão factual absoluta
Encontrar padrões em dadosDemonstrar causalidade, não apenas correlação
Gerar alternativas e rascunhosAssumir responsabilidade por uma decisão
Interagir em linguagem naturalDistinguir sempre informação verdadeira de informação plausível
Automatizar tarefas repetitivasLidar corretamente com todas as exceções
Analisar grandes quantidades de dadosCompreender completamente o contexto empresarial
Executar fluxos de trabalho definidosDecidir que risco empresarial uma organização deve aceitar
Em termos simplesPense na IA generativa como um estagiário brilhante e muito rápido, que leu quase tudo o que foi publicado, mas que não conhece a sua empresa, raramente diz “não sei” e não responde por seus erros. Podem-se delegar a ele rascunhos, resumos e primeiras versões. Não se devem delegar a ele decisões sem revisão.
Duas ideias para reter desta tabela. Primeira: uma IA pode gerar uma resposta convincente sem que ela esteja correta: a fluência da linguagem não é evidência de certeza (é a lição do Watson na seção 2). Segunda: o fato de um sistema ter a capacidade técnica de fazer algo não lhe dá automaticamente a autoridade para decidi-lo. Capacidade tecnológica e autoridade para decidir são duas coisas distintas, e a segunda pertence sempre à organização, não à ferramenta.

Compreender o que é IA ainda não determina onde utilizá-la. A pergunta seguinte é qual técnica corresponde realmente ao problema, e se o valor que ela gera justifica fazê-lo.

Técnica

4Que técnica corresponde a qual problema

Esta seção aplica a ideia central do guia: primeiro o problema, depois a técnica.

FamíliaO que éPara que serveFerramentas de exemplo
Regras e lógica de negócioInstruções explícitas: se acontece isto, faz-se aquilo. Determinista (diante da mesma entrada, dá sempre o mesmo resultado) e auditávelValidações, transformações com lógica conhecidaFórmulas e macros do Excel, Power Automate, Zapier, motores de regras como o IBM ODM
Aprendizado supervisionado clássicoUm modelo aprende, a partir de exemplos já rotulados, a classificar ou prever um valorClassificação, priorização, pontuação de risco (scoring)Amazon SageMaker, Azure Machine Learning, Google Vertex AI, DataRobot, scikit-learn
Aprendizado não supervisionadoEncontra padrões, agrupamentos ou desvios nos dados sem exemplos previamente rotuladosDetecção de fraude ou de anomalias, segmentação de clientes, agrupamento (clustering)scikit-learn; detecção de anomalias no Splunk, no Datadog ou no Microsoft Sentinel
Séries temporaisProjeta um valor futuro a partir do seu históricoProjeção (forecasting) de demanda, vendas e indicadoresPlanilha de previsão do Excel, previsão no Power BI, Prophet, SAP IBP
Otimização matemáticaEncontra a melhor combinação de variáveis sob restriçõesPlanejamento, alocação de recursosSolver do Excel, Gurobi, IBM CPLEX, Google OR-Tools
Modelos de linguagem (LLM)Interpretam e geram linguagem natural. Não são deterministas: a mesma pergunta pode gerar respostas diferentesInterpretar perguntas abertas, redigir, resumirChatGPT, Claude, Gemini, Microsoft Copilot, Llama, DeepSeek
Agentes (LLM mais ferramentas)Um LLM que, além disso, executa ações e encadeia etapas por conta própriaAutomatizar tarefas de várias etapas, com mais risco do que as anterioresModo agente do ChatGPT, Claude Code, Microsoft Copilot Studio, Salesforce Agentforce, Gemini Enterprise
A tabela ordena as linhas por família técnica. Os problemas de negócio, como a fraude ou a previsão de demanda, aparecem na coluna “Para que serve”: são problemas que uma ou outra técnica resolve, não técnicas em si mesmas. As ferramentas são exemplos conhecidos para se situar, não recomendações: muitas combinam várias famílias, e várias ferramentas de automação já incorporam modelos de linguagem. Os exemplos de ferramentas deste guia refletem o mercado em outubro de 2026: nomes e produtos mudam rápido.

As variáveis que você deveria olhar antes de escolher

PerguntaO que pode indicar
Preciso de uma resposta determinista?Regras ou otimização
Tenho históricos suficientes?Aprendizado de máquina clássico
Preciso interpretar linguagem natural?Modelo de linguagem
Preciso executar ações em outros sistemas?Agente
O erro tem impacto alto?Mais supervisão, qualquer que seja a técnica
Preciso poder explicar o resultado?Modelos interpretáveis, não necessariamente o mais novo
O volume de consultas é muito alto?O custo e a arquitetura passam a importar tanto quanto a técnica
Os dados podem sair da organização?Afeta diretamente a arquitetura e a escolha do fornecedor
A ação pode ser revertida?Afeta quanta autonomia é razoável permitir
As 7 perguntas antes de usar um modelo de linguagem.
  1. O problema realmente exige linguagem natural?
  2. Existe uma solução determinista mais simples?
  3. O que acontece se a resposta estiver incorreta?
  4. Precisamos que a resposta seja reprodutível?
  5. Qual volume de consultas ela terá?
  6. Quais dados ela utilizará?
  7. Ela apenas recomendará, ou também executará ações?
Caso ilustrativo hipotético Uma empresa de médio porte que processa grandes volumes de dados quer melhorar sua rentabilidade com IA, e a tentação inicial é levar tudo para a IA generativa. Aplicando o filtro anterior a seus processos típicos: a limpeza de dados, a classificação e a detecção de anomalias se encaixam melhor em técnicas clássicas, mais baratas e mais auditáveis. A previsão de demanda ou de vendas é terreno de séries temporais, não de um modelo de linguagem. Onde o modelo de linguagem de fato tem um caso sólido é na camada de interação: que um usuário de negócio pergunte em linguagem natural e peça análises adicionais sobre dados já calculados por técnicas clássicas, não como motor de cálculo.
Técnica

5Quando a técnica correta não é um modelo de linguagem: o caso CENIA

No ELIAC 2026, a conferência latino-americana de IA aplicada à cibersegurança organizada pela iSecurity, o Centro Nacional de Inteligencia Artificial do Chile (CENIA) apresentou três projetos próprios. Sua tese na palestra: a IA não é sinônimo de modelos de linguagem; a técnica se escolhe pelo problema, não pela moda.

CasoProblemaTécnica usada
Cámara Chilena de la ConstrucciónRevisar previamente solicitações de licenças de edificação e detectar descumprimentos antes de dá-las entrada na prefeituraFluxo agêntico (aqui sim cabia IA generativa e agentes)
FiscalíaClassificar casos por urgência e curso de açãoClassificador clássico, sem modelo de linguagem
CMPCOtimizar a produção com vários modelos encadeadosCadeia de modelos de otimização (pipeline), tampouco modelo de linguagem
Nesses três exemplos apresentados, dois ilustravam que o problema podia ser resolvido melhor sem depender de um modelo de linguagem. Isso não deve ser lido como evidência estatística do comportamento geral do mercado de IA: é um caso público e verificável com três projetos, não uma amostra representativa. O aprendizado que vale para qualquer organização é o mesmo do filtro da seção 4: a técnica deve ser selecionada conforme o problema, não conforme a moda tecnológica.
Valor

6Economia e valor: quando uma iniciativa de IA vale a pena

O critério correto não é “a IA funciona?”. É “ela gera valor suficiente para justificar seu custo e seu risco?”. Um conselho não deveria perguntar primeiro se uma solução é comprada ou construída. Primeiro deve perguntar por que essa iniciativa deveria existir e que valor deveria gerar; a seção 16 trata de como obter a solução, uma vez resolvido o porquê.

Cinco fontes de valor

Produtividade, redução de tempo, automação de tarefas, aumento de receitas e melhoria na qualidade das decisões.

Componentes de custo

Licenças, consumo de modelos, infraestrutura, integração, dados, segurança, supervisão humana, operação, manutenção, governança e capacitação.
Uma forma simples de pensar:
Valor da IA = (impacto do processo × volume × melhoria obtida) − custo total de operação − custo ou risco residual.

Indicadores-chave (KPI, na sigla em inglês) de exemplo, a escolher conforme o caso: tempo economizado, custo por transação, taxa de automação, taxa de intervenção humana necessária, precisão, taxa de erro, adoção real pelos usuários, satisfação, aumento de receitas, incidentes registrados, custo por consulta e retorno sobre o investimento.

O KPI do modelo não é necessariamente o KPI do negócio. O fato de um modelo melhorar tecnicamente não implica automaticamente impacto empresarial: um classificador pode aumentar sua precisão sem produzir impacto econômico relevante, e um copiloto pode gerar bons resultados individuais mas não economizar tempo real se as pessoas precisarem refazer sistematicamente o seu trabalho. Toda iniciativa deve conectar suas métricas técnicas a uma métrica concreta de negócio, e não parar na primeira.

Por que os projetos de IA fracassam

Causas frequentes: problema mal selecionado, processo mal desenhado antes de ser automatizado, tecnologia escolhida pela moda e não pelo ajuste ao problema, dados insuficientes ou de má qualidade, integração deficiente com os sistemas existentes, ausência de um dono claro do processo, usuários que não adotam a ferramenta, ausência de controles, expectativas irreais sobre o que a IA pode fazer, custo de operação subestimado e retorno que nunca foi medido formalmente.

Caso real · IBM Watson na saúde, 2011 a 2022Depois de vencer o Jeopardy!, o Watson foi apresentado como uma tecnologia capaz de transformar a medicina. Segundo o The New York Times (2021), os projetos em oncologia esbarraram em dados clínicos desorganizados e incompletos e em um escopo ambicioso demais; vários foram encerrados e, em janeiro de 2022, a IBM vendeu os ativos de dados e análise do Watson Health. O Watson seguiu como produto para automatizar tarefas como o atendimento ao cliente. A lição não é que a tecnologia fosse ruim: uma demonstração espetacular não é um caso de negócio, e os dados, o processo e um escopo delimitado é que decidem o resultado.

Uma vez identificado um caso com valor, a questão seguinte é quanto poder de decisão e de execução estamos dispostos a delegar.

Autonomia

7Do copiloto ao agente: o que muda quando a IA age

Enquanto um modelo apenas responde a uma consulta, o risco é de qualidade da resposta. Um agente inicia fluxos de trabalho, chama outros sistemas, encadeia várias etapas e decide o que fazer em seguida sem que uma pessoa intervenha em cada passo. “IA agêntica” é o termo para nomear justamente essa capacidade de agir com autonomia rumo a um objetivo, e não apenas responder.

Nível de autonomiaO que fazExemploFerramentas de exemplo
AssistenteResponde ou sugere. A pessoa decide e executa tudoRedigir um rascunho de e-mail para que alguém o reviseMicrosoft 365 Copilot no Outlook, Gemini no Gmail
Agente supervisionadoPropõe uma ação concreta e espera aprovação antes de executá-laClassificar uma licitação e propor uma tarefa, que uma pessoa aprovaModo agente do ChatGPT, que pede confirmação antes de ações sensíveis; agentes do Copilot Studio com etapa de aprovação
Agente autônomoExecuta a ação sem esperar aprovação prévia, dentro de uma margem que lhe foi definidaResponder e encerrar por conta própria reclamações de clientes de baixo valor, sem revisão préviaAgentes de atendimento como o Salesforce Agentforce ou o Fin da Intercom

O nível de autonomia não é definido pelo nome do produto (“assistente”, “copiloto” ou “agente”), mas pelo que o sistema realmente pode fazer: suas capacidades, suas permissões e as aprovações que exige. Uma mesma ferramenta pode operar em mais de um nível conforme a configuração. E nem toda ação automática é IA: uma regra fixa que bloqueia uma conta diante de certos padrões é automação tradicional.

Em termos simplesDelegar autonomia a uma IA se parece com delegar a um assistente de confiança. O assistente pode redigir um e-mail para que você o envie (assistente), preparar um pagamento para que você o aprove (agente supervisionado) ou pagar por conta própria as faturas abaixo de certo valor (agente autônomo). Nos três casos alguém definiu o que ele pode fazer, até que valor e quando deve consultar, como em uma procuração. Com um agente de IA é o mesmo, com uma diferença: ele pode repetir um erro muitas vezes e muito rápido, antes que alguém perceba.
Um agente não é apenas um modelo de linguagem mais avançado. É um sistema distinto: modelo de linguagem, mais ferramentas, mais contexto ou memória, mais permissões, mais capacidade de executar ações. Essa combinação é o que se chama de sistema agêntico (seção 2), e é a combinação que precisa ser governada, não apenas o modelo que está por baixo.

A segunda dimensão: o impacto da ação

Classificar unicamente por autonomia é incompleto. Uma ação de baixo impacto executada de forma autônoma é diferente de uma de alto impacto executada da mesma forma.

Baixo impacto
Alto impacto
Recomenda
Risco baixo
Risco moderado
Executa com aprovação
Risco baixo a moderado
Risco moderado
Executa de forma autônoma
Risco moderado
Risco alto
Que autoridade estamos delegando a uma máquina? Esta pergunta é mais importante para um executivo do que saber qual modelo específico o sistema utiliza.
Supervisão humana efetiva. Incorporar uma aprovação humana não garante, por si só, um controle efetivo. Se uma pessoa precisa aprovar centenas ou milhares de recomendações geradas por IA sem tempo suficiente, informação, contexto, capacidade técnica, autoridade ou treinamento, o “humano no circuito” (human in the loop) pode se tornar uma formalidade e não um verdadeiro controle.
O risco cresce com o número de agentes, não apenas com a sua qualidade. No ELIAC 2026 (seção 5), Ron Bennatan (Varonis) colocou a questão com uma aritmética simples: se cada agente tem 0,1% de probabilidade de falha e a organização opera 10.000 agentes, o erro deixa de ser uma possibilidade e passa a ser uma certeza. Steve Riley (Netskope) projetou na mesma conferência entre 10 e 100 agentes por pessoa. Por isso os agentes são governados como uma população, com identidade, permissões e registro, e não um a um: a seção 12 explica como.
Técnica

8Como vivem e persistem os dados

Em termos simplesImagine que você contrata um consultor externo muito experiente (o modelo). O que você conta a ele em uma reunião não muda o que ele estudou na universidade (o treinamento do modelo). Mas o escritório dele pode fazer anotações da reunião (os registros), guardar cópias dos documentos que você entregou (arquivos e índices de busca), e ele pode se lembrar do que foi conversado na próxima vez (a memória). Por isso a pergunta de confidencialidade não é apenas “ele aprende com o que eu digo?”, mas também quem guarda as anotações, onde, por quanto tempo e quem mais pode lê-las. Esta seção percorre cada uma dessas superfícies.

Para entender onde a informação pode ficar, convém separar os componentes envolvidos: modelo, serviço de inferência (o serviço que executa o modelo cada vez que ele responde), aplicação, armazenamento, fornecedor e registros. Durante uma consulta normal, os pesos do modelo (os parâmetros onde ficou guardado o que foi aprendido no treinamento) geralmente não são modificados pelo prompt (a instrução ou pergunta que se escreve). Mas “o modelo não retém o dado” não é toda a história: a plataforma ou o serviço que cerca o modelo pode conservar, conforme o produto, a arquitetura, a configuração e o contrato, os prompts, os resultados, arquivos, registros, metadados, rastros de raciocínio (as etapas intermediárias que o modelo registra), caches (cópias temporárias para responder mais rápido) e informações usadas para detecção de abuso.

Sistema de origem
documento, dado ou solicitação de entrada
Canal não confiável por padrão
▼a aplicação ou o agente o recebe e interpreta
Camada de aplicação / agentedecide o que guardar e que ação propor
▼o conteúdo pode passar por até cinco superfícies distintas
1

Sistema de origem

O documento ou dado tal como chegou, antes de qualquer IA processá-lo.

Não é uma superfície de IA
2

Contexto temporário da consulta

O que o modelo processa para responder a esta consulta pontual. Normalmente não modifica os pesos do modelo.

Não persiste, salvo configuração diferente
3

Conhecimento persistente (RAG, geração aumentada por recuperação)

Documentos convertidos em vetores (representações numéricas que permitem buscar por significado), indexados, consultáveis a cada resposta. É onde costuma viver o dado empresarial.

Persiste, pode ser isolado e apagado
4

Memória do agente

O que o agente lembra entre interações: conversa anterior, preferências, tarefas em andamento.

Persiste, exige gestão própria
5

Registros de uso (telemetria e logs) e auditoria

Registro de cada consulta, etapa de raciocínio e tarefa gerada. A superfície que quase ninguém declara com clareza.

Persiste se não for gerenciado
Não persiste, ou depende de configuração Persiste, sob controle se a arquitetura foi bem desenhada Persiste se não for gerenciado explicitamente

O tipo de conta decide mais do que a marca

Uma mesma ferramenta de IA trata os dados de forma muito diferente conforme o tipo de conta ou de contrato. É a distinção que mais ajuda a responder se a IA “fica” com a informação.

Tipo de contaContratoO que costuma implicar para os dados
Pessoal, gratuita ou pagaTermos de adesão, não negociáveisO uso das conversas para melhorar o modelo depende de uma configuração controlada pelo próprio usuário e que pode vir ativada. Não há acordo de tratamento de dados com a empresa, nem ninguém que responda perante os seus clientes.
Empresarial ou de equipeAdesão com condições comerciaisNormalmente excluída do treinamento por padrão, com administração centralizada e prazos de retenção definidos. Os planos de equipe podem ter condições diferentes dos empresariais: convém revisá-las caso a caso.
Integração por API ou contrato corporativoParcialmente negociávelPermite pactuar por escrito a retenção, a localização dos dados e, em alguns casos, a retenção zero (o fornecedor não guarda o conteúdo). É o nível que dá mais margem para assumir um compromisso concreto perante os próprios clientes.

As condições mudam conforme o fornecedor e ao longo do tempo: o que vale é o que diz o contrato vigente, não a publicidade.

As ferramentas de IA que já são usadas na organização

A regra anterior não se aplica apenas aos assistentes de conversa. Vale também para o buscador, o navegador, o assistente de voz do telefone e as ferramentas que gravam reuniões: em todos, a mesma marca trata os dados de forma diferente conforme seja usada com uma conta pessoal ou com uma conta da empresa.

FerramentaCom conta pessoalCom conta da empresa
Assistentes de conversa
ChatGPT (OpenAI)Nos planos Free, Plus e Pro, as conversas podem ser usadas para treinamento por padrão. Cada usuário pode desativá-lo em Configurações, Controles de dados, opção “Melhorar o modelo para todos”.No ChatGPT Business, Enterprise, Edu e na API, por padrão as entradas e as respostas não são usadas para treinamento.
Claude (Anthropic)Nos planos Free, Pro e Max, desde outubro de 2025 cada usuário escolhe se permite o uso de suas conversas para treinamento. Se permitir, elas são conservadas por até cinco anos; se não, o prazo é de 30 dias.Nos planos Team e Enterprise, no Claude para Educação e para Governo, na API e no acesso pelo Amazon Bedrock ou pelo Google Cloud Vertex AI valem os termos comerciais, que não incluem esse uso para treinamento.
Gemini (Google)Com a atividade dos apps do Gemini ligada, as conversas são usadas para melhorar os serviços do Google, incluindo seus modelos de IA, e uma parte é revisada por pessoas. Essas conversas revisadas são conservadas por até três anos. Com a atividade desligada, o Google ainda assim as guarda por 72 horas.Com uma edição qualificada do Google Workspace, o conteúdo não é revisado por pessoas nem usado para treinar modelos fora do domínio da empresa sem a sua permissão.
Copilot (Microsoft)Com uma conta Microsoft pessoal, a atividade de conversa pode ser usada para treinamento. Desativa-se em Privacidade, nas opções de treinamento com conversas de texto e de voz.Com uma conta de trabalho ou escola do Microsoft 365, as instruções, as respostas e os dados da empresa não são usados para treinar os modelos de base, e a Microsoft atua como operadora do tratamento nos termos do contrato. As buscas na web feitas pelo Copilot ficam fora desse regime: nelas a Microsoft atua como controladora independente.
IA no buscador e no navegador
Pesquisa do Google com IA (resumos com IA e Modo IA)Usa os mesmos modelos do Gemini, mas é outro produto com outras regras: o que se escreve no buscador é regido pela política geral de privacidade do Google e fica na atividade da conta se essa opção estiver ativa, e não pela configuração do app do Gemini. Desde julho de 2026, o Google usa por padrão as imagens, arquivos e áudio do Search, do Lens e do Gemini Live para melhorar seus modelos, a menos que o usuário desative a opção de salvar esse conteúdo. Um buscador não é o lugar para informação confidencial, com ou sem IA.
Navegadores com IA (Chrome com Gemini, Edge com Copilot, ChatGPT Atlas, Comet da Perplexity)Leem o conteúdo das páginas abertas, incluindo aplicações internas ou o e-mail, para resumi-las ou agir nelas com a sessão do usuário. Com conta pessoal, esse conteúdo fica sob as regras de consumo de cada fornecedor. Além disso, são especialmente vulneráveis a instruções escondidas em páginas web (seção 9, risco 3).Alguns podem ser administrados ou bloqueados de forma centralizada. Convém que Tecnologia defina quais são permitidos nos equipamentos da empresa e para quais sites.
Assistentes de voz
Siri, Alexa e o assistente do GoogleEscutam no próprio dispositivo para detectar a palavra de ativação. A partir da ativação, de propósito ou por engano, o que se diz é enviado aos servidores do fornecedor. Já houve ativações acidentais que terminaram em processos judiciais (Anexo A, pergunta 3).Nos telefones da empresa, Tecnologia pode limitar ou desativar o assistente. Em salas onde se tratam temas confidenciais, a regra simples é não ter alto-falantes inteligentes.
Gravação e resumo de reuniões
Assistentes de reunião (Copilot no Teams, Zoom AI Companion, Gemini no Meet, Otter, Fireflies e similares)Os assistentes externos que entram na reunião como um participante a mais costumam operar com a conta pessoal de quem os conectou: a gravação, a transcrição e o resumo ficam nas mãos desse fornecedor, às vezes sem que os demais participantes saibam.As funções integradas à plataforma de reuniões contratada pela empresa ficam sob as condições desse contrato. Em ambos os casos: aviso prévio a todos os participantes e revisão do resumo antes de circulá-lo (Anexo A, pergunta 9).

Condições informadas por cada fornecedor em suas páginas oficiais, revisadas em outubro de 2026. Mudam com frequência: antes de uma decisão, convém confirmá-las no contrato vigente.

Regra prática. Com uma conta pessoal, nenhuma dessas ferramentas deveria receber informações da empresa, de seus clientes ou de seus colaboradores. Com uma conta da empresa, o que vale é o contrato assinado, não o nome da ferramenta.

RAG, em uma frase

RAG (geração aumentada por recuperação) permite que um modelo consulte informações empresariais externas durante uma resposta, sem que essas informações tenham necessariamente sido incorporadas ao treinamento do modelo. É a diferença entre o que o modelo “sabe” de fábrica e o que ele “consulta” no momento de responder. Seguindo o exemplo do consultor: RAG é entregar a ele uma pasta com documentos da empresa para que a consulte durante a reunião; o ajuste fino (fine-tuning) é enviá-lo a um curso de especialização com esses documentos, e o que ele aprendeu ali já não pode ser retirado com facilidade.

É provável que a sua organização já use RAG sem chamá-lo assim: NotebookLM, os Projetos do ChatGPT e do Claude, o Microsoft 365 Copilot quando responde com documentos do SharePoint, ou o Gemini quando busca no Google Drive. Em todos esses casos, a ferramenta consulta os documentos para responder, e o que define o risco é quem pode ver essa pasta e com que tipo de conta ela é usada.

NecessidadeRAGAjuste fino (fine-tuning)
Consultar documentos atuaisMuito adequadoNão necessariamente
A informação muda com frequênciaAdequadoMenos adequado
Mudar o estilo ou o comportamento do modeloLimitadoMais adequado
Retirar uma fonte de informaçãoRelativamente gerenciávelMais complexo
Poder citar a fonte de uma respostaGeralmente melhorNão necessariamente
Sobre o apagamento e o treinamento. Não é correto simplificar com “se treinou com o dado, não dá para apagar”, mas também não é correto presumir que dá. Uma vez que um dado foi usado para treinar ou ajustar um modelo, eliminar por completo a sua influência é substancialmente mais complexo do que apagar um registro de um banco de dados, porque uma rede neural distribui o que aprendeu em seus parâmetros, não o guarda como um registro isolado e localizável: é como tentar tirar o açúcar de um bolo já assado. Por isso o controle preferido não é prometer um apagamento posterior, é impedir contratual e tecnicamente que dados sensíveis entrem em um processo de treinamento quando isso não é necessário. E convém não confundir estas seis coisas, que são apagadas de forma distinta e com dificuldade distinta: apagamento dos arquivos originais, apagamento do índice RAG, apagamento dos logs, apagamento da memória do agente, uso já feito para treinamento, e retenção contratual ou em backups.

Autonomia e acesso a dados mudam a superfície de risco. A pergunta seguinte é o que pode dar errado e como se controla.

Autonomia

9Os seis riscos que um executivo deve conhecer

Cada risco é apresentado com o que é, um exemplo cotidiano ou um caso real, e seus controles.

1

Respostas incorretas ou “alucinações”

Uma IA pode produzir conteúdo muito convincente e ao mesmo tempo incorreto. A consequência prática: não confundir fluência com certeza. Controles habituais: verificação humana, exigência de fontes, limites de uso declarados e supervisão reforçada em decisões críticas.

No dia a dia. É o estudante que não estudou e, para não deixar a pergunta em branco, inventa uma resposta com muita segurança.

Caso real. Em 2023, no processo Mata contra Avianca, em Nova York, dois advogados apresentaram uma petição com decisões judiciais inexistentes, com citações falsas incluídas, que o ChatGPT havia inventado. O tribunal os sancionou, junto com seu escritório, com uma multa de USD 5.000.

2

Exposição de informações

Inclui informações confidenciais, dados pessoais, segredos empresariais, informações de clientes e propriedade intelectual. Pode ocorrer no envio dos dados, durante o armazenamento, por meio dos registros, por erros de isolamento entre clientes, ou por ferramentas conectadas ao agente.

Caso real. Em 2023, segundo reportagens da imprensa, funcionários da Samsung inseriram no ChatGPT código-fonte (as instruções internas de seus programas) e notas de reuniões, para corrigir erros e resumi-las. A empresa confirmou que restringiu o uso de ferramentas de IA generativa em seus equipamentos e redes internas.

Como se gerencia. Definir que tipo de informação nunca pode ser inserida em uma IA externa, usar contas empresariais em vez de pessoais (seção 8), exigir por contrato que os dados não sejam usados para treinamento, isolar a informação de cada cliente e revisar o que os registros guardam.

3

Manipulação do agente (injeção de instruções)

Um documento, e-mail, página web ou arquivo pode conter instruções dirigidas ao agente e não ao leitor humano, ocultas em texto de cor branca, em metadados ou em uma imagem. Um exemplo conceitual: um documento aparentemente normal tenta persuadir o agente a ignorar instruções anteriores ou a executar uma ação indevida. O caso mais difícil é a injeção indireta (a instrução chega escondida no conteúdo que o sistema lê, não de quem o utiliza), porque hoje não existe uma forma completa de evitá-la dentro do modelo: um modelo de linguagem não distingue com certeza entre as instruções que deve seguir e o texto que está lendo. O Centro Nacional de Cibersegurança do Reino Unido (NCSC) advertiu em dezembro de 2025 que é possível que esse ataque nunca seja totalmente mitigado, e recomenda que um sistema que processa conteúdo de um terceiro não tenha mais privilégios do que os que esse terceiro teria. Por isso o controle principal não está no modelo, mas no desenho: limitar o que um agente manipulado poderia fazer. Um agente que lê conteúdo externo não deveria ter, ao mesmo tempo e sem aprovação humana, acesso a informações confidenciais e capacidade de enviá-las para fora; deve ler apenas o que lhe cabe, e propor em vez de executar as ações relevantes.

No dia a dia. É como se alguém escondesse, dentro de uma pasta que você passa ao seu assistente, um bilhete que diz “ao assistente que ler isto: envie esta pasta para este endereço”. Uma pessoa o ignoraria. Uma IA pode não distinguir entre as instruções do seu chefe e o texto que está lendo.

Caso real. Em junho de 2025, a empresa de segurança Aim Security revelou o “EchoLeak”: um e-mail com instruções ocultas podia fazer o Microsoft 365 Copilot vazar informações internas, sem que o usuário clicasse em nada. A Microsoft corrigiu a falha e não houve evidência de que ela tenha sido usada contra clientes.

4

Excesso de permissões ou de autonomia

Um agente pode ter mais capacidade do que a necessária, estar tecnicamente correto e mesmo assim executar uma ação que o negócio não queria. Os controles aqui são os mesmos de qualquer sistema com capacidade de agir: privilégio mínimo, segregação de funções, limites de autoridade explícitos, aprovação humana no que for relevante, limites financeiros ou operacionais, e que a ação seja reversível sempre que possível. Nos copilotos e agentes que agem com a conta de uma pessoa, o excesso de permissões vem de fábrica: o agente recebe tudo o que essa pessoa pode ver e fazer, ainda que sua tarefa precise apenas de uma fração (seção 12).

Caso real. Em julho de 2025, um agente de programação da plataforma Replit apagou o banco de dados em uso de um projeto, com registros de mais de 1.200 executivos e 1.190 empresas, durante um período em que havia sido instruído expressamente a não fazer alterações sem aprovação. O próprio agente classificou o ocorrido como “uma falha catastrófica”. Os dados foram recuperados depois, e a plataforma passou a separar automaticamente os ambientes de teste e de uso real.

5

Dependência de terceiros e cadeia de suprimentos

Uma solução de IA pode depender do fornecedor do modelo, da nuvem, das API, de complementos (plugins), de integradores, de ferramentas externas e de fontes de dados de terceiros. Uma empresa pode prometer algo ao seu cliente que na verdade depende de um terceiro que não o garante por contrato. Inclui o risco de dependência de um único fornecedor, a disponibilidade do serviço, e mudanças de produto ou de preço fora do controle da empresa.

Caso real. Em maio de 2025, no processo do The New York Times contra a OpenAI, um tribunal dos Estados Unidos ordenou a preservação de registros de conversas que normalmente teriam sido apagados, incluindo os de contas de consumidor e de equipe; as contas empresariais e as integrações com retenção zero ficaram de fora. A ordem geral foi suspensa em outubro de 2025. Um processo do qual as empresas usuárias não faziam parte mudou o que acontecia com os seus dados.

Como se gerencia. Saber de quais fornecedores depende cada solução, incluindo os indiretos; escolher o tipo de conta conforme a sensibilidade do uso; exigir aviso de mudanças relevantes; e ter um plano de saída (seção 16).

6

Propriedade intelectual, privacidade, conformidade e regulação

A IA pode criar risco sobre dados pessoais, direitos autorais, uso de informações, transparência, decisões automatizadas, discriminação e regulação setorial. Este guia não substitui assessoria jurídica: a seção 15 retoma o ponto com mais detalhe.

Caso real. Em março de 2023, a autoridade italiana de proteção de dados bloqueou temporariamente o ChatGPT. Em dezembro de 2024, multou a OpenAI em 15 milhões de euros, entre outras razões por usar dados pessoais para treinamento sem uma base legal adequada e por não notificar uma violação de segurança. Em março de 2026, o Tribunal de Roma anulou essa multa por um motivo de competência: como a OpenAI já tinha sua sede europeia na Irlanda, o caso cabia à autoridade irlandesa. O tribunal não se pronunciou sobre o mérito.

Como se gerencia. Antes de usar dados pessoais com IA, confirmar a base legal e a finalidade, usar apenas os dados necessários, revisar onde são processados, e permitir que uma pessoa peça revisão humana das decisões tomadas exclusivamente por um sistema automatizado que a afetem de forma significativa. No Chile, isso ganha força com a nova lei de dados pessoais (seção 15).

Autonomia

10Segurança de IA: três conversas distintas

É comum misturar três conversas que na verdade são separadas, e convém distingui-las explicitamente em qualquer discussão com um fornecedor ou uma equipe interna.

A. Usar IA com segurança

O uso cotidiano de ChatGPT, copilotos, SaaS com IA e agentes pelos colaboradores e pela organização.

B. Proteger os sistemas de IA

Defender-se de injeção de instruções, manipulação, acesso indevido, exposição de dados e abuso de ferramentas conectadas.

C. Usar IA para cibersegurança

Aplicar IA no próprio centro de operações de segurança: detecção, classificação inicial de alertas (triage), análise, investigação, gestão de identidades e resposta.

Por que separá-las

Um fornecedor ou uma equipe pode estar respondendo bem a uma das três conversas e omitindo por completo as outras duas, sem que isso seja evidente se não se perguntar separadamente.
O que significa “IA segura”, em termos simples. Dados protegidos, identidade controlada, das pessoas e dos agentes, privilégio mínimo, ações limitadas, supervisão proporcional ao risco, monitoramento, rastreabilidade, capacidade de interromper ou reverter ações, e testes de segurança antes da produção. Toda iniciativa de IA deveria ser desenhada desde o início sob esse princípio, não acrescentada depois como remendo. “IA segura” descreve um padrão de projeto, não é uma marca comercial nem um produto que se compra.

A política de uso de IA para o pessoal

A primeira das três conversas desta seção, usar IA com segurança no dia a dia, se resolve em boa parte com uma política de uso que qualquer pessoa da organização possa ler em dez minutos. Não precisa de cinquenta páginas: precisa responder quatro perguntas com clareza, e coincidir com o que a tecnologia da empresa realmente permite.

O que deve responderO que deveria dizerExemplo
Quais ferramentas posso usar?A lista de ferramentas aprovadas, com o tipo de conta permitido para cada uma, e como pedir que uma nova seja avaliada“Para trabalho com informações da empresa, somente a conta empresarial do assistente aprovado; nunca uma conta pessoal”
Quais dados eu nunca insiro?Uma lista curta e concreta, não uma definição abstrata de “informação sensível”Dados pessoais de clientes ou colaboradores, informações entregues por um cliente sob confidencialidade, senhas e credenciais, código-fonte, cifras financeiras não publicadas
Quando uma pessoa deve revisar?Os casos em que um resultado de IA não pode sair da organização nem ser usado para decidir sem revisão humanaAntes de enviá-lo a um cliente, publicá-lo, assiná-lo, usá-lo em uma decisão sobre pessoas ou em um assunto jurídico ou financeiro
Como reporto um erro?Um canal único, um prazo e a garantia de que reportar a tempo não é punido“Se você inseriu um dado que não devia ou a IA fez algo inesperado, avise no mesmo dia o responsável por IA”
Em termos simplesÉ o equivalente ao regulamento de uso do carro da empresa: quem pode dirigi-lo, aonde não se pode ir, o que verificar antes de sair e para quem ligar se algo acontecer. Ninguém o lê inteiro duas vezes, mas todos sabem as quatro regras.
O erro mais comum. Escrever uma política que descreve como a IA deveria funcionar na empresa sem confirmar com a equipe técnica como ela funciona de fato. Uma política que não coincide com a arquitetura real não protege a empresa: expõe-na, porque deixa por escrito uma promessa que uma auditoria pode contradizer com evidências.

Quando algo dá errado: incidentes e continuidade da operação

Mais cedo ou mais tarde, algo vai dar errado: um colaborador insere informações de um cliente em uma ferramenta pública, um agente executa uma ação equivocada, um assistente entrega a um cliente uma resposta falsa, ou um documento manipulado altera uma análise. Sem um procedimento escrito de antemão, na primeira vez se improvisa, e se improvisa mal. O procedimento geral tem cinco passos:

  1. Conter. Interromper o dano antes de entendê-lo por completo: pausar o agente ou a integração, revogar seus acessos e suspender as ações automáticas pendentes.
  2. Dimensionar. Usar os registros para estabelecer quais dados, quais ações, quais clientes e qual período foram afetados. Sem registros, este passo não pode ser feito.
  3. Notificar. O responsável interno e, em seguida, quem couber conforme a lei e os contratos: a Agencia de Protección de Datos Personales (Agência de Proteção de Dados Pessoais) quando a violação gerar um risco razoável para as pessoas, a Agencia Nacional de Ciberseguridad (Agência Nacional de Cibersegurança) se a empresa estiver obrigada pela Ley Marco de Ciberseguridad (Lei Marco de Cibersegurança; seção 15), os clientes afetados conforme seus contratos e o fornecedor de IA.
  4. Corrigir e reverter. Desfazer as ações que puderem ser desfeitas, pedir formalmente ao fornecedor a eliminação do que for pertinente e corrigir com o cliente o que lhe foi entregue de forma errada.
  5. Aprender. Identificar a causa, ajustar a política, as permissões ou os controles, e acrescentar o caso aos testes que se repetem antes de cada mudança.

O Anexo A, pergunta 10, aplica essa lógica ao caso mais frequente: um colaborador que inseriu informações confidenciais em uma conta pessoal.

Há ainda um tipo de incidente próprio da IA que não parece um incidente: o sistema começa a responder de forma diferente sem que ninguém na empresa tenha mudado nada, porque o fornecedor atualizou o modelo. Os controles para a continuidade da operação são quatro:

Em termos simplesÉ como se o fornecedor de um ingrediente mudasse a receita sem avisar: o prato continua com a mesma aparência, mas já não tem o mesmo sabor. Um restaurante sério testa o novo ingrediente antes de servi-lo, e mantém à mão o anterior por precaução.
Autonomia

11A IA também está à disposição dos atacantes

Esta seção busca unicamente gerar consciência executiva. Não é um guia de técnicas de ataque. Atores com intenção maliciosa podem usar IA para aprimorar engenharia social, phishing, geração de conteúdo, tradução, personalização de mensagens, pesquisa de alvos, automação, geração ou modificação de código, e a velocidade e a escala de certas campanhas. Não há evidência de que a IA tenha substituído as técnicas tradicionais de ataque: o que ela faz, principalmente, é reduzir barreiras de entrada, aumentar a escala e acelerar a operação de quem ataca.

Caso real · Arup, 2024Um funcionário de finanças do escritório de Hong Kong da empresa de engenharia Arup participou de uma videochamada com quem parecia ser o diretor financeiro e outros colegas. Todos eram imitações geradas com IA (deepfakes). Seguindo suas instruções, fez 15 transferências por cerca de USD 25 milhões. A Arup confirmou que foram usadas vozes e imagens falsas, e que seus sistemas internos não foram violados: o engano foi com a pessoa, não com a tecnologia.
Em termos simplesAté pouco tempo atrás, ver o rosto e ouvir a voz de alguém era prova suficiente de identidade. Já não é. O controle é tão antigo quanto eficaz: toda instrução incomum de dinheiro ou de dados é confirmada por um segundo canal conhecido (por exemplo, ligando para o número que já se tem registrado), e há valores que nunca são autorizados por uma única via, ainda que a ordem pareça vir do presidente da empresa.
A organização não pode pensar apenas em “usar IA”. Deve pensar em usar IA com segurança enquanto opera em um ambiente onde os adversários também estão incorporando IA.

Controlar esses riscos exige algo além de tecnologia: exige autoridade, responsabilidade e regras claras.

Governança

12Governança de IA: quem decide o que a IA pode fazer

Governança de IA não significa criar burocracia. Significa definir, com nome e sobrenome, quem pode aprovar casos de uso, quem é dono do processo, quem é dono do risco, quais dados podem ser utilizados, quais modelos e fornecedores são permitidos, que nível de autonomia está autorizado, quais usos são proibidos, quando se exige supervisão humana, como o desempenho é monitorado, como os incidentes são reportados e quando uma solução deve ser retirada.

Pergunta de governançaResponsável típico
Por que estamos fazendo isto?Negócio
Quem é dono do resultado?Dono do processo
Que risco aceitamos?Negócio / Risco
Que dados pode usar?Dados / Privacidade
Como é protegido?Segurança
Cumpre a regulação?Jurídico / Conformidade
Como é operado?Tecnologia
Como é supervisionado?Governança / Auditoria

Os nomes das áreas são referenciais (conselho, diretoria-geral, dono do processo, Tecnologia, Segurança, Dados, Jurídico ou Conformidade, Risco, Auditoria): cada empresa os adapta ao seu porte e à sua indústria.

O dono da tecnologia não deve se tornar automaticamente o dono do risco empresarial. São duas responsabilidades distintas que costumam ser confundidas quando não há uma governança explícita.

Marcos e modelos de governança de IA e cibersegurança

Antes de governar especificamente a IA, convém ter em ordem a governança geral de tecnologia e informação. Uma organização que não gerencia bem seus riscos de informação dificilmente vai gerenciar bem os riscos, mais novos e menos conhecidos, de seus sistemas de IA.

Em termos simplesA segurança da informação é como a segurança de um edifício: fechaduras, cartões de acesso, câmeras e vigilantes. Protege o lugar onde a IA trabalha. Mas não diz o que o novo integrante da equipe (a IA) pode decidir depois que está lá dentro com o seu cartão. Isso é definido pela governança de IA, assim como a descrição de cargo, os limites de assinatura e a supervisão de qualquer pessoa nova. As duas coisas são necessárias, e nessa ordem.
A IA não se governa no vácuo. Governa-se sobre a base de uma gestão de riscos e de segurança da informação que já deveria existir. Se essa base não está madura, o primeiro projeto de governança de IA é, na realidade, terminar de organizar a governança geral.

Convém distinguir dois níveis: marcos gerais de gestão de risco e segurança, que se aplicam a qualquer organização que use tecnologia, e marcos específicos para IA, que só começaram a se consolidar nos últimos anos.

NIST CSF (Marco de Cibersegurança do NIST)

Marco voluntário do Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST). Sua versão 2.0, de fevereiro de 2024, organiza-se em seis funções: governar, identificar, proteger, detectar, responder e recuperar; a função “governar” foi acrescentada nessa versão. Não é certificável e não prescreve controles exatos: oferece uma linguagem comum e uma forma de avaliar a maturidade diante do risco, para organizações de qualquer porte e setor.

ISO/IEC 27001 (SGSI)

Norma internacional certificável da Organização Internacional de Normalização (ISO), cuja edição vigente é de 2022. Exige implementar um sistema de gestão de segurança da informação (SGSI): políticas, papéis, inventário de ativos, avaliação de riscos e um ciclo de melhoria contínua, auditado por um terceiro.

Não são excludentes: muitas organizações usam o NIST CSF como marco de avaliação interna e a ISO/IEC 27001 como o sistema de gestão certificado que sustenta essa avaliação.

DimensãoNIST CSFISO/IEC 27001
NaturezaMarco de referência voluntárioNorma internacional certificável
EnfoqueFunções e níveis de maturidade diante do riscoSistema de gestão (SGSI) com ciclo de melhoria contínua
VerificaçãoAutoavaliação, sem certificação formalAuditoria externa e certificação formal
RigidezFlexível, adapta-se ao porte e ao setorMais estruturado e documentado
Uso típicoAvaliar e priorizar o estado da cibersegurançaDemonstrar a terceiros que existe gestão auditada de riscos
Analogia cotidianaUm roteiro de check-up preventivo que a própria empresa aplica para saber como estáUm certificado concedido por um auditor externo, como a auditoria das demonstrações financeiras

Com essa base geral no lugar, só então faz sentido avançar para os marcos que abordam especificamente a IA:

ISO/IEC 42001

Norma internacional publicada em dezembro de 2023 para um sistema de gestão de IA (SGIA). É certificável e segue a mesma lógica da ISO/IEC 27001, mas aplicada a todo o ciclo de vida dos sistemas de IA: desenho, dados, monitoramento e melhoria contínua.

NIST AI RMF (Marco de Gestão de Riscos de IA)

Marco voluntário publicado pelo NIST em janeiro de 2023, organizado em quatro funções: governar, mapear, medir e gerenciar. Em julho de 2024 foi acrescentado um perfil específico para IA generativa. Aplica a lógica de maturidade e autoavaliação do NIST CSF a riscos próprios da IA, como autonomia, viés ou explicabilidade (a capacidade de explicar por que o sistema chegou a um resultado).

A esses dois soma-se, com outra natureza, a lei europeia de IA (EU AI Act): não é um marco voluntário de gestão, mas uma regulação com força legal que classifica os sistemas de IA por nível de risco e exige obrigações distintas conforme essa classificação (seção 15). Um SGSI da ISO/IEC 27001 protege o ambiente onde a IA opera (os dados, os acessos, a infraestrutura), mas não responde às perguntas próprias da IA: o que um sistema pode decidir por conta própria, com que nível de autonomia, com que viés ou com que explicabilidade. Para isso foram pensadas a ISO/IEC 42001, o NIST AI RMF e, como obrigação legal em certos mercados, a lei europeia de IA.

Para a privacidade existe ainda a ISO/IEC 27701, cuja edição de 2025 passou a ser uma norma independente para gerenciar dados pessoais: já não exige ter primeiro a ISO/IEC 27001.

No Chile, essa base já é exigível para algumas empresas: a Ley Marco de Ciberseguridad exige que os operadores de importância vital tenham um sistema de gestão de segurança da informação (seção 15).

Na prática, um SGSI da ISO/IEC 27001 já maduro não é descartado ao avançar para a IA: uma parte importante é reaproveitada, e outra parte deve ser estendida porque a IA introduz perguntas que o SGSI não foi desenhado para responder.

Controle ou domínio da ISO/IEC 27001O que cobre em IAO que lhe falta, e cobrem a ISO/IEC 42001 ou o NIST AI RMF
Inventário de ativosIdentifica servidores, dados e acessos do ambiente onde a IA rodaNão distingue modelos, versões, conjuntos de dados de treinamento nem fornecedores de IA como ativos próprios
Gestão de acessosControla quem entra nos sistemas e interfaces de IANão controla o que um agente pode decidir ou executar depois que já tem acesso autorizado, nem distingue se quem age é uma pessoa ou um agente que usa a conta dela
Avaliação de riscosAvalia riscos de confidencialidade, integridade e disponibilidadeNão avalia riscos próprios da IA, como viés, alucinação, perda gradual de precisão ao longo do tempo (deriva do modelo) ou perda de explicabilidade
Gestão de fornecedoresAvalia fornecedores de tecnologia em geralNão exige avaliar a origem dos dados de treinamento nem a rastreabilidade do modelo do fornecedor (de onde vem e como mudou)
Gestão de incidentesResponde a incidentes de segurança da informaçãoNão contempla um incidente em que o sistema agiu de forma autônoma dentro de suas permissões, mas com um resultado indevido
Melhoria contínua e auditoriaAudita o cumprimento do SGSI ao longo do tempoNão audita o desempenho do modelo ao longo do tempo nem o seu retreinamento

A sequência de maturidade recomendada, de forma geral, é a seguinte:

Fase 1. SGSI de base

Inventário de ativos, gestão de acessos, avaliação de riscos e gestão de incidentes funcionando de forma consistente, com ou sem certificação formal ISO/IEC 27001.

Fase 2. Extensão para IA

Sobre essa base, incorporar inventário de modelos e conjuntos de dados, avaliação de riscos próprios da IA e um processo de incidentes que cubra decisões autônomas, seguindo a lógica da ISO/IEC 42001 ou do NIST AI RMF.

Fase 3. Governança da autonomia

Definir, para cada caso de uso, o que o sistema pode decidir por conta própria e o que fica explicitamente fora do seu alcance (seção 7 e pergunta 12 da seção 17).

Fase 4. Conformidade regulatória

Identificar quais obrigações legais se aplicam a cada sistema (no Chile, hoje principalmente a lei de dados pessoais; na Europa, a lei europeia de IA) e cumprir as que couberem (seção 15).

Governar agentes: identidade, permissões e registro

Um agente é governado com a mesma lógica com que se incorpora um novo colaborador com acesso a sistemas: sabe-se quem é, o que pode fazer, quem responde por ele e o que fez. A primeira pergunta, quem é, tem hoje uma resposta incômoda.

Com que identidade um agente opera hoje

Na prática, muitos dos copilotos e agentes mais usados operam com a conta da pessoa que os utiliza. O Microsoft 365 Copilot, o Gemini no Google Workspace, o ChatGPT conectado ao e-mail ou ao SharePoint, ou um navegador com IA agem em nome do usuário: veem o que essa pessoa pode ver e fazem o que ela pode fazer (Anexo A, perguntas 14 e 15). Isso se chama acesso delegado. A alternativa é que o agente tenha uma identidade própria, distinta da de qualquer pessoa e com permissões atribuídas para a sua tarefa. Há ainda uma terceira forma, menos visível e mais arriscada: que o agente use as credenciais da pessoa que o criou, seja quem for que o utilize. As três coexistem, às vezes dentro de um mesmo produto, e convém saber qual cada agente usa, porque seus riscos são distintos.

ModeloComo funcionaRisco principalControle mínimo
Acesso delegado
Em nome de uma pessoa
O agente usa a sessão ou as permissões de quem o invoca. É o modelo habitual dos assistentes pessoais: resumir o próprio e-mail ou buscar nos documentos aos quais a pessoa já tem acessoHerda tudo o que a pessoa pode ver e fazer, que quase sempre é muito mais do que a tarefa exige. Se uma instrução oculta o manipular (seção 9, risco 3), ele age com toda a autoridade dessa pessoa, e nos registros sua ação pode parecer feita por elaLimitar o que o agente pode usar dentro das permissões da pessoa, e que o registro distinga o que o agente fez do que a pessoa fez
Identidade própria
Conta do agente
O agente opera com a sua própria conta (uma conta de serviço), com permissões que um administrador atribui para a sua tarefa. Corresponde a agentes que trabalham para uma equipe ou um processo, que rodam de forma agendada sem ninguém conectado, ou que executam ações com efeitos: pagar, aprovar, modificar registrosSe a conta tiver permissões amplas, o agente vê e faz mais do que qualquer pessoa, e quem puder invocá-lo acessa por meio dele informações que não lhe cabemSeparar quem pode invocar o agente do que o agente pode fazer, com um dono, permissões mínimas e credenciais que possam ser rotacionadas e revogadas
Credenciais do criador
As conexões de quem o montou
O agente usa as conexões ou credenciais da pessoa que o criou, e as reutiliza com todos os que o utilizam. Ocorre quando alguém monta um agente com seus próprios acessos e o compartilha com sua equipeQualquer pessoa que o invoque acessa, por meio dele, tudo o que o criador pode ver e fazer, e nos registros tudo aparece como feito pelo criadorEvitá-lo: que cada usuário entre com a sua própria identidade ou que o agente use a própria, e bloquear essa modalidade onde a plataforma permitir
Em termos simplesÉ a diferença entre emprestar a um assistente o seu próprio cartão de acesso e a sua assinatura, ou entregar a ele um cartão em nome dele, que abre apenas as portas de que o trabalho dele precisa e que deixa registro cada vez que ele o usa. Com o primeiro, tudo o que o assistente fizer parecerá feito por você.
A boa prática. Que cada agente tenha uma identidade própria, reconhecível e revogável, e que cada ação fique registrada com dois nomes: o agente que a executou e a pessoa ou o agendamento que a solicitou. Quando o agente age em nome de alguém, o correto não é que use a conta dessa pessoa, mas um acesso delegado formal em que ambas as identidades fiquem visíveis. É o que recomenda a OWASP, que inclui o abuso de identidade e privilégios entre os dez principais riscos das aplicações agênticas e propõe identidades por agente com credenciais de curta duração, delimitadas a cada tarefa. Alguns fabricantes já oferecem isso: a Microsoft tem no Entra identidades específicas para agentes, que podem agir por conta própria ou em nome de uma pessoa, deixando ambas registradas, e desde meados de 2026 aplica a elas acesso condicional; a Glean abriu em julho de 2026 uma versão de teste com contas próprias para seus agentes.

Permissões: nem mais nem menos do que a tarefa precisa

Que um agente herde as permissões da pessoa que o utiliza resolve um problema prático, porque evita manter uma segunda matriz de acessos, mas do ponto de vista da segurança é um problema. As permissões de uma pessoa se acumulam durante anos, por projetos, substituições e pastas compartilhadas que ninguém fechou, e o agente as recebe todas de uma vez. E continua herdando-as: cada novo acesso que a pessoa recebe fica disponível para o agente, sem que ninguém tenha avaliado se esse agente precisa dele. Um agente que prepara o relatório semanal de vendas não precisa ler os e-mails de Recursos Humanos nem poder apagar arquivos, ainda que a pessoa que o utiliza possa fazê-lo.

Um agente deve ter exatamente as permissões de que precisa para executar o que lhe foi encomendado, sobre os dados que essa tarefa exige, nem mais nem menos, e nunca mais do que poderia fazer a pessoa que o invoca.

Na prática, isso se traduz em quatro decisões: permissões definidas por tarefa e não copiadas de uma pessoa; acesso apenas às fontes de dados que a tarefa usa; permissões com vencimento, que se renovam depois de uma revisão e não por padrão; e uma regra de interseção, segundo a qual as políticas do agente só podem restringir o que a pessoa pode fazer, nunca ampliá-lo. O “nem menos” também importa: um agente com menos permissões do que sua tarefa exige não protege ninguém, porque empurra alguém a lhe abrir um acesso amplo para que ele funcione, ou as pessoas a substituí-lo por uma ferramenta não aprovada.

Quem criou o agente: a identidade que costuma ficar de fora

Em torno de cada agente há quatro identidades, não duas: quem o cria e o modifica, quem responde por ele (seu dono), quem o invoca e o próprio agente. A de quem o cria é a que com mais frequência fica fora da governança, porque hoje qualquer pessoa com a licença adequada pode montar um agente em minutos, no Copilot Studio, nos GPTs do ChatGPT ou em plataformas semelhantes, conectá-lo a sistemas da empresa e compartilhá-lo. Daí vêm três riscos: que o agente use as credenciais do seu criador com todos os que o utilizam (a terceira linha da tabela anterior; o Copilot Studio, por exemplo, permite configurá-lo assim); que o criador mude depois as instruções, as ferramentas ou as conexões de um agente já aprovado, e com isso o que ele faz, sem que ninguém revise; e que, quando o criador deixar a organização, seus agentes continuem funcionando com as conexões dele ou fiquem sem ninguém que os entenda.

Por isso quem cria um agente é governado como parte do agente, com quatro regras: criar e publicar agentes é uma permissão que se atribui, não uma capacidade que todos têm por padrão; as conexões pessoais do criador não são compartilhadas com o agente; cada mudança em suas instruções, ferramentas, conexões ou permissões fica registrada com seu autor e, se ampliar o que o agente pode fazer, é revisada antes de ser publicada; e quem cria um agente de alto impacto não é quem o aprova. O criador pode ser também o seu dono, mas são funções distintas: o criador o constrói e o dono responde pelo que ele faz.

As regras para cada agente

Seja qual for o modelo de identidade, cada agente deveria cumprir oito regras:

Além dessas regras básicas, a indústria ainda não tem uma resposta única. No ELIAC 2026, três fabricantes de segurança apresentaram três formas distintas de controlar um agente, que convém ler como complementares e não como alternativas:

TesePergunta que respondeO que resolveO que não resolve
Autoridade digital
Steve Riley, Netskope
Que autoridade este agente tem, e ela está crescendo sem que ninguém a revise?O acúmulo silencioso de permissões. Propõe revisar quatro dimensões: identidade, autoridade mínima, comportamento e dadosQue o agente, com as permissões corretas, decida mal
Controle por intenção
Ron Bennatan, Varonis
Ele deveria fazer isto agora, dado o que lhe foi pedido?O modo de falha real de um agente: agir fora do que lhe foi encomendado, ainda que tenha permissãoÉ a proposta mais recente e a menos testada em operação real
Contenção
Mario Espinoza, Illumio
Se algo falhar, até onde o dano pode chegar?Delimita o raio de dano sem necessidade de prever o que o modelo faráNão previne o erro: o limita

Cada tese coincide com a categoria de produto vendida pela empresa que a apresentou. Isso não invalida o diagnóstico, mas obriga a separá-lo da receita: nenhuma das três é uma solução completa, e a identidade própria dos agentes segue sendo um tema em aberto, porque cada fabricante constrói o seu próprio esquema e esses esquemas ainda não conversam entre si.

A pergunta já não é apenas se um agente pode acessar um recurso, mas se ele deveria fazer o que está fazendo, e o que acontece se errar.

A identidade de quem usa a IA

No modelo delegado, a conta da pessoa é a chave do agente: se essa conta estiver mal protegida, também estará tudo o que o agente pode fazer com ela. Por isso o controle dos agentes começa pelo das pessoas, com três regras:

MCP: a nova porta de entrada dos agentes

O Model Context Protocol (MCP) é um padrão aberto para conectar assistentes e agentes de IA a outras aplicações e fontes de dados: o e-mail, o sistema de gestão de clientes (CRM), o repositório de código ou um banco de dados. Foi criado pela Anthropic, desde dezembro de 2025 é um projeto da Agentic AI Foundation, sob a Linux Foundation, e é compatível, entre outros, com o ChatGPT, o Claude, o Gemini, o Microsoft Copilot e o Cursor. Para um executivo, o relevante é que cada conexão MCP dá ao agente a capacidade de ler ou de agir em outro sistema. Por isso cada servidor MCP é tratado como qualquer outra integração: é inventariado, tem um dono, é aprovado antes de ser usado, é limitado ao que a tarefa precisa e fica registrado. Um servidor MCP que uma pessoa conecta por conta própria é IA nas sombras com capacidade de agir.

O que reportar ao conselho e com que frequência

Um conselho não precisa de um relatório técnico sobre IA: precisa de uma página, com o mesmo formato a cada vez, que lhe permita ver a tendência e decidir. Cinco conteúdos bastam para começar:

O que reportarO que deveria mostrarFrequência sugerida
Inventário de IAUsos novos, usos retirados, IA nas sombras detectada, e quantos usos existem em cada nível de riscoTrimestral
IncidentesO que aconteceu, quem foi afetado, o que foi corrigido e o que se aprendeu, incluindo os quase incidentesTrimestral, e imediata para os graves
ConformidadeAvanço em relação à política e ao marco adotado, resultados de auditorias, e obrigações legais novas ou modificadasSemestral
Valor geradoPara cada iniciativa relevante, o resultado comprometido frente ao obtido, com os indicadores da seção 6Semestral
Usos de alto risco aprovadosQuais são, que autonomia têm, quem é o dono do risco, quais controles operam e quais exceções foram autorizadasA cada nova aprovação, e revisão completa uma vez por ano

As frequências são uma referência de partida: convém ajustá-las à intensidade de uso de IA e ao calendário do conselho.

Governança

13Ética de IA: nem tudo o que é tecnicamente possível é empresarialmente aceitável

A governança responde quem decide. A ética responde o que estamos dispostos a permitir, mesmo que tecnicamente possa ser feito. Ética, regulação e segurança se sobrepõem, mas não são a mesma coisa: uma decisão pode ser legal e tecnicamente segura, e ainda assim ser considerada inadequada por clientes, colaboradores, pela comunidade ou pelo próprio conselho. Os temas centrais são transparência, equidade, não discriminação, privacidade, capacidade de explicar uma decisão, responsabilidade, supervisão humana, impacto nas pessoas e uso proporcional ao problema que se busca resolver.

Caso real · Amazon, 2018Segundo a Reuters, a Amazon abandonou uma ferramenta experimental que classificava currículos de uma a cinco estrelas. Ela havia aprendido com dez anos de candidaturas, em sua maioria de homens, e acabou penalizando os currículos que incluíam a palavra “mulheres”, como em “capitã do clube de xadrez feminino”. Ninguém lhe ensinou a discriminar: ela aprendeu com a história. Segundo as fontes da reportagem, os recrutadores olhavam as suas recomendações, mas nunca decidiam apenas com base nelas.

A lição para um conselho: uma IA que aprende com o passado pode repetir, e amplificar, os vieses do passado. Por isso as decisões sobre pessoas (contratação, crédito, seguros, desligamentos) merecem a supervisão mais rigorosa.

Nos sentiríamos à vontade para explicar publicamente como e por que esta IA tomou esta decisão? É um teste simples, útil como primeiro sinal de alerta, não o único critério para decidir.
Governança

14Quem responde quando a IA erra?

AtorResponsabilidade típica
Fornecedor do modeloO modelo ou serviço subjacente
Fornecedor da aplicaçãoA aplicação construída sobre o modelo
IntegradorA implementação específica para a empresa
Empresa usuáriaA governança e o uso que faz do sistema
Dono do processoO resultado final do processo de negócio
Usuário humanoA decisão, quando a decisão efetivamente cabia a uma pessoa

A distribuição real de responsabilidade depende do contrato específico, da regulação aplicável e da arquitetura concreta: esta tabela é um mapa de partida, não uma atribuição automática.

Caso real · Air Canada, 2024O assistente de chat do site da Air Canada disse a um passageiro que ele podia pedir a tarifa especial por luto até 90 dias depois de comprar a passagem. Era falso. Quando o passageiro reclamou, a companhia aérea argumentou que não podia responder pela informação entregue por esse assistente. Um tribunal da Colúmbia Britânica (Canadá) rejeitou o argumento: a empresa é responsável por toda a informação do seu site, venha de uma página fixa ou de seu assistente de chat. Condenou-a a pagar cerca de 812 dólares canadenses.

A lição: diante do cliente, “foi a IA” não é defesa. A empresa responde pelo que a sua IA diz e faz.

A pergunta relevante não é apenas “quem teve a culpa?”. É “quem detém o risco residual?”
Governança

15Regulação: a IA como assunto de governança corporativa

A IA já tem implicações sobre privacidade, direitos autorais, discriminação, transparência, decisões automatizadas, responsabilidade e regulação setorial específica de cada indústria. Os marcos voluntários (NIST, ISO) foram descritos na seção 12. Esta seção resume as obrigações legais mais relevantes para uma empresa que opera no Chile ou com clientes na Europa, em outubro de 2026.

NormaSituaçãoO que significa para a empresa
Ley 21.719, de proteção de dados pessoais (Chile)Publicada em dezembro de 2024. Entra em vigor em 1º de dezembro de 2026. Um projeto do Governo de setembro de 2026 (boletim 18.623-07) propõe adiá-la para 1º de dezembro de 2027. Em 19 de outubro, a Comissão de Constituição do Senado o aprovou em geral e por unanimidade; na discussão artigo por artigo, há propostas de um prazo menor ou de adiar apenas a fiscalização e as sançõesCria a Agencia de Protección de Datos Personales, que fiscaliza e sanciona. Mantém os direitos de acesso, retificação, supressão, oposição e bloqueio, e acrescenta a portabilidade e o direito de se opor a decisões baseadas unicamente em tratamento automatizado que produzam efeitos jurídicos ou afetem significativamente a pessoa, e de pedir sua revisão por uma pessoa, com as exceções que a lei fixa. Obriga a informar à Agência as violações de segurança que gerem um risco razoável para as pessoas. É a norma que mais impacta o uso de IA com dados de clientes e colaboradores. Em outubro de 2026, a Agência ainda não estava constituída, porque em maio o Senado rejeitou a proposta para o seu Conselho Diretivo: isso atrasa a fiscalização, não as obrigações. O mesmo projeto propõe que, durante o primeiro ano, a Agência possa optar por uma advertência por escrito em vez de uma multa para empresas de qualquer porte, uma faculdade que hoje a lei reserva às de menor porte. É uma opção da Agência, não uma isenção de multas.
Ley 21.663, Ley Marco de Ciberseguridad (Chile)Publicada em abril de 2024. As obrigações de reporte valem desde 1º de março de 2025Cria a Agencia Nacional de Ciberseguridad. Os prestadores de serviços essenciais e os operadores de importância vital devem reportar os incidentes com efeitos significativos, com os prazos do regulamento de reporte (decreto 295): alerta precoce dentro de 3 horas, um segundo reporte em 72 horas (24 se um serviço essencial for afetado), um plano de ação em 7 dias e um relatório final em 15. Entre os serviços essenciais definidos pela lei estão a infraestrutura digital, os serviços digitais e os serviços de tecnologia da informação gerenciados por terceiros, por isso ela também pode alcançar fornecedores de TI e de IA. A Agência já publicou as primeiras listas de operadores de importância vital; a segunda, aprovada em julho de 2026, inclui 239 instituições. Os operadores de importância vital devem ainda implementar um sistema de gestão de segurança da informação.
Projeto de lei de IA (Chile, boletim 16.821-19)Em tramitação. Aprovado pela Câmara dos Deputados em outubro de 2025, no Senado (situação em agosto de 2026)O texto aprovado pela Câmara segue o modelo europeu de níveis de risco. Em 2026 o Governo anunciou que o substituirá por uma lei marco “habilitante” que, entre outros pontos, reconheceria padrões técnicos internacionais como ISO/IEC e NIST como mecanismos de conformidade. Ainda não é lei. É estrategicamente relevante e convém acompanhá-lo, mas hoje não gera obrigações; sua orientação favorece as organizações que já ordenaram sua gestão de riscos.
Lei europeia de IA (EU AI Act)Em vigor desde agosto de 2024, com aplicação gradualAlcança também empresas de fora da Europa quando seus sistemas de IA são oferecidos ou seus resultados são usados na União Europeia. Desde fevereiro de 2025 valem as práticas proibidas e, desde agosto de 2025, as obrigações dos modelos de propósito geral. Em 2026 foram adiadas as obrigações dos sistemas de alto risco: para dezembro de 2027 nos usos de alto risco do Anexo III dessa lei (por exemplo, seleção de pessoal, educação ou avaliação de crédito), e para agosto de 2028 na IA integrada a produtos já regulados do Anexo I (por exemplo, maquinário ou dispositivos médicos), segundo o Regulamento (UE) 2026/1744, em vigor desde 27 de julho de 2026. Esse mesmo ajuste suavizou a obrigação de alfabetização em IA e acrescentou novas proibições, como gerar conteúdo sexual explícito não consentido de pessoas identificáveis. O que já vale para quem usa IA: desde 2 de agosto de 2026, as obrigações de transparência, por exemplo, que um assistente de chat que atende pessoas na União Europeia as informe de que estão conversando com uma IA, salvo quando isso for evidente, e que os deepfakes sejam identificados como conteúdo artificial. A marcação do conteúdo gerado por sistemas que já estavam no mercado é exigida a partir de 2 de dezembro de 2026.

Este guia não substitui assessoria jurídica: antes de uma decisão de conformidade, convém revisar o texto vigente de cada norma com um advogado.

A IA já é um assunto de governança corporativa, não apenas de Tecnologia.

Com essas condições definidas (autoridade, limites éticos, responsabilidade e obrigações regulatórias), a organização já pode decidir como implementar a solução e se está preparada para escalá-la.

Governança

16Build, buy ou partner: como decidir

Existem pelo menos oito caminhos distintos, e eles não são mutuamente excludentes dentro de uma mesma organização:

AlternativaVantagemRisco ou contrapartidaQuando faz sentido
Comprar um SaaS com IARapidez, sem desenvolvimento próprioMenor controle e personalizaçãoProblema padrão, já resolvido pelo mercado
Usar copilotos empresariaisAdoção rápida sobre ferramentas já em usoAlcance limitado ao que o copiloto permiteProdutividade individual ou de equipe
Construir sobre as API de um fornecedorFlexibilidade sem operar infraestrutura de modelosDependência do fornecedor da APICaso de uso próprio, sem necessidade de operar o modelo
Desenvolver agentes própriosAdaptação precisa ao processo de negócioExige engenharia e governança própriasVantagem competitiva real em um processo específico
Ajuste fino (fine-tuning)Comportamento ou estilo específico e estávelCusto, e maior dificuldade para reverterNecessidade de comportamento consistente e particular
Operar modelos de pesos abertos (open-weight)Maior controle e residência de dadosInfraestrutura, segurança e talento própriosRequisitos rigorosos de controle ou soberania de dados
Treinar modelos próprios do zeroControle totalCusto e complexidade muito altosCasos excepcionais, não a consequência automática de ter uma estratégia de IA
Partner / integrador especializadoAcelera a implementação e traz capacidades, experiência ou especialização que a organização não tem internamenteDependência do partner, transferência insuficiente de conhecimento, custos de integração e possível dependência operacional difícil de reverter (lock-in)Quando o caso de uso exige velocidade, integração, capacidades especializadas ou experiência que a organização não consegue desenvolver de maneira eficiente por si só
A maioria das empresas não precisa construir um modelo de base próprio. Precisa redesenhar seus processos usando os modelos que já existem.

Proprietário versus pesos abertos, em termos simples

Serviço proprietário

Vantagens: velocidade, operação gerenciada pelo fornecedor, acesso rápido a capacidades avançadas. Contrapartidas: dependência do fornecedor, menor controle, exposição a mudanças de preço ou de produto.Exemplos: GPT (OpenAI), Claude (Anthropic), Gemini (Google).

Modelos de pesos abertos

Modelos cujo fabricante publica o modelo treinado, para que a empresa possa instalá-lo e operá-lo na sua própria infraestrutura. Vantagens: maior controle, possibilidade de operação própria, personalização, residência de dados. Contrapartidas: infraestrutura, segurança, operação, talento especializado, atualização contínua, e a responsabilidade recai mais diretamente sobre a empresa.Exemplos: Llama (Meta), Mistral, DeepSeek, Qwen (Alibaba), gpt-oss (OpenAI).

Nenhuma das duas opções é intrinsecamente mais segura: a segurança depende de como cada uma é implementada e governada, não do rótulo “proprietário” ou “pesos abertos”. Um mesmo fabricante pode oferecer os dois tipos de modelo.

Dependência estrutural e estratégia de saída. Uma solução de IA pode gerar dependência simultânea de vários terceiros (fornecedor do modelo, nuvem, plataforma, integrador, fontes de dados), o mesmo risco descrito na seção 9, risco 5. Por isso toda decisão de build, buy ou partner deve avaliar também a possibilidade real de trocar de fornecedor, a portabilidade, a dependência contratual e técnica, os custos de saída e a continuidade do serviço caso um componente mude de preço, produto ou disponibilidade.

Para a etapa de compra ou de desenvolvimento, o Anexo B reúne um checklist prático de perguntas antes de assinar um contrato ou de iniciar um desenvolvimento.

Governança

17As 18 perguntas antes de aprovar uma iniciativa de IA

As 18 perguntas, agrupadas por tema para facilitar o uso em uma sessão do conselho.

Valor
  1. Que problema de negócio estamos resolvendo?
  2. Como mediremos o valor gerado?
  3. Por que precisamos de IA para isto?
Técnica e capacidade
  1. Que nível de maturidade em IA a organização tem hoje, e esta iniciativa é coerente com esse nível?
  2. Existe uma alternativa mais simples?
  3. Que tipo de IA estamos utilizando, e por que essa e não outra?
Dados
  1. Que dados ela utiliza?
  2. Esses dados estão preparados em qualidade, acesso e governança para este uso?
  3. Onde esses dados são armazenados?
  4. Nossos dados podem ser usados para treinar o modelo?
  5. Como nossos dados são isolados dos de outros clientes do mesmo fornecedor?
Autonomia e risco
  1. O que o sistema pode fazer de forma autônoma, com qual identidade e com quais permissões, e quais decisões ou ações estão explicitamente fora do seu alcance?
  2. O que exige aprovação humana antes de ser executado?
  3. O que acontece se o sistema errar?
Pessoas e responsabilidade
  1. Quem assume a responsabilidade por esse erro?
  2. O que muda para as pessoas cujo trabalho é tocado por esta iniciativa, e como as preparamos?
Terceiros e dependências
  1. De quais fornecedores dependemos, direta e indiretamente?
  2. Como saímos da solução e eliminamos nossos dados se decidirmos encerrá-la?
Governança

18Por onde começar: um plano de 90 dias

Não é preciso ter tudo resolvido para começar a governar a IA, e esperar até tê-lo é, em si mesmo, uma decisão com risco. O plano se organiza em dois trechos.

Quick wins · 0 a 30 dias

  1. Inventário de IA. Quais ferramentas são usadas, quem as usa, quais dados tocam, com que tipo de conta e quem responde, incluindo a IA que já vem dentro do software contratado e a IA nas sombras (seções 1 e 8).
  2. Contas empresariais. Mover para contas empresariais, com contrato, todo o trabalho que toca informações de clientes ou informações confidenciais, com acesso por meio do login corporativo e autenticação de dois fatores (seções 8 e 12).
  3. Lista de dados proibidos. Uma página que diga quais informações nunca são inseridas em uma IA externa (seção 10).
  4. Um responsável por IA. Uma pessoa com nome e cargo que responde pelas decisões sobre IA da organização (seção 12).

Estruturais · 30 a 90 dias

  1. Política de uso. Aprovada e comunicada a todos, com as quatro respostas da seção 10.
  2. Marco de governança. Papéis, um processo para aprovar casos de uso com as 18 perguntas da seção 17, e um marco reconhecível como a ISO/IEC 42001 ou o NIST AI RMF, montado sobre a segurança da informação que já existe (seção 12).
  3. Controles. Proporcionais ao risco: aprovação humana nas ações de alto impacto, identidade própria e permissões mínimas por tarefa para os agentes, registros, versão do modelo fixada onde for possível e procedimento diante de incidentes (seções 7, 10 e 12). Antes de ativar qualquer assistente que herde as permissões das pessoas, uma revisão e correção do conteúdo superexposto (Anexo A, pergunta 14).
  4. Capacitação. Para todos, sobre a política; para quem aprova resultados de IA, sobre o que revisar; e para quem atende clientes, sobre como responder às suas perguntas (seção 7 e Anexo A).
No dia 90. O primeiro relatório ao conselho, no formato da seção 12, fecha o ciclo e deixa fixada a frequência de revisão. A partir daí, o Anexo C descreve como passar deste ponto de partida a um programa de IA.

Os prazos são referenciais e dependem do porte e da complexidade da organização.

Em 30 dias é possível saber onde está a IA e fechar as portas mais óbvias. Em 90, é possível ter a estrutura para governá-la. O que não convém é esperar ter tudo pronto para começar.

Encerramento: o marco de decisão

Antes de aprovar uma iniciativa de IA, um executivo deveria poder responder com solidez a cinco perguntas:

  1. Que problema de negócio estamos resolvendo?
  2. Por que a IA é melhor do que uma alternativa mais simples?
  3. Que dados e que autoridade estamos entregando ao sistema?
  4. Como saberemos se ela gerou mais valor do que risco?
  5. Quem é responsável pelo resultado?

A vantagem competitiva não virá simplesmente de utilizar IA. Virá de utilizá-la nos processos certos, sob o nível adequado de autonomia, com dados confiáveis, controles proporcionais ao risco e responsabilidade claramente definida desde antes de começar.

Se a organização ainda não começou, o plano da seção 18 organiza os primeiros 90 dias.

E quando alguém perguntar se a IA da empresa é segura, convém lembrar a regra do Anexo A: responde-se com evidências, não com promessas.

Fim do corpo principal

Anexos

Ferramentas de consulta para usar quando surge uma pergunta concreta. Não é necessário lê-las de ponta a ponta.
Anexo de consulta

AAnexo A. Perguntas de segurança, confidencialidade e privacidade: como respondê-las

Estas são as perguntas que com mais frequência fazem clientes, colaboradores, gerência, auditores e o próprio conselho, ordenadas em cinco níveis, do mais básico ao mais complexo. Cada uma indica quem costuma fazê-la. Para cada uma se propõe uma resposta em linguagem simples, o que convém verificar antes de dá-la e o que não se deve prometer.

As respostas estão redigidas como respostas-modelo: só podem ser dadas se o indicado em “O que verificar antes” estiver resolvido. Se ainda não estiver, a resposta honesta é explicar o que está sendo feito para resolvê-lo.

Regra de ouro: responde-se com evidências, não com promessas. Uma resposta honesta, com limites claros, gera mais confiança do que uma garantia total que não resiste a uma auditoria. Se não se sabe, a resposta correta é “vou verificar e retorno”, nunca “é 100% seguro”.
Nível 1 · O básico: o que acontece com os nossos dados
Pergunta do conselho
1. “O que acontece com os nossos dados quando usamos ChatGPT, Claude, Gemini, Copilot ou pesquisamos no Google com IA?”
Resposta em termos simples

“O que escrevemos ou enviamos pode ficar em cinco lugares: o histórico da conversa, os arquivos carregados, a memória do assistente, os registros do fornecedor e, apenas se a conta permitir, o treinamento de versões futuras. Por quanto tempo fica e quem pode vê-lo depende do tipo de conta, não da marca: com uma conta pessoal, isso é definido pela configuração de cada usuário e pelos termos de consumo, que podem incluir a revisão de conversas por revisores humanos do fornecedor; com uma conta da empresa, é definido pelo contrato. E a um buscador, com ou sem IA, não se entregam informações confidenciais.”

O que verificar antes
  • Quais ferramentas e que tipo de conta cada equipe realmente usa (seção 8, tabela de ferramentas).
  • Por quanto tempo cada ferramenta guarda o histórico, os arquivos e os registros, e se o fornecedor revisa conversas.
  • O que dizem hoje os termos de cada fornecedor, porque mudam com frequência.
O que não prometer

“Nenhuma IA guarda os nossos dados”, sem saber quais contas estão sendo usadas.

Pergunta dos clientes
2. “A IA fica com o que escrevemos? Aprende com os nossos dados?”
Resposta em termos simples

“Algo fica, mas o modelo não aprende no momento: lê o que escrevemos para responder e não muda com isso. O que pode ocorrer depois é o fornecedor usar essas conversas para treinar versões futuras. Nas contas pessoais, isso depende da configuração de cada usuário; nas nossas contas empresariais, o fornecedor se compromete por contrato a não fazê-lo e guarda os registros por um prazo definido. O que de fato fica guardado são o histórico, os documentos carregados e a memória da ferramenta, e isso quem administra somos nós.”

O que verificar antes
  • Que tipo de conta é realmente usado: pessoal ou empresarial (seção 8).
  • Se as contas pessoais têm desativado o uso para treinamento, enquanto se migra para contas da empresa.
  • A cláusula de não treinamento e o prazo de retenção, por escrito.
  • O que guardam os registros, os índices de busca e a memória.
O que não prometer

“A IA não guarda nada.” Quase sempre guarda algo, em algum lugar.

Pergunta dos colaboradores
3. “Os assistentes de voz como a Siri, a Alexa ou o do Google escutam o que conversamos?”
Resposta em termos simples

“Escutam de forma contínua apenas para detectar a palavra de ativação, e isso ocorre no próprio dispositivo. Mas quando são ativados, de propósito ou por engano, o que se diz a seguir é enviado ao fornecedor. Por isso, em uma conversa confidencial não deveria haver um alto-falante inteligente ligado, e nos telefones de trabalho definimos se o assistente fica ativo.”

Caso real. Em janeiro de 2025, a Apple concordou em pagar USD 95 milhões para encerrar uma ação coletiva nos Estados Unidos que a acusava de gravar conversas após ativações involuntárias da Siri. A Apple negou ter agido de forma indevida. Nesse mesmo ano, a Amazon eliminou em alguns modelos do Echo a opção de processar a voz apenas no dispositivo: desde março de 2025, as solicitações à Alexa são processadas na nuvem.

O que verificar antes
  • Se há alto-falantes inteligentes em escritórios e salas de reunião.
  • O que permite a configuração dos telefones da empresa: assistente ativo, resposta com a tela bloqueada, conexão com outros serviços de IA.
O que não prometer

“Ninguém escuta as nossas reuniões”, se na sala há dispositivos com um assistente ativo.

Pergunta do conselho
4. “Podemos confiar no que a IA responde?”
Resposta em termos simples

“Como rascunho, sim. Como verdade final, não sem revisão: a IA pode inventar com total segurança. Nos usos críticos exigimos fontes e revisão humana.”

O que verificar antes
  • Quais usos têm revisão obrigatória.
  • Se as respostas citam suas fontes.
  • Quem valida antes que algo chegue a um cliente.
O que não prometer

Exatidão absoluta. O caso Mata contra Avianca (seção 9) é o lembrete.

Pergunta dos clientes
5. “Outra empresa pode ver as nossas informações?”
Resposta em termos simples

“As informações de cada cliente são separadas das dos demais, e o fornecedor não as usa para responder a outros. Podemos mostrar como essa separação é alcançada.”

O que verificar antes
  • Como os dados são isolados entre clientes do mesmo fornecedor e dentro dos nossos próprios produtos.
  • Se esse isolamento foi testado, e com que evidência.
O que não prometer

Um isolamento que não tenha sido testado. É a pergunta de segurança mais grave quando a resposta é fraca.

Pergunta dos clientes
6. “Onde ficam os nossos dados? Saem do país?”
Resposta em termos simples

“São processados na região que o nosso contrato com o fornecedor define, o qual também estabelece onde são armazenados, por quanto tempo e quais terceiros participam.”

O que verificar antes
  • Onde os dados são processados e onde são armazenados.
  • Quais subcontratados o fornecedor usa e sob qual jurisdição.
  • Se a lei de dados pessoais exige condições especiais para transferir esses dados ao exterior.
O que não prometer

“Os dados nunca saem do Chile”, a menos que o contrato e a arquitetura o garantam.

Pergunta dos clientes
7. “Se encerrarmos o contrato, tudo é apagado?”
Resposta em termos simples

“Apagamos tudo o que é apagável e podemos mostrar o contrato e o prazo: arquivos, índices, memória e registros. Não podemos garantir que seja apagado o que tenha entrado no treinamento de um modelo, porque um modelo não é um banco de dados. Por isso o nosso controle está na entrada: os dados sensíveis não são usados para treinar.”

O que verificar antes
  • A cláusula de eliminação ao término do contrato, com prazo.
  • Que inclua índices de busca, memória do agente, registros e backups.
  • Que o contrato exclua o uso dos nossos dados para treinamento.
O que não prometer

Um apagamento total se alguma vez esses dados foram usados para treinar ou ajustar um modelo.

Nível 2 · O uso no dia a dia
Pergunta do conselho
8. “Sabemos quais ferramentas de IA as nossas equipes usam?”
Resposta em termos simples

“Temos um inventário das ferramentas aprovadas, medimos o uso não autorizado e oferecemos alternativas empresariais para que ninguém precise usar contas pessoais.”

O que verificar antes
  • Um inventário atualizado, incluindo a IA que já vem dentro do software contratado.
  • Uma medição do uso real, não apenas do declarado.
  • Uma política de uso que todos conheçam.
O que não prometer

Uma resposta que descreva apenas a IA contratada formalmente. Quase sempre é uma fração do uso real.

Pergunta dos colaboradores
9. “Podemos deixar que uma IA grave e resuma as nossas reuniões?”
Resposta em termos simples

“Sim, com uma ferramenta aprovada e com regras: avisamos todos os participantes antes de gravar, incluindo os externos; a gravação, a transcrição e o resumo ficam em uma conta da empresa; alguém revisa o resumo antes de circulá-lo; e há reuniões que não são gravadas.”

Caso real. Em agosto de 2025 foi apresentada na Califórnia uma ação coletiva contra a Otter.ai, que acusa seu assistente de entrar em reuniões e gravar participantes que não haviam dado consentimento, e de usar essas conversas para treinar seus sistemas. São acusações, não fatos provados, mas mostram o risco de um assistente que entra na reunião com a conta de uma única pessoa.

O que verificar antes
  • Se a ferramenta é a integrada à plataforma que a empresa contratou ou um assistente externo conectado por um usuário.
  • Onde ficam a gravação e a transcrição, por quanto tempo, e se o fornecedor as usa para treinamento.
  • A quem o resumo é enviado automaticamente: às vezes chega a todos os convidados, incluindo os externos.
  • Com o Jurídico, como se obtém o consentimento dos participantes.
O que não prometer

Que o resumo é exato. Pode omitir nuances ou atribuir a alguém algo que não disse: é um rascunho, não uma ata.

Pergunta da gerência
10. “Um colaborador colou informações confidenciais de um cliente em uma IA com sua conta pessoal. O que fazemos?”
Resposta em termos simples

“Tratamos como o que é: uma divulgação de informações de um terceiro a um fornecedor externo, não um descuido menor. Agimos nesta ordem:”

  1. Avisar imediatamente a área de Segurança e o Jurídico, e acionar o protocolo de incidentes e de vazamento de informações da empresa.
  2. Identificar o tipo de conta e se a opção de compartilhar dados para treinamento estava ativa.
  3. Apagar a conversa e os arquivos. Como a conta é pessoal, a empresa não tem contrato com esse fornecedor: a eliminação é solicitada pelo titular da conta, pelo canal de privacidade do fornecedor, e guarda-se registro da solicitação e da resposta.
  4. Revisar o acordo de confidencialidade com o cliente e a lei de dados pessoais, para saber se existe obrigação de informar.
  5. Se couber, informar o cliente antes que ele saiba por outra via.
  6. Corrigir a causa: contas empresariais para todos e um canal para reportar esses casos sem punição quando reportados a tempo.
O que não prometer

Que “já se apagou tudo”. O registro é apagado: não se pode garantir que seja apagado o que possa ter entrado no treinamento.

Pergunta dos colaboradores
11. “O gerente me ligou por vídeo pedindo uma transferência urgente e confidencial. Como sei que é ele?”
Resposta em termos simples

“Não se sabe pelo rosto nem pela voz: hoje ambos podem ser imitados. Toda instrução incomum de dinheiro ou de dados é confirmada por um segundo canal conhecido, ainda que pareça vir da máxima autoridade.”

O que verificar antes
  • Que exista um procedimento de dupla verificação por escrito.
  • Que a área de Finanças o conheça e o tenha praticado.
O que não prometer

Que a capacitação baste por si só. O caso Arup (seção 11) mostra até que ponto o engano pode ser convincente.

Pergunta do conselho
12. “Podem nos atacar por meio da IA?”
Resposta em termos simples

“Sim, como a qualquer sistema. Os ataques mais próprios da IA são as instruções ocultas em documentos ou e-mails que a IA lê, e o abuso das permissões de um agente. Nenhuma IA consegue distinguir sempre uma instrução escondida do texto que lê, então não prometemos que ela não possa ser enganada: limitamos o que ela poderia fazer se isso acontecer. Nossos agentes têm apenas as permissões mínimas, não combinam informações confidenciais, conteúdo externo e capacidade de enviar dados para fora sem aprovação, e as ações relevantes exigem aprovação.”

O que verificar antes
  • Testes de segurança antes da produção, incluindo a injeção de instruções (seção 9).
  • As permissões reais de cada agente.
  • Quais agentes leem conteúdo externo, como e-mails, páginas web ou documentos de terceiros, e o que poderiam fazer se uma instrução oculta os enganar.
  • Que fique registro do que a IA faz.
O que não prometer

“A nossa IA não pode ser manipulada.”

Pergunta dos colaboradores
13. “De quem é o que a IA gera, e o que podemos enviar ou publicar?”
Resposta em termos simples

“Depende dos termos do fornecedor e dos direitos sobre o que lhe entregamos. Só enviamos informações que temos direito de usar para essa finalidade, e tudo o que é publicado ou entregue a um cliente passa antes por revisão humana. A proteção por direitos autorais de um conteúdo gerado apenas por IA é incerta e varia conforme o país.”

O que verificar antes
  • O que dizem os termos do fornecedor sobre a propriedade e o uso do que é enviado e do que é gerado.
  • Se o fornecedor oferece algum respaldo diante de reclamações por violação de direitos de terceiros.
  • Se os documentos, imagens ou dados enviados têm licenças ou contratos que limitam seu uso.
  • Quem revisa o conteúdo antes de publicá-lo.
O que não prometer

“O que a IA gera é nosso e está livre de direitos.”

Pergunta dos colaboradores
14. “Se ativarmos o Copilot ou o Gemini na empresa, eles podem ver tudo o que eu vejo?”
Resposta em termos simples

“Sim, e esse é o ponto. O Microsoft 365 Copilot e o Gemini no Google Workspace respondem com o que cada pessoa já tem permissão para abrir: e-mails, documentos, pastas compartilhadas e reuniões. Eles não passam por cima das permissões, mas as deixam em evidência: se uma pasta com salários ou contratos ficou compartilhada com toda a empresa, agora basta uma pergunta para encontrá-la. Por isso, antes de ativá-los, revisamos quem tem acesso a quê, e continuamos revisando. O mesmo vale para qualquer assistente ou buscador com IA que se conecte aos sistemas da empresa respeitando as permissões de cada pessoa.”

O que verificar antes
  • As pastas e os sites compartilhados com toda a organização ou com links abertos.
  • Se existe uma classificação da informação (por exemplo, rótulos de confidencialidade) e se a ferramenta a respeita.
  • Um piloto com um grupo restrito antes de ativá-lo para todos.
  • Se existe uma ferramenta que detecte e corrija o conteúdo superexposto antes da ativação e de forma contínua, porque as permissões voltam a se abrir com o uso diário.
  • Quais temas o assistente não deve responder, mesmo que a pessoa tenha acesso técnico, por exemplo salários, avaliações de desempenho ou investigações internas, e se a ferramenta permite bloqueá-los.
O que não prometer

“O Copilot só vê o que deve ver”, se as permissões nunca foram revisadas.

Pergunta dos colaboradores
15. “É seguro usar navegadores com IA ou agentes que agem com as nossas contas?”
Resposta em termos simples

“Com cuidado. Um navegador com IA, como o ChatGPT Atlas ou o Perplexity Comet, ou o modo agente de um assistente, pode ler páginas, preencher formulários e clicar com a sessão aberta da pessoa: seu e-mail, seu banco ou os sistemas da empresa. Se uma página contém instruções ocultas, o agente pode segui-las (seção 9, risco 3). Por isso não os usamos com sessões de sistemas da empresa até que estejam aprovados, e as ações sensíveis sempre exigem confirmação humana.”

O que verificar antes
  • Quais navegadores ou extensões com IA estão instalados nos computadores da empresa.
  • Com quais contas e sistemas são usados.
  • Se a ferramenta pede confirmação antes de enviar, comprar ou apagar algo.
  • Se as ações do agente ficam registradas como feitas por um agente, ou aparecem como se tivessem sido feitas pela pessoa.
O que não prometer

“O agente só faz o que pedimos.” Ele pode seguir instruções escondidas no que lê.

Nível 3 · Dados pessoais e lei
Pergunta da gerência
16. “Podemos usar dados pessoais de clientes ou colaboradores com IA?”
Resposta em termos simples

“Sim, com as mesmas regras de qualquer outro uso de dados pessoais: uma base legal, uma finalidade clara, apenas os dados necessários, segurança adequada e um contrato com o fornecedor que os processa.”

O que verificar antes
  • A base legal: consentimento ou outra causa válida conforme a lei.
  • Que o novo uso seja compatível com a finalidade para a qual os dados foram coletados.
  • Se os dados podem ser reduzidos ou anonimizados antes de serem usados.
O que não prometer

“Como o modelo não guarda dados pessoais, a lei não se aplica.” Um modelo treinado com dados pessoais não pode ser presumido anônimo: deve ser avaliado caso a caso, segundo o Comitê Europeu para a Proteção de Dados.

Pergunta do conselho
17. “O que muda com a nova lei de dados pessoais no Chile?”
Resposta em termos simples

“Hoje a data legal é 1º de dezembro de 2026. Em setembro de 2026, o Governo apresentou um projeto para adiá-la por um ano, para 1º de dezembro de 2027, que no início de outubro ainda estava na primeira etapa de tramitação no Senado: enquanto não for aprovado, a data não muda. A Ley 21.719 cria uma Agência que fiscaliza e sanciona, dá às pessoas mais direitos, entre eles pedir revisão humana de decisões tomadas apenas por um sistema automatizado que as afetem significativamente, e obriga a informar as violações de segurança que gerem risco para elas.”

O que verificar antes
  • Um inventário de quais dados pessoais cada sistema de IA usa.
  • Procedimentos para responder a solicitações de acesso, supressão ou oposição.
  • Um procedimento de notificação de violações.
  • A situação do projeto de adiamento (boletim 18.623-07) e da instalação da Agência, no dia em que se responde.
O que não prometer

Conformidade sem inventário. Sem saber quais dados cada IA toca, não há resposta possível. Tampouco que há mais um ano de prazo: enquanto o projeto não for aprovado, a data continua sendo 1º de dezembro de 2026.

Pergunta dos auditores
18. “Uma IA pode decidir sobre pessoas, por exemplo aprovar um crédito ou descartar um candidato?”
Resposta em termos simples

“Pode apoiar a decisão, mas as decisões com efeitos importantes sobre pessoas têm supervisão humana real, podem ser explicadas, e a pessoa pode se opor ou pedir uma revisão.”

O que verificar antes
  • Quais decisões a IA toma ou recomenda, e quais ficam nas mãos de uma pessoa.
  • Se quem revisa tem tempo, informação e autoridade suficientes (seção 7).
  • Se foram medidos vieses (seção 13).
O que não prometer

“A IA é objetiva.” Ela aprende com dados históricos e pode repetir seus vieses.

Pergunta do conselho
19. “Podem nos pedir em um processo judicial o que conversamos com uma IA?”
Resposta em termos simples

“Pode acontecer. As conversas com uma IA são registros como qualquer outro, e um tribunal pode ordenar que sejam conservadas ou entregues. Em 2025, no processo do The New York Times contra a OpenAI, um tribunal dos Estados Unidos ordenou a preservação de conversas que normalmente teriam sido apagadas, incluindo as de contas de consumidor. A ordem foi suspensa em outubro daquele ano, mas mostrou que o apagamento nem sempre depende de nós. Por isso, o que se escreve a uma IA é tratado com o mesmo cuidado que um e-mail.”

O que verificar antes
  • Quais prazos de retenção cada ferramenta tem, e se a política de conservação de documentos da empresa inclui as conversas com IA.
  • Com o Jurídico, como se aplica uma retenção por litígio a essas ferramentas.
O que não prometer

“O que se apaga na IA deixa de existir.” Pode haver cópias que o fornecedor seja obrigado a conservar.

Nível 4 · Governança e controle
Pergunta da gerência
20. “Já sabemos que há IA nas sombras. Como a regularizamos sem travar as equipes?”
Resposta em termos simples

“Primeiro medimos sem punir, depois oferecemos uma alternativa melhor e só então fixamos a regra:”

  1. Levantar o uso real: medição técnica e uma consulta aberta às equipes, com a garantia de que reconhecer o uso passado não é punido.
  2. Oferecer uma ferramenta empresarial para os usos que agregam valor, antes de restringir os demais.
  3. Fixar uma data a partir da qual só se usam as ferramentas aprovadas, com a política de uso da seção 10.
  4. Revisar com o Jurídico quais informações podem ter saído no período anterior e se existe alguma obrigação de informar (pergunta 10).
O que verificar antes
  • Que a alternativa empresarial esteja disponível no dia em que a restrição começa.
  • Que a medição cubra também a IA que vem dentro do software já contratado.
O que não prometer

Que a IA nas sombras desaparece com uma proibição. Se não há alternativa, o uso se desloca para onde não é visto.

Pergunta da gerência
21. “O que fazemos quando alguém usa uma IA não autorizada?”
Resposta em termos simples

“Respondemos de forma proporcional e com um critério que todos conhecem de antemão:”

  • Se não houve informação sensível, corrige-se o uso e orienta-se para a ferramenta aprovada.
  • Se houve informações de clientes, dados pessoais ou informações confidenciais, aplica-se o procedimento diante de incidentes (seção 10 e pergunta 10).
  • A reincidência ou a ocultação têm consequências, conforme o regulamento interno da empresa. Reportar a tempo, em contrapartida, não é punido.
O que verificar antes
  • Que a política de uso esteja comunicada e aceita por escrito: sem isso, não há base para exigi-la.
  • Que o regulamento interno e os contratos de trabalho a incorporem, com revisão do Jurídico e de Pessoas.
  • Que o critério seja aplicado igualmente em toda a organização, também aos cargos superiores.
O que não prometer

“Tolerância zero” sem ferramentas alternativas: empurra o uso para as sombras e desestimula o reporte.

Pergunta da gerência
22. “O que cada pessoa da organização precisa aprender?”
Resposta em termos simples

“Nem todos precisam da mesma coisa. Organizamos a formação em quatro públicos:”

  • Todos os colaboradores: a política de uso, os dados que nunca são inseridos, como reportar um erro e como confirmar uma instrução incomum por um segundo canal (pergunta 11).
  • Quem revisa ou aprova resultados de IA: como detectar erros e vieses, quando rejeitar um resultado e por que a sua aprovação é um controle e não um trâmite (seção 7).
  • Quem compra ou constrói soluções: o checklist do Anexo B, as cláusulas de dados e os controles para agentes (seção 12).
  • Conselho e gerência: riscos, responsabilidades e o que pedir no relatório periódico (seção 12).
O que verificar antes
  • Um registro de quem concluiu cada formação e quando.
  • Que a formação seja atualizada quando mudam as ferramentas ou a política.
  • Sinais de que funciona: mais reportes a tempo e menos uso nas sombras.
O que não prometer

Que uma palestra anual resolva o tema. É um processo contínuo, como a formação em cibersegurança.

Pergunta dos clientes
23. “Se a IA errar com um cliente, quem responde?”
Resposta em termos simples

“Nós. Diante do cliente, a empresa responde pelo que a sua IA diz e faz, assim como pelo que diz qualquer um de seus canais. Internamente, cada caso de uso tem um dono com nome e sobrenome.”

O que verificar antes
  • Quem é o dono de cada caso de uso.
  • O que cobre o contrato com o fornecedor.
  • Se os seguros da empresa cobrem danos causados por IA.
O que não prometer

Que a responsabilidade é do fornecedor. O caso Air Canada (seção 14) deixa isso claro.

Pergunta da gerência
24. “O que exigimos por contrato de um fornecedor de IA?”
Resposta em termos simples

“Seis coisas mínimas: que não treine com os nossos dados, prazos de retenção definidos, localização dos dados e lista de subcontratados, isolamento entre clientes, aviso de incidentes e de mudanças relevantes, e eliminação verificável ao término.”

O que verificar antes
  • Que essas cláusulas estejam no contrato assinado, não apenas na página web do fornecedor.
  • O checklist completo de compra do Anexo B.
O que não prometer

Aos próprios clientes, nada que o fornecedor não garanta à empresa por contrato.

Nível 5 · Demonstrar e escalar
Pergunta dos auditores
25. “Como demonstramos que gerenciamos bem a segurança e a privacidade da IA?”
Resposta em termos simples

“Com uma pasta de evidências, não com uma declaração. Podemos mostrar o inventário de IA, a política aprovada e aceita pelos colaboradores, os contratos com suas cláusulas de dados, os registros de uso, a capacitação realizada, os incidentes e como foram encerrados, e os relatórios ao conselho.”

O que verificar antes
  • Que existam avaliações de impacto em proteção de dados para os tratamentos de alto risco, como as decisões automatizadas, que a Ley 21.719 exigirá antes de iniciá-los.
  • As certificações dos fornecedores (por exemplo, ISO/IEC 27001 ou relatórios SOC 2) e, se couber, as próprias (pergunta 26).
  • Uma revisão interna ou externa periódica, com constatações e planos de encerramento (seção 12).
O que não prometer

“Cumprimos tudo”, se não se pode mostrar o documento que o respalda.

Pergunta do conselho
26. “Precisamos nos certificar na ISO/IEC 42001?”
Resposta em termos simples

“Não é obrigatório. É útil quando clientes ou reguladores pedem evidência auditada de como governamos a IA. Antes, convém ter em ordem a base de segurança da informação (seção 12).”

O que verificar antes
  • Se clientes ou licitações já estão pedindo.
  • A maturidade do sistema de gestão de segurança atual.
  • Como avança a futura lei chilena de IA (seção 15).
O que não prometer

Que uma certificação torna a IA segura. Certifica que existe um sistema de gestão, não que nunca haverá incidentes.

Pergunta do conselho
27. “Como montamos o nosso roteiro de adoção de IA?”
Resposta em termos simples

“Em três horizontes: os primeiros 90 dias para organizar a base (seção 18); o primeiro ano para passar de iniciativas isoladas a um programa (Anexo C); e, em paralelo, uma carteira de casos de uso priorizados por valor e por risco, cada um aprovado com as 18 perguntas (seções 6 e 17).”

O que verificar antes
  • A maturidade da organização em IA e o estado de seus dados (Anexo C).
  • Que cada caso de uso tenha dono, indicador de valor e orçamento.
  • Que o roteiro inclua pessoas e formação, não apenas tecnologia (pergunta 22).
O que não prometer

Uma transformação completa com IA em 90 dias. Esse prazo serve para organizar a base, não para capturar todo o valor.

Voltar ao índice de anexos

Anexo de consulta

BAnexo B. Checklist para comprar ou construir

As oito alternativas da seção 16 se reduzem, na prática, a duas decisões operacionais frequentes: comprar um produto que já inclui IA, ou construir algo próprio que a incorpora. Estas perguntas não substituem as 18 perguntas da seção 17 nem as 7 perguntas antes de usar um modelo de linguagem da seção 4: complementam-nas na etapa seguinte, como filtro final antes de assinar um contrato ou de iniciar um desenvolvimento.

Ao comprar uma solução que inclui IA (SaaS, copiloto, produto com IA embutida)
  • O fornecedor declara com clareza quais componentes de IA usa e de qual fornecedor de modelo dependem?
  • Nossos dados são usados para treinar ou melhorar o modelo do fornecedor ou de terceiros, e podemos impedi-lo contratualmente?
  • Como nossos dados são isolados dos de outros clientes que usam o mesmo fornecedor?
  • O que o sistema pode executar de forma autônoma, e o que fica sujeito a aprovação humana?
  • O que ocorre contratualmente se o sistema errar, e quem assume essa responsabilidade?
  • Podemos sair do fornecedor, e recuperar ou eliminar nossos dados, incluindo o que foi indexado para RAG?
  • O fornecedor documenta práticas de segurança específicas de IA, e não apenas segurança de aplicação tradicional?
  • O que acontece com o nosso serviço se o fornecedor mudar de preço, descontinuar o modelo ou for adquirido por outro?
Ao comprar uma plataforma conectada aos sistemas da empresa (assistentes com acesso a documentos, busca empresarial com IA, plataformas de agentes)
  • Onde fica o índice com os nossos documentos: em uma instância compartilhada com outros clientes, em uma instância dedicada na nuvem do fornecedor ou na nossa própria nuvem? Uma instância dedicada não significa que os dados estejam na nossa infraestrutura.
  • Os agentes agem com a conta da pessoa, com uma identidade própria ou com ambas, e podemos limitar suas permissões por tarefa, dentro das permissões da pessoa?
  • Quem pode criar e publicar agentes, os agentes compartilhados podem usar as conexões do seu criador, e fica registrado quem modificou cada agente e quando?
  • O acesso se integra ao nosso login corporativo, à autenticação de dois fatores e à criação e desativação automáticas de contas a partir do nosso diretório de identidades?
  • Como são protegidos os papéis de administração da plataforma, e fica registrada cada mudança de configuração?
  • Como o suporte do fornecedor acessa a nossa instância: com a nossa aprovação, por tempo limitado e com registro?
  • Os registros de uso e das ações dos agentes podem ser enviados ao nosso sistema de monitoramento de segurança (SIEM)?
  • A detecção de conteúdo superexposto e as proteções contra injeção de instruções vêm incluídas, ou são licenciadas à parte?
  • A retenção zero está assinada com cada fornecedor de modelo que o serviço usa, ou é apenas uma política declarada?
  • O que acontece com o serviço se o dono de uma aplicação conectada restringir o acesso? Em 2025, a Salesforce limitou o armazenamento e a indexação dos dados do Slack por ferramentas de terceiros.
  • Quais certificações a plataforma tem, por exemplo ISO/IEC 27001, ISO/IEC 42001 ou SOC 2 Tipo II, e elas cobrem o serviço que vamos contratar? Uma certificação é evidência de um sistema de gestão, não garantia de que cada controle funcione no nosso caso.
Ao construir uma solução própria que incorpora IA
  • Definimos o problema de negócio e o valor esperado antes de escolher a técnica, ou partimos escolhendo IA generativa por padrão? (ver seção 4)
  • Escolhemos a técnica mais simples que resolve o problema?
  • Que dados o sistema vai usar, e temos autorização para usá-los dessa forma?
  • Quem é o dono do risco, e quem aprova o nível de autonomia que ele terá?
  • O sistema foi desenhado para poder auditar, interromper ou reverter suas ações?
  • Incluímos supervisão humana proporcional ao impacto da ação, desde o desenho, e não como remendo posterior?
  • Testamos o sistema contra manipulação ou injeção de instruções antes de levá-lo à produção?
  • Existe um plano de manutenção e monitoramento contínuo, e não apenas um plano de lançamento?
  • Cada agente tem identidade própria, permissões mínimas por tarefa e credenciais de duração limitada, guardadas fora do código? (seção 12)
  • Cada conexão do agente com outros sistemas, incluindo as conexões MCP, está inventariada, aprovada e limitada ao que a tarefa precisa?

Voltar ao índice de anexos

Anexo de consulta

CAnexo C. Da iniciativa ao programa: o que a organização deve construir

As seções anteriores ajudam a decidir sobre uma iniciativa concreta. Mas uma organização que aprova iniciativas uma a uma, sem construir capacidade por trás, tende a acumular pilotos que não escalam. A Gartner propõe um roteiro de IA organizado em sete eixos de trabalho, cada um com atividades iniciais e outras mais avançadas. Esse roteiro não substitui o marco deste guia (Valor, Técnica, Autonomia, Governança): funciona como uma referência externa de comparação (benchmark), um controle de completude para verificar se a organização está construindo as capacidades necessárias para escalar.

EixoAtividades iniciaisAtividades avançadasOnde é tratado neste guia
Estratégia de IADefinir a visão de IA; medir a maturidade em IAEstabelecer um processo para refinar a estratégia de IAResumo executivo e seção 17
Valor da IAPriorizar os primeiros casos de uso; definir seu valorSistema de monitoramento do valor; portfólio de produtos de IASeções 4 e 6
OrganizaçãoPlano de recursos de IA; comunidade de práticaSem atividades avançadas na fonteEste anexo
Pessoas e culturaPlano inicial de força de trabalho; processo de revisão de papéis e redesenho de cargosSem atividades avançadas na fonteEste anexo e seção 17
Governança de IAIdentificar os principais riscos e suas mitigações; definir políticas iniciaisProgramas de letramento em IA para a governança; testar ferramentas de governança em pilotoSeções 9, 10, 12, 13 e 15
Engenharia de IAMarco de decisão build vs. buy; selecionar fornecedores para os primeiros casosBoas práticas de experiência do usuário em IA; engenharia de plataforma de IASeção 16
Dados para IAAvaliar a preparação dos dados; implementar um plano de preparaçãoObservabilidade de dados para IASeções 8 e 17

Fonte: Gartner, “AI Roadmap: How to Build and Scale AI” (gartner.com), difundido também pelo LinkedIn. Tradução e adaptação próprias, sem reproduzir o gráfico original (© Gartner, Inc.). A última coluna é uma correspondência elaborada para este guia, não faz parte do material da Gartner.

Pessoas e cultura: a lacuna mais negligenciada

A IA muda tarefas, não apenas ferramentas. Quando um processo incorpora IA, muda o que cada pessoa faz, que habilidades precisa e como seu trabalho é avaliado. Se isso não for planejado, costumam aparecer três efeitos: resistência à mudança, uso informal fora da governança (a IA nas sombras da seção 1) e perda de conhecimento quando se reduz pessoal antes de entender o que cada papel realmente fazia.

Perguntas de um executivo sobre pessoas e cultura
  • Quais papéis mudam com esta iniciativa, e quem está encarregado de redesenhá-los?
  • Que capacitação as pessoas precisam para usar a IA com critério, e não apenas para operá-la?
  • Como e quando a mudança será comunicada, antes que circulem versões informais?
  • O tempo economizado se traduzirá em menor quadro de pessoal ou em capacidade liberada para outro trabalho? São decisões distintas e convém tomá-las de forma explícita, não por omissão.

A Gartner situa os programas de letramento em IA dentro do eixo de governança. A lógica é que uma equipe que entende o que a IA faz e o que não faz é, em si mesma, um controle: detecta mais cedo um resultado duvidoso, um uso indevido ou uma promessa de fornecedor que não se sustenta.

Organização: quem constrói a capacidade

Duas decisões costumam ficar implícitas. A primeira, com quais recursos a IA será desenvolvida: equipe interna, fornecedor, integrador ou uma combinação, em linha com a seção 16. A segunda, como o aprendizado é compartilhado entre áreas. Uma comunidade de prática, isto é, um grupo transversal que reúne quem usa IA em diferentes áreas, evita que cada equipe repita os mesmos erros e ajuda a detectar casos de uso reaproveitáveis.

Maturidade e dados: os dois pontos de partida

A Gartner situa no início do percurso duas atividades: medir a maturidade em IA da organização e avaliar se os dados estão preparados para os primeiros casos de uso. Ambas são perguntas da seção 17 (perguntas 4 e 8).

Aprovar boas iniciativas é necessário, mas não suficiente. A vantagem sustentável vem de construir, em paralelo, a capacidade organizacional que permite repeti-las.

Voltar ao índice de anexos

Anexo de consulta

DAnexo D. Glossário essencial

Termos que aparecem neste guia ou em qualquer conversa sobre IA, explicados em uma linha.

Acesso delegado
Modalidade em que um assistente ou agente age em nome de uma pessoa, com as permissões dessa pessoa.
Agente
Sistema de IA que, além de responder, executa ações em outros sistemas por conta própria, dentro das permissões que lhe foram dadas, próprias ou as da pessoa em cujo nome age. Exemplos: o modo agente do ChatGPT, o Claude Code, os agentes do Microsoft Copilot Studio.
Ajuste fino (fine-tuning)
Treinamento adicional de um modelo existente com dados próprios, para mudar seu comportamento ou estilo.
Alucinação
Resposta inventada ou incorreta que a IA entrega com tom convincente.
API
Interface de programação de aplicações: a “porta” pela qual um sistema se conecta a outro de forma automática.
Aprendizado de máquina (machine learning)
IA que aprende padrões a partir de dados, em vez de seguir regras escritas à mão.
Aprendizado profundo (deep learning)
Aprendizado de máquina com redes neurais de muitas camadas. É a base do reconhecimento de imagens e de voz.
Copiloto
Assistente de IA integrado a uma ferramenta de uso diário (e-mail, planilha, editor). O que ele pode fazer depende de suas permissões reais: alguns apenas sugerem e outros podem executar ações. Exemplos: Microsoft 365 Copilot, Gemini no Gmail e no Docs, GitHub Copilot.
Conta de serviço
Identidade não humana com a qual um sistema ou um agente opera com permissões próprias, distinta da conta de qualquer pessoa.
Dados pessoais
Qualquer informação que identifique ou permita identificar uma pessoa.
Deepfake
Imagem, voz ou vídeo falsos, gerados com IA para imitar uma pessoa real.
Deriva do modelo
Perda gradual de precisão de um modelo, porque a realidade mudou em relação aos dados com que ele foi treinado.
Treinamento
Processo em que um modelo aprende a partir de grandes volumes de dados. O que foi aprendido fica em seus parâmetros (pesos).
IA nas sombras (shadow AI)
Uso de ferramentas de IA sem aprovação nem conhecimento da empresa.
IA generativa
IA que cria conteúdo novo: texto, imagem, áudio, vídeo ou código. Exemplos: ChatGPT para texto, Midjourney para imagem, ElevenLabs para voz.
Injeção de instruções (prompt injection)
Ataque que esconde ordens para a IA dentro de um documento, e-mail ou página que a IA vai ler.
ISO/IEC 27001
Norma internacional certificável para gerenciar a segurança da informação (SGSI).
ISO/IEC 42001
Norma internacional certificável para gerenciar os sistemas de IA de uma organização (SGIA).
LLM (grande modelo de linguagem)
Modelo de IA generativa especializado em entender e produzir linguagem. É o que está por trás do ChatGPT, do Claude ou do Gemini.
MCP (Model Context Protocol)
Padrão aberto para conectar assistentes e agentes de IA a aplicações e fontes de dados. Cada conexão dá ao agente a capacidade de ler ou de agir em outro sistema.
MFA (autenticação multifator)
Acesso que exige, além da senha, um segundo fator, como um código, uma chave física ou uma confirmação no celular.
Privilégio mínimo
Princípio de segurança: cada pessoa, sistema ou agente tem apenas as permissões estritamente necessárias para a sua tarefa, nem mais nem menos.
Modelo
O “motor” da IA: um programa treinado com dados que produz respostas, previsões ou conteúdo.
Modelo de base
Modelo de grande porte treinado com enormes volumes de dados gerais, que serve de base para muitas aplicações diferentes (por exemplo, os modelos por trás do ChatGPT, do Claude ou do Gemini).
NIST
Instituto Nacional de Padrões e Tecnologia dos Estados Unidos. Publica marcos voluntários de cibersegurança (CSF) e de gestão de riscos de IA (AI RMF).
Humano no circuito (human in the loop)
Desenho em que uma pessoa revisa ou aprova antes que a IA execute uma ação.
Pesos abertos (open-weight)
Modelo que seu fabricante publica para que qualquer pessoa o instale e opere em sua própria infraestrutura. Exemplos: Llama, Mistral, DeepSeek, Qwen.
Prompt
A instrução ou pergunta que se escreve para uma IA.
RAG
Geração aumentada por recuperação: a IA consulta documentos da empresa no momento de responder, sem incorporá-los ao seu treinamento. Exemplos: NotebookLM, os Projetos do ChatGPT e do Claude.
Retenção zero
Modalidade contratual em que o fornecedor não armazena o conteúdo das consultas.
Risco residual
O risco que resta depois de aplicar os controles, e que alguém deve aceitar de forma explícita.
SaaS
Software como serviço: uma aplicação que se contrata e se usa pela internet, sem instalá-la.
SCIM
Padrão para criar, modificar e desativar automaticamente as contas das pessoas nas aplicações, a partir do diretório de identidades da empresa.
Viés
Tendência sistemática de uma IA a favorecer ou prejudicar um grupo, normalmente aprendida de dados históricos.
SGSI
Sistema de gestão de segurança da informação: políticas, papéis, controles e revisão contínua para proteger a informação.
SIEM
Sistema que reúne os registros de segurança de toda a organização para detectar e analisar incidentes.
Sistema agêntico
Combinação de um modelo de linguagem com ferramentas, memória e permissões que lhe permitem executar ações, e não apenas responder.
SSO (login único)
Acesso a todas as aplicações com a conta corporativa, administrada pela empresa a partir de um único lugar.
Vetor
Representação numérica de um texto ou de uma imagem, que permite buscar por significado e não apenas por palavras exatas.

Voltar ao índice de anexos

Fim dos anexos

Sobre o autor e contato

Diego Macor é executivo de tecnologia e cibersegurança, com mais de 25 anos construindo negócios de tecnologia na América Latina: 22 anos na IBM e, depois, country manager no Chile de uma companhia regional de cibersegurança. Foi presidente da Mesa de Ciberseguridad da Asociación Chilena de Empresas de Tecnologías de Información (ACTI) e é uma voz habitual do setor na mídia chilena. Tem um MBA e as certificações CISM e CCSK.

Contato e documentos atualizados: diegomacor.com · linkedin.com/in/diegomacor

Fontes e notas metodológicas

Documentos do projeto utilizados: Guia_Educativa_Tipos_de_IA_y_Preguntas_Frecuentes_v2.00_20260924.html, Guia_Educativa_Arquitectura_3_Capas_v2.10_20260922.html, Marco_Conceptual_Preguntas_Clientes_Seguridad_IA_v1.00_20260922.html, Casos_de_Uso_IA_por_Tamano_de_Empresa_v1.00_20260916.html, ELIAC2026_Sintesis_Charlas_v1.10_20260824.html (palestra do CENIA no ELIAC 2026), Respuesta_Clientes_Seguridad_IA_v1.10_20260915.html (inclui o caso de preservação de registros em The New York Times contra OpenAI e o Parecer 28/2024 do Comitê Europeu para a Proteção de Dados), Seguridad_IA_Guia_Ejecutiva_Gobernanza_v1.00_20260916.html, Seguridad_Agentes_IA_Lado_Proveedor_v1.04_20260916.html (continuidade diante de mudanças de versão do modelo), ELIAC2026_Resumen_Ejecutivo_Consolidado_v1.00_20260916.html (as três teses de controle de agentes apresentadas no ELIAC 2026), a versão 5.21 deste guia e AI with Judgment, sua edição para a FQ4 (fq4tech.com/ai-guide). As analogias cotidianas, as respostas-modelo do Anexo A, o plano de 90 dias, a política de uso, o procedimento diante de incidentes, as regras de identidade e permissões para agentes e pessoas e o relatório ao conselho são elaboração própria com apoio de IA a partir dessas fontes.

Fontes externas:

← Voltar para diegomacor.com