A IA gera respostas; um sistema de inteligência precisa de evidências
Um modelo generativo transforma entradas em saídas plausíveis: sínteses, propostas de classificação, perguntas, redações ou explicações. Sua utilidade é real, mas a fluidez da resposta não demonstra que ele tenha consultado as fontes necessárias nem que a interpretação esteja correta. Uma resposta pode estar bem escrita e se basear em fatos desatualizados, fontes mal interpretadas ou referências inexistentes.
Por isso convém separar capacidade linguística, acesso à informação e confiabilidade do resultado. O modelo pode resumir um documento fornecido pelo usuário; isso não equivale a ter verificado o que o documento declara. Pode sugerir onde pesquisar; isso não demonstra que tenha visitado essas fontes. Se dispõe de ferramentas de busca, pode localizar informação; mesmo assim, é preciso documentar o que consultou, quando e o que ficou de fora.
Um mapa de delegação por nível de risco
Classifique cada tarefa com quatro perguntas: precisa de dados atuais?, exige interpretação especializada?, uma omissão poderia ter consequências?, conseguiremos verificar o resultado?
| Tarefa | Papel apropriado da IA | Controle humano recomendado |
|---|---|---|
| Reformular uma pergunta de inteligência | Propor variantes e precisões | Validar a relação com a decisão |
| Resumir material fornecido | Extrair temas e citações localizáveis | Verificar a correspondência com os originais |
| Rotular registros | Aplicar um esquema explícito | Revisar amostra, divergências e casos-limite |
| Comparar movimentos de atores | Organizar diferenças e levantar hipóteses | Verificar fatos, contexto e omissões |
| Detectar uma ameaça estratégica | Levantar sinais e cenários plausíveis | Evitar pareceres sem evidência e avaliação especializada |
| Recomendar investimento ou conformidade normativa | Preparar alternativas e questões pendentes | Decisão humana e revisão profissional especializada |
O critério não é «IA sim / IA não», mas que autonomia autorizamos sob quais controles. A IA pode propor, mas não deve apresentar uma inferência como observação direta. Em decisões relevantes, o responsável deve poder reconstruir que evidência respalda cada conclusão.
Interativo · Classifique
Quanta autonomia você dá à IA?
Coloque cada tarefa no nível de delegação adequado.
Atividade: classifique tarefas segundo o nível de autonomia que você daria à IA.
Caso Empresa A · simulação
Caso fictícioCaso Empresa A · Uma frase segura demais
O assistente recebe a S01 (anúncio corporativo de pesquisa), a S03 (pedido de patente) e a S04 (menção jornalística a um demonstrador). Devolve: «O Fornecedor B já domina o mercado de armazenamento térmico e a Empresa A deve investir imediatamente». Essa resposta confunde exploração, propriedade industrial e maturidade comercial. Nenhum dos sinais comprova participação de mercado, vendas ou desempenho industrial repetível.
Uma alternativa útil é: «Há atividade técnica inicial e pelo menos uma comunicação de demonstração. Não constam aqui dados suficientes para concluir adoção comercial. Convém confrontar validações independentes, capacidade de fabricação e compras verificadas antes de modificar a estratégia».
Simulação educativa: informações e organizações fictícias.
Interativo · Reescreva
Corrija a frase segura demais
O assistente recebeu S01, S03 e S04. Que versão você poderia assinar?
Atividade: escolha a reescrita defensável de uma resposta de IA segura demais.
“O Fornecedor B já domina o mercado de armazenamento térmico e a Empresa A deve investir imediatamente.”
Faça você mesmo
Faça você mesmo · Contrato de delegação (15 min)
Escolha três tarefas habituais. Para cada uma, escreva: entrada autorizada, operação que a IA realizará, saída esperada, verificação exigida, risco de erro e critério para interromper a automação. Teste o contrato com um assistente e confira se ele respeita as proibições.
Entregável: ficha de «tarefa / autonomia / evidência / validação» que você pode incorporar ao seu plano de monitoramento.
Dicionário de classificação
Definir rótulos inequívocos para humanos e IA.
Ver o modelo →Matriz de hipóteses e alternativas
Avaliar explicações rivais de um sinal.
Ver o modelo →Confira · autoavaliação
Verifique seu contrato de delegação
Esta parte exige julgamento profissional: não há correção automática. Complete o seu trabalho na prática, avalie-o com a rubrica da aula e compare-o com a solução orientativa.
O que a sua resposta deve incluir
- Cada tarefa define entrada autorizada, operação, saída e verificação.
- Existe um critério explícito para interromper a automação.
- Você proíbe a publicação direta e o tratamento de informação confidencial sem permissão.
- Um revisor humano verifica o texto e o destino dos dados.
Solução orientativa
Situação: pedir à IA que classifique a S03 como tipo de evento. Solução fundamentada: autorizar a leitura somente do registro, exigir `evento: pedido_patente`, conservar `evidencia_id: S03` e colocar `data_concessao: nao_consta`; proibir a publicação direta e o tratamento de informação confidencial sem permissão. Interromper se rotular «patente concedida», se inventar documentos ou se não citar o ID.
Erro a evitar: Aceitar «a IA costuma acertar» como controle.
Solução ilustrativa de um caso fictício: admite alternativas fundamentadas.
Erros frequentes
Acreditar que uma citação é prova de leitura completa; presumir que um assistente tem internet por padrão; perguntar «o que está acontecendo?» sem delimitar país e datas; inserir informação confidencial sem autorização; confundir recomendações elegantes com decisões fundamentadas.
Regra para levar: antes de usar uma resposta de IA, pergunte «o que eu teria que verificar para poder assinar esta conclusão?». Se você não tem resposta, ainda não tem inteligência confirmada.
Ampliação opcionalAprofundamento · Antes de delegar, defina o custo do erro
A autonomia não depende de quão sofisticada a tarefa pareça, mas de o que acontece se a saída estiver errada e ninguém perceber. Uma classificação exploratória pode tolerar incerteza se terminar numa caixa de revisão. Uma mensagem destinada à direção que atribui uma aquisição a um concorrente pode alterar decisões e exigir verificações mais fortes. Para desenhar a delegação, documente cinco dimensões: exposição da informação, capacidade de verificação, reversibilidade, destinatário e prazo para detectar a falha.
Três níveis operacionais: (A) assistência de rascunho: a IA propõe, o humano seleciona; (B) execução supervisionada: opera sobre fontes e estrutura autorizadas, mas nenhuma conclusão é difundida sem controle; (C) automação delimitada: ações repetitivas de baixo risco, monitoradas e reversíveis, com critérios de parada. Esses níveis são uma proposta pedagógica da Academy, não um padrão externo nem uma propriedade automática de um produto.
Caso Empresa A · Uma tarefa, três contratos diferentes
| Contrato | Entrada e saída permitidas | Prova humana | Parada imediata |
|---|---|---|---|
| Rascunho de manchetes | S01–S04; lista de mudanças possíveis | Voltar ao registro citado | Inventa-se uma fonte |
| Classificação de evento | IDs, taxonomia R09; tabela tipificada | Revisar ambiguidade e amostra | Confunde patente solicitada com concedida |
| Recomendação à direção | Matriz R10; opções e premissas | Validação especializada e assinatura | Apresenta intenção ou piloto como venda |
Uma instrução como «atue como especialista» não controla nenhum desses riscos. Já «não emita conclusão comercial se faltarem contratos, clientes ou corroboração» é um teste observável. O contrato deve especificar quem aprova a difusão e quem guarda as evidências fora do chat.
Prática de aceitação · Contrato que outra pessoa possa executar
Redija na R08 um contrato para classificar sinais técnicos da Empresa A. Inclua cinco entradas permitidas, três proibições, a estrutura de saída e três testes adversariais: uma fonte duplicada; um título que sugere venda mas descreve piloto; e um registro sem data do fato. Peça a outra pessoa que o execute com dados autorizados e anote exatamente onde apareceu incerteza. Você passa se o sistema declarar não consta diante da ausência de dados, distinguir interpretação de fato e deixar rastreabilidade do revisor.
Saída reutilizável: R08 Contrato de delegação e uso de IA; complemento R07 para auditar qualquer afirmação;
Referências e limites
- NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023). DocumentoGestão de riscos de IA como marco voluntário. A auditoria de afirmações da Academy é elaboração própria, não um procedimento do NIST.Referência verificada em 2026-10-18.
- NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1 (2024). DocumentoRiscos específicos da IA generativa, incluída a confabulação.Referência verificada em 2026-10-18.
- A Empresa A é um caso fictício: seus dados, empresas e números não descrevem mercados nem organizações reais.
- As diretrizes sobre IA são elaboração própria da Academy. Não constituem um procedimento do NIST nem substituem uma avaliação de riscos da sua organização.
Intelligence Lab · L05
Auditor de evidências
Vai aplicar? Abra o Auditor de evidências no Lab e revise cada afirmação: fato, inferência, erro ou falta de evidência. Saída: auditoria de afirmações. Funciona no navegador, sem servidor, sem conta e sem IA conectada. O resultado pode precisar de revisão e adaptação ao seu caso.