[Pular para o conteúdo](https://academy.innguma.com/pt-br/ia-aplicada-a-inteligencia/o-que-uma-ia-generativa-pode-e-nao-pode-fazer/#contenido) Aula 3.1 · Trilha 03 # O que uma IA generativa pode e não pode fazer Que parte do trabalho do analista podemos delegar à IA e que parte não deveríamos delegar sem controles? **Você leva** ficha de «tarefa / autonomia / evidência / validação» que você pode incorporar ao seu plano de monitoramento. ≈ 25 min · Iniciante [Fazer a prática](https://academy.innguma.com/pt-br/ia-aplicada-a-inteligencia/o-que-uma-ia-generativa-pode-e-nao-pode-fazer/#hazlo-tu-contrato-de-delegacion-15-min)[Exercício](https://academy.innguma.com/pt-br/ia-aplicada-a-inteligencia/o-que-uma-ia-generativa-pode-e-nao-pode-fazer/#compruebalo)[Ler a aula](https://academy.innguma.com/pt-br/ia-aplicada-a-inteligencia/o-que-uma-ia-generativa-pode-e-nao-pode-fazer/#la-ia-genera-respuestas-un-sistema-de-inteligenc) Em 1 minuto antes de usar uma resposta de IA, pergunte «o que eu teria que verificar para poder assinar esta conclusão?». Se você não tem resposta, ainda não tem inteligência confirmada. ## A IA gera respostas; um sistema de inteligência precisa de evidências Um modelo generativo transforma entradas em saídas plausíveis: sínteses, propostas de classificação, perguntas, redações ou explicações. Sua utilidade é real, mas a fluidez da resposta não demonstra que ele tenha consultado as fontes necessárias nem que a interpretação esteja correta. Uma resposta pode estar bem escrita e se basear em fatos desatualizados, fontes mal interpretadas ou referências inexistentes. Por isso convém separar **capacidade linguística**, **acesso à informação** e **confiabilidade do resultado**. O modelo pode resumir um documento fornecido pelo usuário; isso não equivale a ter verificado o que o documento declara. Pode sugerir onde pesquisar; isso não demonstra que tenha visitado essas fontes. Se dispõe de ferramentas de busca, pode localizar informação; mesmo assim, é preciso documentar o que consultou, quando e o que ficou de fora. ## Um mapa de delegação por nível de risco Classifique cada tarefa com quatro perguntas: precisa de dados atuais?, exige interpretação especializada?, uma omissão poderia ter consequências?, conseguiremos verificar o resultado? | Tarefa | Papel apropriado da IA | Controle humano recomendado | | --- | --- | --- | | Reformular uma pergunta de inteligência | Propor variantes e precisões | Validar a relação com a decisão | | Resumir material fornecido | Extrair temas e citações localizáveis | Verificar a correspondência com os originais | | Rotular registros | Aplicar um esquema explícito | Revisar amostra, divergências e casos-limite | | Comparar movimentos de atores | Organizar diferenças e levantar hipóteses | Verificar fatos, contexto e omissões | | Detectar uma ameaça estratégica | Levantar sinais e cenários plausíveis | Evitar pareceres sem evidência e avaliação especializada | | Recomendar investimento ou conformidade normativa | Preparar alternativas e questões pendentes | Decisão humana e revisão profissional especializada | O critério não é «IA sim / IA não», mas **que autonomia autorizamos sob quais controles**. A IA pode propor, mas não deve apresentar uma inferência como observação direta. Em decisões relevantes, o responsável deve poder reconstruir que evidência respalda cada conclusão. Interativo · Classifique ### Quanta autonomia você dá à IA? Coloque cada tarefa no nível de delegação adequado. Atividade: classifique tarefas segundo o nível de autonomia que você daria à IA. Caso Empresa A · simulação Caso fictício ## Caso Empresa A · Uma frase segura demais O assistente recebe a S01 (anúncio corporativo de pesquisa), a S03 (pedido de patente) e a S04 (menção jornalística a um demonstrador). Devolve: «O Fornecedor B já domina o mercado de armazenamento térmico e a Empresa A deve investir imediatamente». Essa resposta confunde exploração, propriedade industrial e maturidade comercial. Nenhum dos sinais comprova participação de mercado, vendas ou desempenho industrial repetível. Uma alternativa útil é: «Há atividade técnica inicial e pelo menos uma comunicação de demonstração. Não constam aqui dados suficientes para concluir adoção comercial. Convém confrontar validações independentes, capacidade de fabricação e compras verificadas antes de modificar a estratégia». Simulação educativa: informações e organizações fictícias. Interativo · Reescreva ### Corrija a frase segura demais O assistente recebeu S01, S03 e S04. Que versão você poderia assinar? Atividade: escolha a reescrita defensável de uma resposta de IA segura demais. Faça você mesmo ## Faça você mesmo · Contrato de delegação (15 min) Escolha três tarefas habituais. Para cada uma, escreva: entrada autorizada, operação que a IA realizará, saída esperada, verificação exigida, risco de erro e critério para interromper a automação. Teste o contrato com um assistente e confira se ele respeita as proibições. **Entregável:** ficha de «tarefa / autonomia / evidência / validação» que você pode incorporar ao seu plano de monitoramento. R09 · Estruturação ### Dicionário de classificação Definir rótulos inequívocos para humanos e IA. [Ver o modelo →](https://academy.innguma.com/pt-br/biblioteca/dicionario-de-classificacao/) R10 · Análise ### Matriz de hipóteses e alternativas Avaliar explicações rivais de um sinal. [Ver o modelo →](https://academy.innguma.com/pt-br/biblioteca/matriz-de-hipoteses-e-alternativas/) Confira · autoavaliação ## Verifique seu contrato de delegação Esta parte exige julgamento profissional: não há correção automática. Complete o seu trabalho na prática, avalie-o com a rubrica da aula e compare-o com a solução orientativa. O que a sua resposta deve incluir - Cada tarefa define entrada autorizada, operação, saída e verificação. - Existe um critério explícito para interromper a automação. - Você proíbe a publicação direta e o tratamento de informação confidencial sem permissão. - Um revisor humano verifica o texto e o destino dos dados. Rubrica de autoavaliação (0–2 por critério) Esta rubrica não estabelece a nota do exame certificado. Correspondência afirmação-evidência Gestão da incerteza Detecção de erros Decisão e revisão Reutilização profissional **Solução orientativa** Situação: pedir à IA que classifique a S03 como tipo de evento. Solução fundamentada: autorizar a leitura somente do registro, exigir \`evento: pedido\_patente\`, conservar \`evidencia\_id: S03\` e colocar \`data\_concessao: nao\_consta\`; proibir a publicação direta e o tratamento de informação confidencial sem permissão. Interromper se rotular «patente concedida», se inventar documentos ou se não citar o ID. **Erro a evitar:** Aceitar «a IA costuma acertar» como controle. Solução ilustrativa de um caso fictício: admite alternativas fundamentadas. ## Erros frequentes Acreditar que uma citação é prova de leitura completa; presumir que um assistente tem internet por padrão; perguntar «o que está acontecendo?» sem delimitar país e datas; inserir informação confidencial sem autorização; confundir recomendações elegantes com decisões fundamentadas. **Regra para levar:** antes de usar uma resposta de IA, pergunte «o que eu teria que verificar para poder assinar esta conclusão?». Se você não tem resposta, ainda não tem inteligência confirmada. **Ampliação opcional Aprofundamento · Antes de delegar, defina o custo do erro** A autonomia não depende de quão sofisticada a tarefa pareça, mas de **o que acontece se a saída estiver errada e ninguém perceber**. Uma classificação exploratória pode tolerar incerteza se terminar numa caixa de revisão. Uma mensagem destinada à direção que atribui uma aquisição a um concorrente pode alterar decisões e exigir verificações mais fortes. Para desenhar a delegação, documente cinco dimensões: exposição da informação, capacidade de verificação, reversibilidade, destinatário e prazo para detectar a falha. **Três níveis operacionais:** (A) assistência de rascunho: a IA propõe, o humano seleciona; (B) execução supervisionada: opera sobre fontes e estrutura autorizadas, mas nenhuma conclusão é difundida sem controle; (C) automação delimitada: ações repetitivas de baixo risco, monitoradas e reversíveis, com critérios de parada. Esses níveis são uma proposta pedagógica da Academy, não um padrão externo nem uma propriedade automática de um produto. ### Caso Empresa A · Uma tarefa, três contratos diferentes | Contrato | Entrada e saída permitidas | Prova humana | Parada imediata | | --- | --- | --- | --- | | Rascunho de manchetes | S01–S04; lista de mudanças possíveis | Voltar ao registro citado | Inventa-se uma fonte | | Classificação de evento | IDs, taxonomia R09; tabela tipificada | Revisar ambiguidade e amostra | Confunde patente solicitada com concedida | | Recomendação à direção | Matriz R10; opções e premissas | Validação especializada e assinatura | Apresenta intenção ou piloto como venda | Uma instrução como «atue como especialista» não controla nenhum desses riscos. Já «não emita conclusão comercial se faltarem contratos, clientes ou corroboração» é um teste observável. O contrato deve especificar quem aprova a difusão e quem guarda as evidências fora do chat. ### Prática de aceitação · Contrato que outra pessoa possa executar Redija na R08 um contrato para **classificar sinais técnicos da Empresa A**. Inclua cinco entradas permitidas, três proibições, a estrutura de saída e três testes adversariais: uma fonte duplicada; um título que sugere venda mas descreve piloto; e um registro sem data do fato. Peça a outra pessoa que o execute com dados autorizados e anote exatamente onde apareceu incerteza. Você passa se o sistema **declarar não consta** diante da ausência de dados, distinguir interpretação de fato e deixar rastreabilidade do revisor. **Saída reutilizável:** R08 Contrato de delegação e uso de IA; complemento R07 para auditar qualquer afirmação; ## Referências e limites - NIST. *Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1* (2023). [Documento](https://www.nist.gov/itl/ai-risk-management-framework) Gestão de riscos de IA como marco voluntário. A auditoria de afirmações da Academy é elaboração própria, não um procedimento do NIST. Referência verificada em 2026-10-18. - NIST. *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1* (2024). [Documento](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence) Riscos específicos da IA generativa, incluída a confabulação. Referência verificada em 2026-10-18. - A Empresa A é um caso fictício: seus dados, empresas e números não descrevem mercados nem organizações reais. - As diretrizes sobre IA são elaboração própria da Academy. Não constituem um procedimento do NIST nem substituem uma avaliação de riscos da sua organização. Intelligence Lab · L05 ## Auditor de evidências Vai aplicar? Abra o Auditor de evidências no Lab e revise cada afirmação: fato, inferência, erro ou falta de evidência. Saída: auditoria de afirmações. Funciona no navegador, sem servidor, sem conta e sem IA conectada. O resultado pode precisar de revisão e adaptação ao seu caso. - [Abrir a ferramenta](https://academy.innguma.com/pt-br/lab/auditor-de-evidencias/) - [Voltar à trilha](https://academy.innguma.com/pt-br/ia-aplicada-a-inteligencia/) **Leve** - [R07 · Auditoria de resultados de IA](https://academy.innguma.com/pt-br/biblioteca/auditoria-de-resultados-de-ia/) - [R08 · Contrato de delegação e uso de IA](https://academy.innguma.com/pt-br/biblioteca/contrato-de-delegacao-e-uso-de-ia/) - [R09 · Dicionário de classificação](https://academy.innguma.com/pt-br/biblioteca/dicionario-de-classificacao/) - [R10 · Matriz de hipóteses e alternativas](https://academy.innguma.com/pt-br/biblioteca/matriz-de-hipoteses-e-alternativas/) Leitura aberta, sem cadastro.