[Saltar al contenido](https://academy.innguma.com/ia-aplicada-a-la-inteligencia/que-puede-y-que-no-puede-hacer-una-ia-generativa/#contenido) Lección 3.1 · Itinerario 03 # Qué puede y qué no puede hacer una IA generativa ¿Qué parte del trabajo del analista podemos delegar en IA y qué parte no deberíamos delegar sin controles? **Te llevas** ficha de «tarea / autonomía / evidencia / validación» que puedes incorporar a tu plan de vigilancia. ≈ 25 min · Iniciación [Hacer la práctica](https://academy.innguma.com/ia-aplicada-a-la-inteligencia/que-puede-y-que-no-puede-hacer-una-ia-generativa/#hazlo-tu-contrato-de-delegacion-15-min)[Ejercicio](https://academy.innguma.com/ia-aplicada-a-la-inteligencia/que-puede-y-que-no-puede-hacer-una-ia-generativa/#compruebalo)[Leer la lección](https://academy.innguma.com/ia-aplicada-a-la-inteligencia/que-puede-y-que-no-puede-hacer-una-ia-generativa/#la-ia-genera-respuestas-un-sistema-de-inteligenc) En 1 minuto antes de usar una respuesta de IA, pregunta «¿qué tendría que comprobar para poder firmar esta conclusión?». Si no tienes respuesta, todavía no tienes inteligencia contrastada. ## La IA genera respuestas; un sistema de inteligencia necesita evidencias Un modelo generativo transforma entradas en salidas plausibles: síntesis, propuestas de clasificación, preguntas, redacciones o explicaciones. Su utilidad es real, pero la fluidez de su respuesta no demuestra que haya consultado las fuentes necesarias ni que la interpretación sea correcta. Una respuesta puede estar bien escrita y basarse en hechos desactualizados, fuentes mal interpretadas o referencias inexistentes. Por eso conviene separar **capacidad lingüística**, **acceso a información** y **fiabilidad del resultado**. El modelo puede resumir un documento aportado por el usuario; eso no equivale a haber verificado lo que declara el documento. Puede sugerir dónde investigar; eso no demuestra que haya visitado esas fuentes. Si dispone de herramientas de búsqueda, puede localizar información; aun así, debe documentarse qué consultó, cuándo y qué quedó fuera. ## Un mapa de delegación por nivel de riesgo Clasifica cada tarea con cuatro preguntas: ¿necesita datos actuales?, ¿requiere interpretación especializada?, ¿una omisión podría tener consecuencias?, ¿podremos verificar el resultado? | Tarea | Papel apropiado de IA | Control humano recomendado | | --- | --- | --- | | Reformular una pregunta de inteligencia | Proponer variantes y precisiones | Validar relación con la decisión | | Resumir material suministrado | Extraer temas y citas localizables | Comprobar correspondencia con originales | | Etiquetar registros | Aplicar un esquema explícito | Revisar muestra, desacuerdos y casos límite | | Comparar movimientos de actores | Organizar diferencias y plantear hipótesis | Comprobar hechos, contexto y omisiones | | Detectar una amenaza estratégica | Plantear señales y escenarios plausibles | Evitar dictámenes sin evidencia y evaluación experta | | Recomendar inversión o cumplimiento normativo | Preparar alternativas y cuestiones pendientes | Decisión humana y revisión profesional especializada | El criterio no es «IA sí / IA no», sino **qué autonomía autorizamos bajo qué controles**. La IA puede proponer, pero no debe presentar una inferencia como observación directa. En decisiones relevantes, el responsable debe poder reconstruir qué evidencia respalda cada conclusión. Interactivo · Clasifica ### ¿Cuánta autonomía le das a la IA? Coloca cada tarea en el nivel de delegación adecuado. Actividad: clasifica tareas según el nivel de autonomía que darías a la IA. Caso Empresa A · simulación Caso ficticio ## Caso Empresa A · Una frase demasiado segura El asistente recibe S01 (anuncio corporativo de investigación), S03 (solicitud de patente) y S04 (mención periodística de un demostrador). Devuelve: «Proveedor B domina ya el mercado de almacenamiento térmico y Empresa A debe invertir de inmediato». Esa respuesta confunde exploración, propiedad industrial y madurez comercial. Ninguna de las señales acredita cuota de mercado, ventas o desempeño industrial repetible. Una alternativa útil es: «Hay actividad técnica inicial y al menos una comunicación de demostración. No constan aquí datos suficientes para concluir adopción comercial. Conviene contrastar validaciones independientes, capacidad de fabricación y compras verificadas antes de modificar la estrategia». Simulación educativa: información y organizaciones ficticias. Interactivo · Reescribe ### Corrige la frase demasiado segura El asistente recibió S01, S03 y S04. ¿Qué versión podrías firmar? Actividad: elige la reescritura defendible de una respuesta de IA demasiado segura. Hazlo tú ## Hazlo tú · Contrato de delegación (15 min) Escoge tres tareas habituales. Para cada una escribe: entrada autorizada, operación que realizará la IA, salida esperada, comprobación requerida, riesgo de error y criterio para detener la automatización. Prueba el contrato con un asistente y revisa si respeta las prohibiciones. **Entregable:** ficha de «tarea / autonomía / evidencia / validación» que puedes incorporar a tu plan de vigilancia. R09 · Estructuración ### Diccionario de clasificación Definir etiquetas inequívocas para humano e IA. [Ver la plantilla →](https://academy.innguma.com/biblioteca/diccionario-de-clasificacion/) R10 · Análisis ### Matriz de hipótesis y alternativas Evaluar explicaciones rivales de una señal. [Ver la plantilla →](https://academy.innguma.com/biblioteca/matriz-de-hipotesis-y-alternativas/) Compruébalo · autoevaluación ## Comprueba tu contrato de delegación Esta parte necesita juicio profesional: no hay corrección automática. Completa tu trabajo en la práctica, valóralo con la rúbrica de la lección y compáralo con la solución orientativa. Qué debe incluir tu respuesta - Cada tarea define entrada autorizada, operación, salida y comprobación. - Hay un criterio explícito para detener la automatización. - Prohíbes la publicación directa y el tratamiento de información confidencial sin permiso. - Un revisor humano comprueba texto y destino de los datos. Rúbrica de autoevaluación (0–2 por criterio) Esta rúbrica no establece la nota del examen certificado. Correspondencia afirmación-evidencia Gestión de incertidumbre Detección de errores Decisión y revisión Reutilización profesional **Solución orientativa** Situación: pedir a la IA que clasifique S03 como tipo de evento. Solución razonada: autorizar lectura solo del registro, requerir \`evento: solicitud\_patente\`, conservar \`evidencia\_id: S03\` y poner \`fecha\_concesion: no\_consta\`; prohibir publicación directa y tratamiento de información confidencial sin permiso. Detener si etiqueta «patente concedida», si inventa documentos o si no cita el ID. **Error que debes evitar:** Aceptar «la IA suele acertar» como control. Solución ilustrativa de un caso ficticio: admite alternativas razonadas. ## Errores frecuentes Creer que una cita es prueba de lectura completa; asumir que un asistente tiene internet por defecto; preguntar «¿qué está pasando?» sin delimitar país y fechas; introducir información confidencial sin autorización; confundir recomendaciones elegantes con decisiones justificadas. **Regla para llevarse:** antes de usar una respuesta de IA, pregunta «¿qué tendría que comprobar para poder firmar esta conclusión?». Si no tienes respuesta, todavía no tienes inteligencia contrastada. **Ampliación opcional Profundización · Antes de delegar, define el coste del error** La autonomía no depende de lo sofisticada que parezca una tarea, sino de **qué sucede si la salida es errónea y nadie lo detecta**. Una clasificación exploratoria puede tolerar incertidumbre si termina en una bandeja de revisión. Un mensaje destinado a dirección que atribuye una adquisición a un competidor puede alterar decisiones y exigir comprobaciones más fuertes. Para diseñar la delegación, documenta cinco dimensiones: exposición de información, capacidad de comprobación, reversibilidad, destinatario y plazo para detectar el fallo. **Tres niveles operativos:** (A) asistencia de borrador: la IA propone, el humano selecciona; (B) ejecución supervisada: opera sobre fuentes y estructura autorizadas, pero ninguna conclusión se difunde sin control; (C) automatización acotada: acciones repetitivas de bajo riesgo, monitorizadas y reversibles, con criterios de parada. Estos niveles son una propuesta pedagógica de Academy, no un estándar externo ni una propiedad automática de un producto. ### Caso Empresa A · Una tarea, tres contratos diferentes | Contrato | Entrada y salida permitida | Prueba humana | Parada inmediata | | --- | --- | --- | --- | | Borrador de titulares | S01–S04; lista de cambios posibles | Volver al registro citado | Se inventa una fuente | | Clasificación de evento | IDs, taxonomía R09; tabla tipificada | Revisar ambigüedad y muestra | Confunde patente solicitada con concedida | | Recomendación a dirección | Matriz R10; opciones y premisas | Validación experta y firma | Presenta intención o piloto como venta | Una instrucción como «actúa como experto» no controla ninguno de estos riesgos. En cambio, «no emitas conclusión comercial si faltan contratos, clientes o corroboración» es una prueba observable. El contrato debe especificar quién aprueba la difusión y quién conserva las evidencias fuera del chat. ### Práctica de aceptación · Contrato que otra persona pueda ejecutar Redacta en R08 un contrato para **clasificar señales técnicas de Empresa A**. Incluye cinco entradas permitidas, tres prohibiciones, la estructura de salida y tres pruebas adversas: una fuente duplicada; un título que sugiere venta pero describe piloto; y un registro sin fecha del hecho. Pide a otra persona que lo ejecute con datos autorizados y anote exactamente dónde apareció incertidumbre. Se supera si el sistema **declara no consta** ante ausencia de datos, distingue interpretación de hecho y deja trazabilidad del revisor. **Salida reutilizable:** R08 Contrato de delegación y uso de IA; complemento R07 para auditar cualquier afirmación; ## Referencias y límites - NIST. *Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1* (2023). [Documento](https://www.nist.gov/itl/ai-risk-management-framework) Gestión de riesgos de IA como marco voluntario. La auditoría de afirmaciones de Academy es elaboración propia, no un procedimiento NIST. Referencia verificada el 2026-10-18. - NIST. *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1* (2024). [Documento](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence) Riesgos específicos de la IA generativa, incluida la confabulación. Referencia verificada el 2026-10-18. - Empresa A es un caso ficticio: sus datos, empresas y cifras no describen mercados ni organizaciones reales. - Las pautas sobre IA son elaboración propia de Academy. No constituyen un procedimiento NIST ni sustituyen una evaluación de riesgos de tu organización. Intelligence Lab · L05 ## Auditor de evidencias ¿Lo aplicas? Abre el Auditor de evidencias en el Lab y revisa cada afirmación: hecho, inferencia, error o falta de evidencia. Salida: auditoría de afirmaciones. Funciona en el navegador, sin servidor, sin cuenta y sin IA conectada. El resultado puede necesitar revisión y adaptación a tu caso. - [Abrir la herramienta](https://academy.innguma.com/lab/auditor-de-evidencias/) - [Volver al itinerario](https://academy.innguma.com/ia-aplicada-a-la-inteligencia/) **Llévate** - [R07 · Auditoría de resultados de IA](https://academy.innguma.com/biblioteca/auditoria-de-resultados-de-ia/) - [R08 · Contrato de delegación y uso de IA](https://academy.innguma.com/biblioteca/contrato-de-delegacion-y-uso-de-ia/) - [R09 · Diccionario de clasificación](https://academy.innguma.com/biblioteca/diccionario-de-clasificacion/) - [R10 · Matriz de hipótesis y alternativas](https://academy.innguma.com/biblioteca/matriz-de-hipotesis-y-alternativas/) Lectura abierta, sin registro.