La IA genera respuestas; un sistema de inteligencia necesita evidencias
Un modelo generativo transforma entradas en salidas plausibles: síntesis, propuestas de clasificación, preguntas, redacciones o explicaciones. Su utilidad es real, pero la fluidez de su respuesta no demuestra que haya consultado las fuentes necesarias ni que la interpretación sea correcta. Una respuesta puede estar bien escrita y basarse en hechos desactualizados, fuentes mal interpretadas o referencias inexistentes.
Por eso conviene separar capacidad lingüística, acceso a información y fiabilidad del resultado. El modelo puede resumir un documento aportado por el usuario; eso no equivale a haber verificado lo que declara el documento. Puede sugerir dónde investigar; eso no demuestra que haya visitado esas fuentes. Si dispone de herramientas de búsqueda, puede localizar información; aun así, debe documentarse qué consultó, cuándo y qué quedó fuera.
Un mapa de delegación por nivel de riesgo
Clasifica cada tarea con cuatro preguntas: ¿necesita datos actuales?, ¿requiere interpretación especializada?, ¿una omisión podría tener consecuencias?, ¿podremos verificar el resultado?
| Tarea | Papel apropiado de IA | Control humano recomendado |
|---|---|---|
| Reformular una pregunta de inteligencia | Proponer variantes y precisiones | Validar relación con la decisión |
| Resumir material suministrado | Extraer temas y citas localizables | Comprobar correspondencia con originales |
| Etiquetar registros | Aplicar un esquema explícito | Revisar muestra, desacuerdos y casos límite |
| Comparar movimientos de actores | Organizar diferencias y plantear hipótesis | Comprobar hechos, contexto y omisiones |
| Detectar una amenaza estratégica | Plantear señales y escenarios plausibles | Evitar dictámenes sin evidencia y evaluación experta |
| Recomendar inversión o cumplimiento normativo | Preparar alternativas y cuestiones pendientes | Decisión humana y revisión profesional especializada |
El criterio no es «IA sí / IA no», sino qué autonomía autorizamos bajo qué controles. La IA puede proponer, pero no debe presentar una inferencia como observación directa. En decisiones relevantes, el responsable debe poder reconstruir qué evidencia respalda cada conclusión.
Interactivo · Clasifica
¿Cuánta autonomía le das a la IA?
Coloca cada tarea en el nivel de delegación adecuado.
Actividad: clasifica tareas según el nivel de autonomía que darías a la IA.
Caso Empresa A · simulación
Caso ficticioCaso Empresa A · Una frase demasiado segura
El asistente recibe S01 (anuncio corporativo de investigación), S03 (solicitud de patente) y S04 (mención periodística de un demostrador). Devuelve: «Proveedor B domina ya el mercado de almacenamiento térmico y Empresa A debe invertir de inmediato». Esa respuesta confunde exploración, propiedad industrial y madurez comercial. Ninguna de las señales acredita cuota de mercado, ventas o desempeño industrial repetible.
Una alternativa útil es: «Hay actividad técnica inicial y al menos una comunicación de demostración. No constan aquí datos suficientes para concluir adopción comercial. Conviene contrastar validaciones independientes, capacidad de fabricación y compras verificadas antes de modificar la estrategia».
Simulación educativa: información y organizaciones ficticias.
Interactivo · Reescribe
Corrige la frase demasiado segura
El asistente recibió S01, S03 y S04. ¿Qué versión podrías firmar?
Actividad: elige la reescritura defendible de una respuesta de IA demasiado segura.
«Proveedor B domina ya el mercado de almacenamiento térmico y Empresa A debe invertir de inmediato.»
Hazlo tú
Hazlo tú · Contrato de delegación (15 min)
Escoge tres tareas habituales. Para cada una escribe: entrada autorizada, operación que realizará la IA, salida esperada, comprobación requerida, riesgo de error y criterio para detener la automatización. Prueba el contrato con un asistente y revisa si respeta las prohibiciones.
Entregable: ficha de «tarea / autonomía / evidencia / validación» que puedes incorporar a tu plan de vigilancia.
Diccionario de clasificación
Definir etiquetas inequívocas para humano e IA.
Ver la plantilla →Matriz de hipótesis y alternativas
Evaluar explicaciones rivales de una señal.
Ver la plantilla →Compruébalo · autoevaluación
Comprueba tu contrato de delegación
Esta parte necesita juicio profesional: no hay corrección automática. Completa tu trabajo en la práctica, valóralo con la rúbrica de la lección y compáralo con la solución orientativa.
Qué debe incluir tu respuesta
- Cada tarea define entrada autorizada, operación, salida y comprobación.
- Hay un criterio explícito para detener la automatización.
- Prohíbes la publicación directa y el tratamiento de información confidencial sin permiso.
- Un revisor humano comprueba texto y destino de los datos.
Solución orientativa
Situación: pedir a la IA que clasifique S03 como tipo de evento. Solución razonada: autorizar lectura solo del registro, requerir `evento: solicitud_patente`, conservar `evidencia_id: S03` y poner `fecha_concesion: no_consta`; prohibir publicación directa y tratamiento de información confidencial sin permiso. Detener si etiqueta «patente concedida», si inventa documentos o si no cita el ID.
Error que debes evitar: Aceptar «la IA suele acertar» como control.
Solución ilustrativa de un caso ficticio: admite alternativas razonadas.
Errores frecuentes
Creer que una cita es prueba de lectura completa; asumir que un asistente tiene internet por defecto; preguntar «¿qué está pasando?» sin delimitar país y fechas; introducir información confidencial sin autorización; confundir recomendaciones elegantes con decisiones justificadas.
Regla para llevarse: antes de usar una respuesta de IA, pregunta «¿qué tendría que comprobar para poder firmar esta conclusión?». Si no tienes respuesta, todavía no tienes inteligencia contrastada.
Ampliación opcionalProfundización · Antes de delegar, define el coste del error
La autonomía no depende de lo sofisticada que parezca una tarea, sino de qué sucede si la salida es errónea y nadie lo detecta. Una clasificación exploratoria puede tolerar incertidumbre si termina en una bandeja de revisión. Un mensaje destinado a dirección que atribuye una adquisición a un competidor puede alterar decisiones y exigir comprobaciones más fuertes. Para diseñar la delegación, documenta cinco dimensiones: exposición de información, capacidad de comprobación, reversibilidad, destinatario y plazo para detectar el fallo.
Tres niveles operativos: (A) asistencia de borrador: la IA propone, el humano selecciona; (B) ejecución supervisada: opera sobre fuentes y estructura autorizadas, pero ninguna conclusión se difunde sin control; (C) automatización acotada: acciones repetitivas de bajo riesgo, monitorizadas y reversibles, con criterios de parada. Estos niveles son una propuesta pedagógica de Academy, no un estándar externo ni una propiedad automática de un producto.
Caso Empresa A · Una tarea, tres contratos diferentes
| Contrato | Entrada y salida permitida | Prueba humana | Parada inmediata |
|---|---|---|---|
| Borrador de titulares | S01–S04; lista de cambios posibles | Volver al registro citado | Se inventa una fuente |
| Clasificación de evento | IDs, taxonomía R09; tabla tipificada | Revisar ambigüedad y muestra | Confunde patente solicitada con concedida |
| Recomendación a dirección | Matriz R10; opciones y premisas | Validación experta y firma | Presenta intención o piloto como venta |
Una instrucción como «actúa como experto» no controla ninguno de estos riesgos. En cambio, «no emitas conclusión comercial si faltan contratos, clientes o corroboración» es una prueba observable. El contrato debe especificar quién aprueba la difusión y quién conserva las evidencias fuera del chat.
Práctica de aceptación · Contrato que otra persona pueda ejecutar
Redacta en R08 un contrato para clasificar señales técnicas de Empresa A. Incluye cinco entradas permitidas, tres prohibiciones, la estructura de salida y tres pruebas adversas: una fuente duplicada; un título que sugiere venta pero describe piloto; y un registro sin fecha del hecho. Pide a otra persona que lo ejecute con datos autorizados y anote exactamente dónde apareció incertidumbre. Se supera si el sistema declara no consta ante ausencia de datos, distingue interpretación de hecho y deja trazabilidad del revisor.
Salida reutilizable: R08 Contrato de delegación y uso de IA; complemento R07 para auditar cualquier afirmación;
Referencias y límites
- NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 (2023). DocumentoGestión de riesgos de IA como marco voluntario. La auditoría de afirmaciones de Academy es elaboración propia, no un procedimiento NIST.Referencia verificada el 2026-10-18.
- NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1 (2024). DocumentoRiesgos específicos de la IA generativa, incluida la confabulación.Referencia verificada el 2026-10-18.
- Empresa A es un caso ficticio: sus datos, empresas y cifras no describen mercados ni organizaciones reales.
- Las pautas sobre IA son elaboración propia de Academy. No constituyen un procedimiento NIST ni sustituyen una evaluación de riesgos de tu organización.
Intelligence Lab · L05
Auditor de evidencias
¿Lo aplicas? Abre el Auditor de evidencias en el Lab y revisa cada afirmación: hecho, inferencia, error o falta de evidencia. Salida: auditoría de afirmaciones. Funciona en el navegador, sin servidor, sin cuenta y sin IA conectada. El resultado puede necesitar revisión y adaptación a tu caso.