Diagnóstico de fallos de la IA
Cuando las propiedades colisionan · 3 min
Las cuatro propiedades no operan de forma aislada. La mayoría de los fallos reales son dos de ellas intersectándose. Una vez que puedes nombrar cuáles dos, sabes qué solución buscar.
Dos propiedades que se encuentran: diagnosticando qué salió mal
Puntos clave
- Los fallos del mundo real suelen ser dos propiedades interactuando, no una.
- Pares diagnósticos que reconocer:
- Predicción del Siguiente Token + Conocimiento (detalles alucinados)
- Memoria de Trabajo + Dirigibilidad (deriva en conversaciones largas)
- Nombrar las propiedades en juego te lleva directo a la solución: verificar detalles, volver a proporcionar contexto, delegar a la ejecución de código, o invitar a la contradicción.
- Este movimiento diagnóstico es el Discernimiento aplicado. Evalúas mejor cuando sabes qué tipo de error estás viendo.
Ejercicios
El diagnóstico del fallo
¿Por qué? La mayoría de los fallos reales de la IA no son una sola propiedad actuando mal. Son dos propiedades que se encuentran al mismo tiempo. Nombrar cuáles dos cambia la solución por completo.
Piensa en tu experiencia con la IA (incluyendo lo que has observado durante este curso). Identifica dos o tres veces en que un resultado de la IA te decepcionó o sorprendió genuinamente. Para cada una, descríbela en una o dos frases: qué pediste, qué obtuviste, qué fue decepcionante o sorprendente.
- Repasa cada evento con la IA. Describe qué sucedió y pregunta: "Basándonos en las cuatro propiedades (Predicción del Siguiente Token, Conocimiento, Memoria de Trabajo, Dirigibilidad), ¿cuáles probablemente estaban en juego aquí, y por qué?"
- Evalúa su diagnóstico frente a lo que ahora sabes. ¿Estás de acuerdo? Si no, contradícela. (Recuerda la huella de la complacencia de la Lección 3: la IA puede estar de acuerdo con tu planteamiento con demasiada facilidad. Si crees que está equivocada, dilo.)
- Para cada diagnóstico, pregunta: "Dado ese diagnóstico, ¿cuál es la solución más específica?" Si puedes, prueba el ajuste ahora mismo en una tarea similar.
Ahora mira tu lista de tareas de la Lección 1 con todas sus anotaciones acumuladas (etiquetas de propiedades de la Lección 2, puntuaciones de verificación de la Lección 4, marcadores de conocimiento de la Lección 5, necesidades de contexto de la Lección 6, declaraciones de objetivos de la Lección 7). Para las tareas que te dieron más problemas, nombra qué dos propiedades estaban colisionando. Escribe el diagnóstico junto a cada una.
Reflexión de la lección
- ¿Nombrar el par de propiedades cambió la solución a la que recurrirías? Antes de este curso, ¿habrías intentado una solución diferente (menos efectiva)?
- ¿Qué combinación de propiedades crees que encontrarás con más frecuencia en tu trabajo diario?
Qué sigue
En la lección final, consolidamos lo que has construido, lo conectamos de nuevo con el Marco 4D como un sistema completo, y te indicamos hacia dónde profundizar.