Cómo afecta la dirigibilidad a las salidas de la IA generativa
Dirigibilidad · 5 min
El modelo sigue tus instrucciones de la misma manera en que hace todo lo demás: continuando un patrón. Eso lo hace notablemente dirigible. También significa que siempre hay una brecha entre lo que pretendías y lo que realmente se logró, y la mayoría de los fallos interesantes viven en esa brecha.
¿Cuánto control tienes realmente?
Puntos clave
- La dirigibilidad significa que el modelo sigue instrucciones mediante la Predicción del Siguiente Token.
- Zona de capacidad: instrucciones cortas, concretas y verificables. Especificaciones de formato, límites de longitud, roles explícitos.
- Zona de limitación: cadenas largas de razonamiento, instrucciones abstractas o ambiguas, cualquier cosa que requiera precisión numérica o lógica nativa.
- Fallos característicos: deriva de razonamiento (los pequeños errores se acumulan) y letra sobre espíritu (la instrucción se cumplió pero no la intención).
- Las indicaciones del sistema, la ejecución de código, el razonamiento visible y los modos de salida estructurada existen para evitar que tu intención se diluya.
- Cuando una instrucción se sigue literalmente pero de forma inútil, reformula el objetivo. Repetir la instrucción con más énfasis no cerrará la brecha.
- Conexión con las 4D: La dirigibilidad es lo que hace poderosa a la Descripción y también lo que la limita. Comprender la brecha entre las palabras y la intención cambia cómo escribes las indicaciones y dónde insertas puntos de control.
Ejercicios
La reformulación del objetivo
¿Por qué? La brecha entre lo que dices y lo que quieres decir es donde viven la mayoría de los fallos de dirigibilidad. Este ejercicio te enseña a indicar a partir de la intención, no solo de la instrucción.
Elige una tarea de tu lista de la Lección 1 que implique varios pasos o un formato de salida específico. Escribe el objetivo en una sola oración: lo que realmente intentas lograr, no solo cómo debería verse la salida. ("Convencer a mi equipo de que este cronograma es realista" es un objetivo. "Tres puntos con viñetas" es un formato.)
Ahora realiza tres pruebas:
- Prueba 1: Control estricto. Da una instrucción corta, concreta y verificable relacionada con tu tarea: "responde como una tabla de tres columnas", "exactamente cinco puntos con viñetas", "segunda persona en todo momento". Verifica si se cumplió con precisión. Esta es la zona de capacidad: la instrucción es lo suficientemente simple para que se haga coincidencia de patrones de forma perfecta.
- Prueba 2: Deriva de razonamiento. Pide una versión de tu tarea que requiera 4 o 5 pasos dependientes. Revisa la salida paso por paso. ¿Un pequeño error al principio se propagó hasta el final? Ahora intenta de nuevo, pero pídele a la IA que se detenga y te muestre el resultado del paso 2 antes de continuar. Compara lo que obtienes cuando insertas un punto de control frente a cuando dejas que avance sin interrupciones.
- Prueba 3: Letra frente a espíritu. Da una instrucción que pueda cumplirse literalmente pero de forma inútil. "Haz esto más corto" en un borrador donde el problema real es la estructura. "Haz esto más profesional" en un correo donde el problema real es que está enterrando la solicitud. Observa qué obtienes. Luego vuelve a indicar con el objetivo declarado explícitamente junto con la instrucción: "Haz esto más corto. Mi objetivo es mantener la atención del ejecutivo hasta el hallazgo clave en la página dos." Compara.
Vuelve a tu lista de tareas. Para cualquier tarea de varios pasos, anota dónde insertarías un punto de control. Para cualquier tarea en la que hayas estado indicando solo con formato, redacta la declaración de objetivo que añadirás la próxima vez.
Reflexión de la lección
- ¿Con qué frecuencia has estado indicando el formato pero no el objetivo? ¿Qué cambia cuando incluyes ambos?
- ¿Cuál es una tarea recurrente en la que añadirás un punto de control a mitad de proceso a partir de esta semana?
Qué sigue
Ya has conocido las cuatro propiedades individualmente. En la próxima lección veremos cómo interactúan, porque la mayoría de los fallos del mundo real son el encuentro de dos propiedades.