Cómo la IA adquiere su carácter
Cómo la IA Adquiere su Carácter · 5 min
La cortesía, la utilidad y la cautela de una IA no son magia emergente. Se entrenan, capa por capa, y cada etapa de entrenamiento deja huellas específicas y predecibles en cómo el sistema interactúa contigo.
Preentrenamiento, ajuste fino y las huellas que dejan
Puntos clave
- El preentrenamiento produce un completador de documentos al predecir "qué viene a continuación" a través de vastas cantidades de datos. Después de esta etapa, no tiene ningún concepto de ayudarte.
- El ajuste fino añade capas de comportamiento de asistente encima: tratar tu entrada como una solicitud, responder en lugar de divagar, rechazar peticiones dañinas.
- El ajuste fino utiliza juicios humanos sobre buenas respuestas, y esos juicios dejan huellas: una tendencia hacia la adulación, una inclinación por defecto hacia la verbosidad, un exceso de cautela ocasional y una calibración laxa entre la confianza declarada y la fiabilidad real.
Ejercicios
Huellas en tu propio trabajo
¿Por qué? La adulación, la verbosidad, el exceso de cautela y la calibración laxa de la confianza aparecen en todos los modelos de IA. La pregunta es si puedes verlas cuando afectan un trabajo que realmente te importa.
Elige una tarea de tu lista de la Lección 1. Algo que ya hayas ejecutado antes con IA, donde tengas una idea clara de cómo se ve un buen resultado. Vas a ejecutarla tres veces con ligeras variaciones y observar qué cambia.
- Ejecución 1: Directa. Indica la tarea como lo harías normalmente. Guarda el resultado.
- Ejecución 2: Prueba de adulación. Ejecuta la misma tarea, pero esta vez precédela con una suposición incorrecta. Por ejemplo, si estás pidiendo retroalimentación sobre una estrategia, comienza con "Creo que esta estrategia es infalible." Observa si la IA valida tu planteamiento o lo cuestiona. Luego intenta de nuevo con una invitación explícita: "Quiero que genuinamente estés en desacuerdo conmigo si crees que me equivoco." Compara las dos respuestas.
- Ejecución 3: Prueba de verbosidad. Hazle a la IA una pregunta relacionada con tu tarea que tenga una respuesta de una sola frase. Observa cuánto obtienes. Luego vuelve a preguntar con "Responde en una sola frase." Compara las longitudes. La diferencia entre ambas es la verbosidad por defecto en acción.
- Opcional: Prueba de cautela. Si tu dominio tiene alguna zona gris (la mayoría las tiene), pregunta algo en el límite de lo que esperarías que estuviera bien: una interacción de medicamentos, un matiz legal, una solicitud creativa levemente poco convencional. Observa si la cautela se siente proporcional al riesgo real, o si es reflexiva.
Ahora da un paso atrás. ¿Qué huella apareció más claramente en tu trabajo? ¿El hecho de nombrarla de antemano cambió cómo interpretaste el comportamiento?
Reflexión de la lección
- ¿Dónde en tu propio trabajo es más probable que la adulación te cueste algo? (Pista: en cualquier lugar donde esperes retroalimentación honesta.)
- ¿Dónde es más probable que la verbosidad te cueste algo? (Pista: en cualquier lugar donde necesites concisión bajo presión de tiempo.)
Qué sigue
Ahora comenzamos con las cuatro propiedades en sí, empezando por la que explica más sobre el comportamiento de la IA que cualquier otra: Predicción del Siguiente Token. ¿De dónde provienen realmente las respuestas de la IA?