La temperatura es un parámetro poderoso que controla cuán creativas o deterministas serán las respuestas de Claude. Comprender cómo usarla de manera efectiva puede mejorar drásticamente tus aplicaciones de IA.
Cómo genera texto Claude
Antes de profundizar en la temperatura, es útil entender el proceso de generación de texto de Claude. Cuando le envías a Claude una indicación como "¿Qué opinas?", esta pasa por tres fases:
- Tokenización: Dividir tu entrada en fragmentos más pequeños
- Predicción: Calcular probabilidades para los posibles tokens siguientes
- Muestreo: Seleccionar un token según esas probabilidades
En el diagrama anterior, puedes ver cómo Claude podría asignar diferentes probabilidades a los posibles tokens siguientes. La palabra "about" tiene un 30% de probabilidad, "would" tiene un 20%, y así sucesivamente. Este proceso se repite para cada token hasta que la respuesta esté completa.
Qué hace la temperatura
La temperatura es un valor decimal entre 0 y 1 que influye directamente en estas probabilidades de selección de tokens. Piénsalo como un dial de creatividad:
- Temperatura baja (cercana a 0): Hace que el token con mayor probabilidad tenga muchas más posibilidades de ser seleccionado
- Temperatura alta (cercana a 1): Distribuye la probabilidad de manera más uniforme entre todos los tokens posibles
A temperatura 0, Claude se vuelve determinista: siempre elegirá el token más probable. A temperatura 1, los tokens con menor probabilidad tienen muchas más posibilidades de ser seleccionados, lo que da lugar a resultados más creativos y variados.
Rangos de temperatura y casos de uso
Diferentes tareas requieren diferentes configuraciones de temperatura:
Temperatura baja (0.0 - 0.3)
- Respuestas factuales
- Asistencia en programación
- Extracción de datos
- Moderación de contenido
Temperatura media (0.4 - 0.7)
- Resumen
- Contenido educativo
- Resolución de problemas
- Escritura creativa con restricciones
Temperatura alta (0.8 - 1.0)
- Lluvia de ideas
- Escritura creativa
- Contenido de marketing
- Generación de chistes
Configurar la temperatura en el código
Por defecto, la temperatura de Claude está configurada en 1.0, lo que significa máxima creatividad. Puedes anular esto agregando temperature a tu configuración de inferencia:
def chat(messages, system=None, temperature=1.0):
params = {
"modelId": model_id,
"messages": messages,
"inferenceConfig": {"temperature": temperature}
}
if system:
params["system"] = [{"text": system}]
response = client.converse(**params)
return response["output"]["message"]["content"][0]["text"]La temperatura en la práctica
Aquí tienes un ejemplo práctico usando la generación de ideas para películas. Con la temperatura configurada en el valor predeterminado (1.0), podrías obtener respuestas creativas como:
"Una maestra reclusa del origami descubre que sus intrincadas creaciones de papel cobran vida por la noche, lo que la lleva a un viaje mágico para salvar su mundo en miniatura de una misteriosa criatura de sombras que amenaza con deshacer su existencia."
Pero cuando configuras la temperatura en 0.0 para la misma indicación, obtendrás consistentemente respuestas más predecibles:
"Un arqueólogo viajero en el tiempo debe evitar que artefactos antiguos sean robados por un multimillonario tecnológico que los está usando para construir un dispositivo del fin del mundo que aprovecha su poder olvidado."
Ejecutar la versión de baja temperatura varias veces producirá respuestas muy similares, a menudo con temas repetidos como "historiador viajero en el tiempo" o "arqueólogo viajero en el tiempo".
Puntos clave
La temperatura te da control directo sobre el nivel de creatividad de Claude. Usa temperaturas más bajas cuando necesites respuestas consistentes y factuales, y temperaturas más altas cuando quieras resultados creativos y variados. La temperatura predeterminada de 1.0 maximiza la creatividad, así que considera reducirla para tareas que requieran precisión y consistencia.