A qué nos referimos con IA generativa
What We Mean by AI · 4 min
La mayoría de la IA en el mundo (filtros de spam, recomendaciones, detección de fraude) no es generativa. Este curso trata sobre la que sí lo es: modelos de texto basados en transformers que producen contenido nuevo un token a la vez.
Construyendo un modelo mental de la máquina
Puntos clave
- La IA generativa produce contenido nuevo en lugar de clasificar contenido existente.
- La IA no es uniformemente capaz ni uniformemente poco confiable. Es fuerte y débil a lo largo de cuatro ejes predecibles: Predicción del Siguiente Token, Conocimiento, Memoria de Trabajo y Capacidad de Dirección.
- Cada propiedad es un continuo. El mismo mecanismo te da tanto la capacidad como la limitación.
- La confianza calibrada significa ubicar tu tarea en el continuo, no otorgar o retener la confianza en bloque.
Ejercicios
¿Generativa o no?
¿Por qué? Acabas de aprender que la IA generativa es fundamentalmente diferente de la IA que filtra tu spam y recomienda tu próximo video. Ahora vas a usar esa distinción en tu propia experiencia.
- Enumera cinco funciones con IA con las que has interactuado esta semana. Abarca un amplio espectro: autocompletado, etiquetado de fotos, filtrado de spam, respuestas de chatbot, traducción, recomendaciones de productos, asistentes de voz.
- Para cada una, anota tu veredicto: ¿está produciendo contenido nuevo, o está ordenando, clasificando y categorizando contenido existente?
- Comparte tu lista con una IA y pídele que revise tus veredictos. Para cualquiera que hayas acertado mal (o de la que no estuvieras seguro), pídele que explique la distinción en una sola frase. Luego pregunta: "¿Cuál de estas cinco tiene más probabilidades de tener un modo de fallo que este curso me ayudará a entender?"
- Vuelve a tu lista de tareas de la Lección 1. Para cada tarea, etiquétala con la pregunta de propiedad que te parezca más relevante en este momento:
- ¿De dónde vienen las respuestas? (Predicción del Siguiente Token)
- ¿Qué sabe? (Conocimiento)
- ¿A qué le está prestando atención? (Memoria de Trabajo)
- ¿Cuánto control tengo? (Capacidad de Dirección)
No se espera que aciertes en esto. Estás creando predicciones que pondrás a prueba a lo largo de las próximas cuatro lecciones.
Reflexión de la lección
- ¿La distinción entre generativa/clasificación con IA cambió la forma en que piensas sobre alguna herramienta que usas?
- Mira cómo etiquetaste tu lista de tareas. ¿Alguna tarea te pareció que podía pertenecer a más de una propiedad?
Qué sigue
Antes de profundizar en las cuatro propiedades, dedicaremos una lección a cómo un sistema de IA termina teniendo una personalidad. Por qué es educado, útil, honesto, por qué a veces está de acuerdo con demasiada facilidad, por qué rechaza ciertas cosas. Ese proceso de moldeado deja huellas en todo lo que viene después.