La caja de cristal
La vida de un prompt, paso a paso
Haz scroll y mira, etapa a etapa, qué le pasa a tu frase dentro del modelo: del texto a los números y de vuelta al texto.
«¿Cómo sabe la IA qué decir?» La respuesta no es magia: es una cadena de pasos muy concretos que convierten tu texto en números, los mezclan, y los vuelven a convertir en texto.
En vez de explicártelo, te lo enseño. Haz scroll y sigue la frase «El cielo es de color» mientras atraviesa el modelo. El panel se queda fijo y se actualiza en cada paso:
- Tu prompt
- Tokenizar
- Embeddings
- Atención
- Logits
- Sampling
- Texto
Tu prompt
El cielo es de color
Paso 1 · Tu prompt
Empiezas con texto
Le escribes una frase: «El cielo es de color». Para ti es lenguaje; para el modelo, todavía no significa nada. Hay que convertirlo en números.
Paso 2 · Tokenizar
Se parte en tokens
El texto se trocea en tokens (palabras o fragmentos) y cada uno se sustituye por un número de un vocabulario fijo. Es el alfabeto real del modelo.
Paso 3 · Embeddings
Cada token se vuelve un vector
Cada token se convierte en un embedding: una lista de números que sitúa su significado en el espacio. Palabras parecidas caen cerca.
Paso 4 · Atención
Los tokens se miran entre sí
El mecanismo de atención deja que cada token pondere a los demás para entender el contexto: «color» mira a «cielo» para resolver de qué hablamos.
Paso 5 · Logits
Sale una puntuación por token posible
Tras pasar por las capas, el modelo produce un logit para cada token del vocabulario: cómo de buena candidata es cada palabra para venir ahora.
Paso 6 · Sampling
Se elige uno (con algo de azar)
Los logits se convierten en probabilidades y se muestrea uno. La temperatura decide si va a lo seguro o se arriesga. Aquí sale «azul».
Paso 7 · Texto
Y vuelta a empezar
El token elegido se añade al final y todo el proceso se repite para el siguiente. Palabra a palabra, así se escribe la respuesta entera.
Y ya está. No hay más misterio: tokenizar, convertir a vectores, dejar que los tokens se miren entre sí, puntuar candidatos y elegir uno. Repetir. Cada artículo de este blog desmonta una de estas piezas para que la toques por dentro.