King − man + woman, explicado
Las analogías de palabras como aritmética de flechas: qué calcula el Laboratorio, por qué funciona y dónde falla.
Uno de los resultados más famosos de los embeddings de palabras es una cuenta: toma el vector de king (rey), réstale man (hombre), súmale woman (mujer), y la palabra más cercana al resultado es queen (reina). Suena a truco de magia. En realidad es una afirmación sobre direcciones en el espacio, y una vez que lo ves así, también puedes ver dónde funciona y dónde falla.
Las palabras como flechas
En un modelo de embeddings, cada palabra es una lista de números, aquí 300, llamada vector. Puedes imaginar esa lista como una flecha que va del origen (el punto donde todos los números son cero) hasta un punto. Sumar y restar flechas se hace un número a la vez: para calcular king − man, resta el primer número de man del primer número de king, luego el segundo, y así hasta llegar a 300.
El resultado de una resta es también una flecha: la dirección en la que viajarías para ir de man a king. Si el modelo aprendió una noción coherente de “realeza”, entonces el viaje de woman a queen debería apuntar más o menos hacia el mismo lado.
Así que king − man + woman significa: empieza en king, quita la dirección “hombre”, agrega la dirección “mujer”. Si la geometría es limpia, caes cerca de queen. La misma idea se puede leer al revés, como “¿qué es a woman lo que king es a man?”.
Qué hace en realidad el Laboratorio de vectores
El Laboratorio tiene tres casillas, a, b y c, y calcula a − b + c. Por detrás:
- busca el vector completo de 300 números de cada una de tus tres palabras;
- hace la aritmética con los 300 números;
- compara el resultado con cada palabra que tiene cargada el modelo (10,000) usando la similitud coseno, que mide qué tanto apuntan dos flechas hacia el mismo lado;
- se salta tus tres palabras de entrada y muestra las palabras restantes más cercanas y su similitud.
| Modelo | Resultado | Similitud |
|---|---|---|
| GloVe 300D | queen | 0.73 |
| FastText 300D | queen | 0.77 |
| Word2Vec 300D | royal | 0.51 |
GloVe y FastText caen los dos en queen. Word2Vec no, y la razón es bastante mundana: su vocabulario distingue mayúsculas de minúsculas, y entre las 10,000 palabras cargadas aquí solo está Queen con mayúscula. Ese vector obtiene 0.44, por debajo de royal (real, de la realeza).
La letra pequeña
Ese paso de “se salta tus tres palabras de entrada” importa más de lo que parece. En los datos de GloVe, el vector más cercano a king − man + woman es en realidad el propio king(similitud 0.82), con queen en segundo lugar. Restar man y sumar woman mueve la flecha solo un poco, así que se queda más cerca de donde empezó. Casi todas las herramientas de analogías excluyen las entradas por esta razón. El famoso resultado es real, pero un poco menos espectacular de lo que suena.
Las flechas en 3D del lienzo son otra simplificación: son una vista aplanada de vectores de 300 dimensiones, así que los ángulos y las longitudes en pantalla son solo aproximados. La imagen es una pista; la respuesta sale del cálculo completo con los 300 números.
Más analogías para probar
Todas estas funcionan con GloVe, el modelo por defecto del Laboratorio:
paris − france + italy→rome(capitales)france − paris + tokyo→japan(la misma relación, al revés)walking − walk + swim→swimming(formas verbales: caminando − caminar + nadar → nadando)bigger − big + small→smaller(más pequeño), conlarger(más grande) en un segundo lugar muy cercano
Esa última muestra un fallo común. smaller y larger aparecen en frases casi idénticas, así que el modelo los mantiene muy juntos. Los embeddings son buenos para “el mismo tipo de palabra” y más flojos para “lo contrario de”.
Cómo leer el resultado
La similitud que muestra el Laboratorio es la similitud coseno: 1 sería una coincidencia perfecta en dirección. No es una probabilidad ni una medida de confianza. Solo dice qué tanto apunta la flecha del resultado hacia cada palabra candidata. Un número bajo, como el 0.51 de Word2Vec, significa que el cálculo cayó en una zona poco poblada y que ni siquiera la palabra más cercana está muy cerca.
También puedes saltarte el cálculo y solo graficar palabras. La casilla de palabras acepta hasta 50 palabras y dibuja cada una como una flecha, una forma rápida de comparar un conjunto pequeño como man woman king queen.
Por qué funciona y qué refleja
Nadie programó una dirección de “realeza” o de “género” en estos modelos. Surgieron porque el texto de entrenamiento usa king y queen de formas paralelas, igual que man y woman. La geometría es un resumen comprimido de cómo escribe la gente. Por qué las direcciones de un embedding llevan significado se explora en El espacio latente: el significado oculto en los números.
Eso tiene dos caras. Los investigadores han mostrado que la misma aritmética saca a la luz estereotipos del texto de entrenamiento, por ejemplo al asociar ciertos trabajos con más fuerza a un género. Cuando una analogía da una respuesta sorprendente, vale la pena preguntarse qué hay en el texto de origen que pudo haberla producido.
Preguntas frecuentes
¿Qué significa king − man + woman = queen?
Es un resultado famoso de los embeddings de palabras. Tomar el vector de king (rey), restarle man (hombre) y sumarle woman (mujer) da un punto cuya palabra más cercana suele ser queen (reina). Muestra que algunas relaciones, como la de masculino a femenino, aparecen como direcciones coherentes en el espacio de embeddings.
¿Las analogías de palabras siempre funcionan?
No. Funcionan bien con algunas relaciones, como el género, las capitales y los tiempos verbales, y mal con muchas otras. Además, los resultados casi siempre se reportan excluyendo las palabras de entrada, porque el vector más cercano suele ser una de ellas, lo que hace que el método parezca más confiable de lo que es.
¿Cómo se calcula la respuesta de una analogía?
Los tres vectores se combinan como a − b + c, y el resultado se compara con cada vector de palabra usando la similitud coseno. Las palabras más cercanas, excluyendo las tres de entrada, son las respuestas. El Laboratorio de vectores de WordCanvas3D muestra este cálculo paso a paso.
¿La aritmética de vectores puede revelar sesgos?
Sí. La misma aritmética puede sacar a la luz estereotipos aprendidos del texto de entrenamiento, por ejemplo al asociar ciertas profesiones con más fuerza a un género. Estos resultados reflejan patrones en cómo escribe la gente, y por eso los embeddings suelen evaluarse y ajustarse contra los sesgos antes de usarse.
