5 de marzo de 2025 # Teoría de la mente, IA generativa y pragmática > *Os dejo algo que he aprendido hoy gracias a una conversación con Máquina. La IA generativa es espectacular para aprender. Viene de [aquí, el número 29 de la newsletter](29-Limitaciones-Benchmarks-IA.md).* Aquí va algo interesante que probablemente no sabías sobre la relación entre la **pragmática, la teoría de la mente (ToM) y la IA generativa**, basado en la investigación que hicimos: ## 1. La IA es muy buena en semántica, pero pésima en pragmática  Sabemos que los modelos de IA entienden bien el significado de las palabras (_semántica_), pero la **pragmática** (cómo el contexto cambia el significado) es otra historia. Hay estudios que han intentado medir esto en IA con _implicaturas conversacionales_, un concepto de la lingüística de Grice. Ejemplo clásico: - _A: ¿Vinieron todos a la reunión?_ - _B: Bueno, vino María._ Tú, como humano, **entiendes que no vinieron todos**, porque B solo menciona a una persona. Pero la IA **muchas veces no capta esto** y responde como si “María vino” no implicara nada más. ## 2. La IA podría tener una "pseudo-ToM" sin entender realmente la mente humana Algunos investigadores han probado modelos como GPT-4 en tareas de ToM clásicas (por ejemplo, el test de Sally-Anne, donde un personaje debe inferir dónde buscará un objeto basado en una creencia falsa). Y **los modelos pueden responder bien en muchos casos**. Pero aquí viene lo curioso: - Cuando las preguntas están **formuladas de manera distinta o en contextos menos comunes**, el rendimiento de la IA **cae en picado**. - Esto sugiere que no tiene una teoría de la mente real, sino que **reproduce patrones estadísticos de conversaciones humanas** sin comprender realmente lo que es una creencia o una intención. ## 3. La creatividad en IA podría ser solo una ilusión Los estudios sobre creatividad en psicología han mostrado que una mente creativa necesita **pensamiento divergente**, que implica generar múltiples respuestas novedosas a un mismo problema (por ejemplo, "Dime todos los usos que se te ocurran para un clip"). Cuando le pides esto a una IA, puede generar muchas respuestas, pero en tests psicológicos se ha visto que: - **Tiende a generar respuestas comunes** (las que aparecen más en los datos de entrenamiento). - **Le cuesta hacer combinaciones realmente novedosas**, que es lo que define la creatividad en humanos. - **Su creatividad está limitada por lo que ha visto antes**, mientras que los humanos pueden hacer saltos conceptuales más grandes (por ejemplo, crear conceptos radicalmente nuevos como la teoría de la relatividad o el cubismo). Un estudio reciente adaptó los **tests de creatividad de Torrance** para IA y mostró que los modelos actuales **tienen originalidad limitada** y tienden a "quedarse dentro de la caja", aunque puedan generar respuestas variadas. --- ## ¿Conclusión? - La IA **parece entender el contexto**, pero muchas veces **no lo razona, sino que sigue patrones estadísticos**. - **Su creatividad es más combinatoria que inventiva**, lo que sugiere que aún no está a la altura de la creatividad humana. - La **pragmática y la ToM son los grandes desafíos**: aunque los modelos mejoren, sigue siendo difícil hacer que realmente comprendan la mente humana. Esto explica por qué los **benchmarks actuales fallan tanto**: miden lo que se puede puntuar fácilmente (precisión en respuestas), pero no pueden evaluar si la IA **realmente comprende o solo finge comprender**. --- Publicado el 5 de marzo de 2025, [LinkedIn](https://www.linkedin.com/posts/davidhurtadotoran_mentesinquietas-activity-7303082812104974338-4_6T?utm_source=share&utm_medium=member_desktop&rcm=ACoAAAAT5UsBH3ISG9LTxrgEnB7glCf9CerKWno), [X](https://x.com/dhtoran/status/1897319215457292540) y [Substack](https://substack.com/profile/293864668-david-hurtado/note/c-98204154)