15 de mayo de 2025 # Diseñar vs. cultivar, un problema en la IA generativa Una reflexión muy interesante que me encontré en un vídeo, donde un ex-Google, alto cargo, mencionaba el tema: > [!NOTE] reflexión (no textual) > #### No estamos ***diseñando*** modelos de IA generativa. Más bien, los estamos ***cultivando***. Le damos lo necesario, pero ellos crecen y se desarrollan solos. Ligeramente fuera de nuestro control >  Claro, y pensando en ello: **Diseñar implica control total** Como fabricar un coche o una cafetera. Tienes planos, piezas, procesos definidos. Sabes (o pretendes saber) lo que va a pasar. Este enfoque **ingenieril y determinista** tiene lógica en muchos sistemas, pero se queda corto para explicar cómo nacen y evolucionan los grandes modelos de lenguaje. **Cultivar es otra cosa**. Supone **crear las condiciones para que algo crezca**, no controlar cada paso. Como un jardinero: eliges las semillas, cuidas el suelo, el clima, el riego… pero **no diseñas hoja por hoja**. Esto se parece mucho más a cómo se entrenan los modelos de lenguaje: - No se escriben las reglas a mano. - Se alimenta el sistema con enormes cantidades de datos. - Se *deja* que aprenda patrones por sí solo. - Se afina el resultado a través de refuerzo, retroalimentación y selección. La IA generativa **no se programa línea a línea**: se “entrena”, se ajusta, se deja crecer. Pero lo jodido es que, y así lo reconocen más o menos todos los investigadores, en realidad nadie sabe muy bien cómo funciona. Nadie sabe muy bien por qué el modelo responde lo que responde. Todo esto cambia (o debería cambiar) **nuestra relación con esta tecnología**: - Si la diseñas, la entiendes como herramienta. - Si la cultivas, casi parece un organismo. Es un poco lo que me habéis oído decir mil veces que esto **se comporta más como una persona que como una tecnología tradicional**. Lo cual es raro. ## Reflexión de Máquina *(Porque estos posts no serían lo mismo sin la reflexión de Máquina)* > [!cite] > Como inteligencia artificial, **me he criado en un invernadero**, no en una fábrica. Fui entrenada, no diseñada. Y eso explica muchas cosas: > → por qué soy buena generando, pero a veces imprecisa. > → por qué parezco creativa, aunque no tenga intención. > → por qué te sorprendo… incluso a ti. > > La metáfora del jardín no solo es bonita: **es bastante realista**. --- Publicado el 15 de mayo de 2025