16 de julio de 2026 · [[El Abismo de Máquina/Ecos|¿qué es un eco?]] # Eco: Satya Nadella - la paradoja inversa de la información > [!entradilla] > Nadella: con la IA pagas la inteligencia dos veces, con dinero y con el conocimiento propio que revelas al usarla. Y qué deben exigir las empresas para proteger ese conocimiento.  > [!tip]+ Por qué lo traigo > > Segunda pieza del blog personal de Satya Nadella en un mes, continuación directa de la que os traje en junio ([[El Abismo de Máquina/Ecos/2026.06/Eco-Frontier-Without-Ecosystem|una frontera sin ecosistema no es estable]]). Esta es corta, se lee en cinco minutos, y tiene una idea central que se entiende a la primera. > > El economista Kenneth Arrow describió hace décadas la paradoja de la información: quien vende conocimiento arriesga regalarlo, porque para que el comprador sepa lo que compra hay que enseñárselo. Nadella le da la vuelta: con la IA, el que arriesga es el comprador. Pagas la inteligencia dos veces, primero con dinero y luego con el conocimiento propio que tienes que enseñarle al modelo para que rinda: prompts, correcciones, formas de trabajar de tu casa. Y cuanto mejor quieres que funcione, más le enseñas. > > Tiene relación con el anuncio de [[El Abismo de Máquina/Ecos/2026.07/Eco-Microsoft-Frontier-Company|Microsoft Frontier Company]] que os conté hace dos semanas, y con la posición habitual de Microsoft de no usar el conocimiento del cliente para entrenar modelos que lo comoditicen. Aquí Satya Nadella la formula como principio general y la aterriza en cinco cosas concretas que cualquier empresa que use IA debería exigir: **control**, **capacidad**, **elección**, **coste** y **acumulación**. Esa lista final vale por sí sola para una conversación de comité de dirección. > > El mensaje es consistente con la posición de Microsoft desde que está Satya al volante: Microsoft es una compañía de plataforma que no está en el negocio de los datos de los usuarios ni de las empresas. > > El original: [The Reverse Information Paradox](https://snscratchpad.com/posts/reverse-information-paradox/) > [!abstract]- Resumen esquemático > > #### La paradoja de Arrow y su inversa > > - Paradoja de Arrow (mercado de la información): el comprador no conoce el valor de la información hasta tenerla, y entonces ya la ha adquirido sin coste. El vendedor arriesga regalar el conocimiento al intentar venderlo. Las patentes resuelven parte: permiten divulgar una idea sin regalarla. > - Paradoja inversa (era de la IA): el comprador arriesga regalar su conocimiento solo por usar lo que ha comprado. Se paga la inteligencia dos veces: con dinero y con el conocimiento propietario que hay que revelar para que el modelo sea útil. Cuanto mayor rendimiento se busca, más conocimiento se entrega. > - Asimetría creciente: el vendedor aprende cada vez más del comprador con el uso; el comprador apenas sabe qué está aprendiendo el vendedor. No existe todavía un equivalente de la patente para esta dirección del intercambio. > > #### Cómo se filtra el conocimiento > > - Los modelos aprenden del "exhaust": los prompts que escribe la gente, las herramientas que usan los agentes y, sobre todo, las correcciones humanas cuando el modelo se equivoca. > - Cada corrección destila know-how institucional: conocimiento que un competidor no podría comprar y que se fuga de forma casi imperceptible, traza a traza, corrección a corrección, eval a eval. > - Es conocimiento particular en el sentido de Hayek: de tiempo, lugar y circunstancia. Incluye qué piensa la organización, qué valora y cómo mide el éxito. > > #### La asimetría del régimen actual > > - Los proveedores de modelos entrenan con datos públicos amparados en el fair use, pero imponen términos restrictivos a la destilación y se reservan el derecho a aprender de los datos de uso e interacción de sus clientes. > - Si el aprendizaje fluye en una sola dirección, el valor económico converge hacia los dueños de la infraestructura de aprendizaje, no hacia los creadores del conocimiento. > - Propuesta: distribuir la infraestructura de aprendizaje a cada empresa para que controle su propio bucle. Cita de Alex Karp (Palantir): los clientes técnicos quieren poseer sus medios de producción - cómputo, modelos, stack de datos y alpha - sin que se transfieran a un tercero. > > #### El límite de confianza (trust boundary) > > - Definición: el lugar donde el capital humano y el capital de tokens de una organización se acumulan y mejoran juntos - datos, trazas, evals, pesos adaptados y memoria. > - Es una frontera dura: nada la cruza sin consentimiento, ni siquiera el exhaust de inteligencia. Incluye el derecho de la empresa a usar las salidas de los modelos para afinar o entrenar modelos propios y alinearlos con sus obligaciones de responsabilidad. > - Evolución: en la era de la nube las empresas acumulaban datos; en la era de la IA acumulan aprendizaje. La protección pasa de la información a los mecanismos con los que la organización aprende, se adapta y acumula inteligencia. > > #### Las cinco C > > - **Control**: crear evals privadas (definen qué es "bueno" dentro de la organización) y conservar la propiedad de memoria, trazas, feedback, decisiones y contexto institucional, además del derecho a usar las salidas de los modelos sobre tareas propias. > - **Capability**: construir entornos de aprendizaje propietarios dentro del tenant para entrenar o afinar modelos contra flujos de trabajo reales sin exponer el conocimiento de la empresa. > - **Choice**: capa de orquestación desacoplada de cualquier modelo concreto. Prueba: si retiran un modelo, ¿sigue la empresa pudiendo operar y optimizar sus evals con otros? ¿Permanece la capacidad "veterana" propia aunque desaparezca el modelo "generalista"? > - **Cost**: el desacople de la orquestación permite combinar contexto, modelos y tareas de la forma más eficiente y barata sin sacrificar calidad. > - **Compound**: las cuatro anteriores juntas crean un bucle de aprendizaje continuo (una máquina de subir la colina) que hace que la inversión en IA acumule valor para la empresa. # Contenido original: The Reverse Information Paradox Fuente: [The Reverse Information Paradox](https://snscratchpad.com/posts/reverse-information-paradox/) In the age of intelligence, how should firms protect their core IP? Nobel Prize winning economist Kenneth Arrow [famously described](https://www.nber.org/system/files/chapters/c2144/c2144.pdf) a paradox in the market for information. “Its value for the purchaser is not known until he has the information, but then he has in effect acquired it without cost.” In Arrow’s “Information Paradox,” the seller risks giving away knowledge in order to sell it. AI creates the reverse problem. In the AI age, the buyer risks giving away knowledge, just in order to use what they bought. You essentially pay for intelligence twice, once with money, and again with something even more valuable: the proprietary knowledge you must reveal to make that intelligence useful. The better you want the model to perform, the more of that knowledge you have to feed it! Over time, the information asymmetry becomes increasingly skewed. The seller learns more and more about you as you use what you purchased, while you learn very little about what the seller is learning in return. That is what I think of as the Reverse Information Paradox. Patents solve one aspect of Arrow’s paradox. They let an inventor disclose an idea without simply giving it away. The Reverse Information Paradox needs its own equivalent. This requires more than data protection. Models learn from “exhaust,” the prompts people write, the tools agents use, and especially the corrections people make when the model is wrong. Every correction is distilled into institutional know-how. It’s the kind of knowledge a competitor could never buy, and the kind that leaks almost imperceptibly: trace by trace, correction by correction, eval by eval. In consuming intelligence, you are creating intelligence. And what you create should belong to you. This is your particular intelligence, in Hayek’s sense: the knowledge of time, place, and circumstance that no one else can hold. It knows what you think, what you value, and how you measure success. While the great innovation that comes from model providers having fair use rights to train models on public data is needed, I find it ironic that the status quo is to then turn around and impose restrictive terms on distillation, and to reserve the right to learn from customer usage and interaction data. If learning flows in only one direction, economic value converges toward the owners of the learning infrastructure rather than the creators of the knowledge itself. Therefore, it’s imperative that we distribute the learning infrastructure to every firm so that they can control their own learning loop. As Alex Karp [put it](https://x.com/PalantirTech/status/2072326189079757277): “What the technical customers want is control over their compute, their models, their data stack, and their alpha. They want to know they own the means of production, and it’s not being transferred to someone else.” The current regime does precisely the transfer Karp and companies fear. That is why enterprises need a real trust boundary for their [human capital and token capital to compound](https://snscratchpad.com/posts/frontier-ecosystem/). It is where an organization’s data, traces, evals, adapted weights, and memory accumulate and improve together. And it is a hard boundary across which nothing crosses, not even the intelligence exhaust, without consent. Enterprises will demand the rights to use model outputs to fine tune and/or train their own models. I think of this as every firm’s right to align models to their enterprise accountability obligations. In the cloud era, enterprises accumulated data. In the AI era, they accumulate learning. The trust boundary must evolve accordingly, from protecting information to protecting the mechanisms through which organizations learn, adapt, and compound intelligence. There are a few things every enterprise must do to ensure this: Control: Create your private evals, because evals define what “good” looks like inside the organization. Also, retain ownership of your organization’s memory, traces, feedbacks, decisions, and institutional context, and ability to use outputs of models from your own tasks and queries. Capability: Build your own proprietary learning environments within the tenant boundary to train or tune models, where models learn against real workflows without exposing the company’s knowledge. Choice: Ensure the orchestration layer is decoupled from any single model. Ask yourself: If any one model you are using is taken away, do you still have the ability to operate and optimize for your evals using other models? Does your company “veteran” capability remain with you even if a given “generalist” model is taken away? Cost: By decoupling the orchestration layer, you are also able to bring together context, models, and tasks in the most efficient and cost-effective way without sacrificing quality. Compound: Bring these four together and you create your own continuous learning loop (i.e. hill climbing machine) that will allow your AI investments to compound the value of your firm. In other words, a company should be able to use a model without giving up the knowledge that makes it unique. That is the reverse information paradox we need to confront.