Tecnología

Sam Altman cree que ejecutar IA local es «una terrible asignación de un recurso escaso»

John Collison es el cofundador de la plataforma Stripe y tiene un podcast llamado Cheeky Pint en el que altos mandos de empresas tecnológicas pasan a hablar de sus cosas. Un ejemplo reciente es el de Susan Li, CFO de Meta. Sam Altman, por su parte, no necesita presentación, y hace unos días pasó por el programa de Collison para hablar de varios temas. Entre ellos, uno que parece quitarle el sueño: que cada usuario pueda montar una IA local comentario del mandamás de OpenAI sobre la actualidad tecnológica en la que hay usuarios tomando modelos abiertos y ejecutándolos en su propio hardware sin depender de la nube de nadie más. Para Altman, la inferencia local es un terrible desperdicio de un recurso tan escaso como la memoria DRAM:

«La inferencia local es una terrible asignación de recursos escasos. Mucha gente quiere inferencia local y, de algún modo, asume que el problema está resuelto porque tenemos modelos de código abierto que podemos ejecutar en nuestros ordenadores y, así, no necesitar todas esas cosas que permiten los centros de datos.

Pero, desde una perspectiva de asignación global, en realidad es bastante terrible que todo el mundo tenga su propio ordenador con una DRAM que se utiliza apenas el 5% del tiempo cuando estamos en un momento en el que éste es un recurso tan limitado.

En ese entorno en el que ese suministro crítico es tan restringido, quieres la máxima concentración en la nube. Pero, de algún modo, la idea de la gente es la contraria.»

Long story short: si tienes una IA local, estás desperdiciando recursos que podrían haber ido para alimentar un centro de datos, según Altman Lo de la DRAM. La cifra del 5% es de Altman y por eso estima que es un desperdicio que cada uno tenga algo así en su casa cuando, en un entorno con tan poca oferta, lo que se busca es la máxima utilización que sólo se consigue en un centro de datos. Claro, esa es su perspectiva, ya que en la otra cara de la moneda está esa gente que tiene su «propia IA» gracias a que los modelos abiertos ya resuelven el problema que quieren resolver y, además, buscan una mayor privacidad que la que se consigue usando ChatGPTDesde el punto de vista del CEO de OpenAI, esta afirmación tiene todo el sentido debido a que (y esto es algo que nos afecta a todos y, en especial, a los consumidores) en un entorno en el que Micron, Samsung o SK Hynix, que son los que controlan la producción de DRAM a nivel global no pueden aumentar esa producción al ritmo que los hiperescaladores necesitan, toda la capacidad mundial debería ir en estos momentos a los centros de datos, y no a los equipos caseros.

Nadie lo habría adivinado hace cinco años cuando los precios estaban por los suelos, pero la DRAM es un bien crítico y escaso en estos momentos, con precios que, según TrendForce, aumentaron entre un 90% y un 95% en el primer trimestre de 2026… y nada apunta a que vayan a caer a corto plazo. Más bien lo contrario

Related posts

Grok 4.6 acaba de entrar en el club de los mejores modelos del mundo. Y lo ha hecho compitiendo en precio

Alba Rueda

«Sueño de la humanidad»: China desarrolla un sistema para obtener agua potable de la atmósfera

Manuel Cotillo

Asus trae a España sus portátiles ProArt con NVIDIA RTX Spark: IA local y sin suscripciones para creadores

Alba Rueda

Leave a Comment

Este sitio web utiliza cookies para mejorar tu experiencia. Damos por sentado que estás de acuerdo, pero puedes desactivarlas si lo deseas. Acceptar Read More

Privacy & Cookies Policy