AI slutledning kostar redan mer än träning. Det är ett paradigmskifte för sektorn (och dåligt för dig)
Sedan ChatGPT blev vad det är och AI började nå alla, eftersom det innan var något reserverat för forskning inom olika områden, har ett ord följt oss: träning. Från den utbildningen visste vi att det var dyrt på grund av den utrustning som behövs för att utföra den, men också på grund av de natur- och energiresurser som den förbrukar (liksom all kunskap som stulits och förstördes på vägen), men för inte så länge sedan verkar det som att vi närmar oss en ny era av AI: slutledningstiden. En av de senaste uppskattningarna är att utgifterna för infrastruktur 2026 för slutledning för första gången kommer att överstiga utgifterna för utbildning.
Och det kommer inte att sluta.
Blomstrande slutledning. En nyligen publicerad rapport från Gartner indikerar att de globala utgifterna för AI-optimerad IaaS (ett undersegment av IaaS där molnleverantören erbjuder, på begäran, högpresterande datorresurser designade för utbildning och slutledning av storskaliga AI-modeller) kommer att växa med 96 % i år och nå 42 miljarder dollar. Det är 96 % mer än förra året, och det intressanta är hur det kommer att fördelas: 23,3 miljarder dollar i slutledning mot 19 miljarder dollar i utbildning.
Inferens kommer för första gången att ha den största andelen av denna investering, som väger in på 55 % av IaaS-budgeten för i år.
Gartner ger två andra uppgifter. Den första är uppskattningen att IaaS-optimeringsmarknaden kommer att öka 2027 till 66,1 miljarder dollar och dessutom att dessa 42 miljarder i AI-optimerad IaaS till 2026 knappt kommer att representera 15 % av den globala IaaS-marknaden i år, belägen på 287,3 miljarder dollar. I Xataka Bilden som sammanfattar en era: miljontals böcker i ett lager som väntar på att bli förstört efter att ha tränat en AI-paradigmförändring.
Detta är intressant eftersom det inte bara öppnar dörren till andra typer av AI-plattformar. Träning behöver framför allt muskler, men slutledning kräver snabbhet och låg latens eftersom det är systemet som beräknar svaret det ger på en användares fråga. I ekonomiska termer innebär utbildning av en modell en hög initial kostnad, men den är begränsad.
Företag köper utrustningen, skalar sina datacenter och genomför utbildningen. När den här utbildningen är klar är det dags att dra slutsatser, och den slutsatsen innebär en återkommande kostnad som växer med varje användarinteraktion. I den agentiska era som vi också går in i, multipliceras dessa förfrågningar med många, och det finns redan analyser som uppskattar att slutsatser kommer att stå för mellan 80 % och 90 % av den totala livskostnaden för ett AI-system.
Resterande procent kommer att vara träning. Däri ligger paradigmskiftet, då AI går från att vara ett "investeringsprojekt" till att bli en "pågående kostnad". För jättar som Meta, Google, Amazon eller Microsoft innebär det att AI inte längre bara är en annan del av verksamheten, utan en grundläggande del av den.
Sam Altman har fått frågan om att träna en AI inte är ineffektivt. Han har svarat att "träna" en människa är mer att tänka om molnet. I sina planer måste dessa jättar strukturera budgeten annorlunda, med fokus på kostnaden per token, energieffektivitet och latens.
Den borde sluta skryta så mycket om storleken på en modell eftersom det inte är det som kommer att sätta tonen från och med nu. Och, naturligtvis, slutsatser som dominerar landskapet tvingar molntjänstleverantörer att designa om sina system. Det handlar som sagt inte längre bara om makt, så datacenter kommer att behöva göras om för att vara effektivare i att betjäna modeller.
Det är här snabbare minne, högre bandbredd och effektivitet kommer att väga lika mycket eller mer än rå datorkraft. Gartners uppskattning är att datacenterarkitekturer kommer att behöva anpassa sig för att vara tätare i acceleratorer, men verksamheten kommer också att behöva förändras för att erbjuda mer aggressiva användningshastigheter. I Engadget Mycket av världsekonomin består just nu av att Google och Amazon köper grafikprocessorer: 95 % är inaktiva Andra typer av enheter.
Även om detta paradigmskifte redan ses i stora datacenter, med kinesiska företag som designar sina system för att vara slutledningsess och Nvidia masstillverkar sin Vera Rubin-plattform, på "konsumtions"-nivå (i citattecken, eftersom det är mycket dyrt), ser vi också att det finns nya enheter mer designade för den lokala slutsatsen. Det finns DGX Spark, en unik Nvidia-arbetsstation med fantastisk kraft och slutledningskapacitet bortom allt tvivel, men i bärbara datorer har vi motsvarigheten från Microsoft (i allians med Nvidia). Det är att förvänta sig att, med framväxten av AI och dra fördel av det faktum att de kommer att lansera dyr utrustning eftersom de inte har något annat val, kommer PC- och bärbara datortillverkare att börja införliva NPU:er, processorer och GPU:er som är designade för att köra modeller effektivt och lokalt som inte är så beroende av molnet, utan förlitar sig på det för mer krävande "samtal". "99% av min trafik är nu från bots": AI fortsätter att ta allt från internet Den negativa sidan (du känner redan till den här).
Problemet är att Big Techs aptit på slutsatser får komponentmarknaden att gå ner i sjön. Vi har redan tagit itu med det vid otaliga tillfällen under de senaste månaderna (även om det aldrig räcker för att belysa vem och varför konsumentmarknaden förstörs), men eftersom de största DRAM-tillverkarna (Samsung, Micron och SK Hynix) dedikerar all sin produktion till AI- och HBM- och DDR5-serverminne, på användarnivå kan vi inte välja konkurrenskraftiga priser. Inte bara i RAM-minne, utan även i NAND-lagring som SSD, i konventionell lagring som hårddiskar för att sätta upp en hemmagjord NAS och sluta beroende av molnet för allt och även andra komponenter som grafikkort, processorer och moderkort.
Resultatet är dyrare komponenter, men även mobiltelefoner, konsoler och vilken enhet som helst med oöverkomliga priser. I Xataka Den bästa tiden att köpa en elektronisk enhet var igår. Den näst bästa tiden är idag.
Utöver hårdvaran finns priset på själva AI:n. Tänk inte så mycket på användaren som vill söka efter ett recept eller en träningstabell (innehåll som görs av människor både på webben och på YouTube, utan att behöva ta till en AI): tänk på företag. Eftersom de som erbjuder tjänsten kommer att ha den pågående kostnaden och kommer att behöva vara mer aggressiva för att tjäna pengar, kan vi i slutändan se lägre tokengränser, ännu fler prenumerationsnivåer och till och med dynamisk prissättning baserad på systembelastning.
Framtiden ser spännande ut (och en AI skulle inte upptäcka sarkasmen i den här frasen). Bild | NVIDIA i Xataka | Nvidia har precis lanserat sin egen gratis AI-modell. Att göra det just nu är helt logiskt
Originalkälla
Publicerad av Xataka
12 august 2026, 17:01
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
La inferencia de IA ya gasta más que el entrenamiento. Es un cambio de paradigma del sector (y malo para ti)
Beskrivning
Desde que ChatGPT empezó a ser lo que es y la IA comenzó a llegar a todo el mundo, ya que antes era algo reservado a la investigación en diferentes ámbitos, una palabra nos ha acompañado: entrenamiento. De ese entrenamiento sabíamos que era algo costoso por los equipos que se necesitaban para llevarlo a cabo, pero también por los recursos naturales y energéticos que consume (así como todo el conocimiento robado y destruido por el camino), pero desde hace no tanto, parece que nos acercamos a una nueva era de la IA: la de la inferencia. Una de las estimaciones más recientes es que el gasto de infraestructura en 2026 para inferencia superará, por primera vez, al de entrenamiento. Y no se va a detener. Inferencia en auge. En un reciente informe publicado por Gartner se apunta que el gasto mundial en AI-optimized IaaS (un subsegmento de IaaS en el que el proveedor de nube ofrece, bajo demanda, recursos de cómputo de alto rendimiento pensados para entrenamiento e inferencia de modelos de IA a gran escala) crecerá en un 96% este año, llegando a los 42.000 millones de dólares. Supone un 96% más que el año pasado, y lo interesante es cómo se repartirá: 23.300 millones de dólares en inferencia frente a 19.000 millones en entrenamiento. La inferencia será, por primera vez, la que tenga la mayor parte del pastel de esta inversión, pesando en un 55% del presupuesto de IaaS para este año. Gartner da otros dos datos. El primero es la estimación de que el mercado de optimización de IaaS aumentará en 2027 hasta los 66.100 millones de dólares y, además, que esos 42.000 millones en en AI-optimized IaaS para este 2026 apenas representarán un 15% del mercado global de IaaS este año, situado en los 287.300 millones de dólares. En Xataka La imagen que resume una era: millones de libros en un almacén esperando a ser destruidos tras entrenar a una IA Cambio de paradigma. Esto es interesante porque no abre la puerta únicamente a otro tipo de plataformas de IA. El entrenamiento necesita músculo sobre todo, pero la inferencia requiere velocidad y baja latencia porque es el sistema que calcula la respuesta que brinda a la pregunta de un usuario. En términos económicos, entrenar un modelo supone un coste elevado de inicio, pero finito. Las empresas compran los equipos, escalan sus centros de datos y realizan el entrenamiento. Una vez ese entrenamiento está listo, toca inferir, y esa inferencia supone un coste recurrente que crece con cada interacción de usuarios. En la era agéntica en la que también estamos entrando, esas peticiones se multiplican por mucho, y ya hay análisis que estiman que la inferencia llegará a suponer entre el 80% y el 90% del coste total de vida de un sistema de IA. El porcentaje restante será entrenamiento. Ahí está el cambio de paradigma, ya que la IA pasa de ser un "proyecto de inversión" para convertirse en un "gasto continuo". Para las gigantes como Meta, Google, Amazon o Microsoft, implica que la IA ya no es algo más del negocio, sino una parte fundamental del mismo. A Sam Altman le han preguntado si entrenar a una IA no es ineficiente. Ha respondido que "entrenar" a un humano lo es más Repensando la nube. En los planes, esos gigantes deben estructurar de otra forma el presupuesto, poniendo el foco en el coste por token, la eficiencia energética y la latencia. Se debería acabar presumir tanto del tamaño de un modelo porque no es lo que marcará la pauta a partir de ahora. Y, claro, que la inferencia domine el panorama fuerza a los proveedores de servicios en la nube a rediseñar sus sistemas. Como decía, ya no es sólo potencia, por lo que los centros de datos tendrán que rediseñarse para ser más eficientes sirviendo modelos. Es ahí donde la memoria más rápida, el mayor ancho de banda y la eficiencia pesarán tanto o más que la potencia bruta de cómputo. La estimación de Gartner es que las arquitecturas de los centros de datos tendrán que adaptarse para ser más densas en aceleradores, pero también el negocio tendrá que cambiar para ofrecer unas tarifas por uso más agresiva. En Xataka Buena parte de la economía mundial ahora mismo consiste en Google y Amazon comprando GPUs: el 95% están inactivas Otro tipo de dispositivos. Aunque ese cambio de paradigma ya se está viendo en los grandes centros de datos, con empresas chinas diseñando sus sistemas para que sean ases de la inferencia y Nvidia fabricando en masa su plataforma Vera Rubin, a nivel de "consumo" (entre comillas, porque es carísimo), también estamos viendo que hay nuevos dispositivos más pensados para esa inferencia local. Ahí está DGX Spark, una singular estación de trabajo de Nvidia con una potencia asombrosa y una capacidad de inferencia fuera de toda duda, pero en portátiles tenemos la contrapartida por parte de Microsoft (en alianza con Nvidia). Es de esperar que, con el auge de la IA y aprovechando que sí o sí van a lanzar equipos caros porque no les queda otra, los fabricantes de PC y portátiles se lancen a incorporar NPUs, CPUs y GPUs pensadas para ejecutar modelos de forma eficiente y local que no dependa tanto de la nube, pero que se apoye en ella para 'llamadas' más exigentes. "El 99% de mi tráfico ahora es de bots": la IA sigue llevándoselo todo de internet El lado negativo (esta ya te la sabes). El problema es que ese apetito de las Big Tech por la inferencia está provocando que el mercado de componentes se vaya al traste. Ya lo hemos abordado en innumerables ocasiones estos últimos meses (aunque nunca sobra poner en valor quién y para qué se está destruyendo el mercado de consumo), pero como los principales fabricantes de DRAM (Samsung, Micron y SK Hynix) están dedicando toda su producción a la IA y a la memoria HBM y DDR5 de servidor, a nivel de usuarios no podemos optar a precios competitivos. No sólo en memoria RAM, tampoco en almacenamiento NAND como pueden ser los SSD, en almacenamiento convencional como pueden ser los HDD para montar un NAS casero y dejar de depender de la nube para todo y hasta en otros componentes como tarjetas gráficas, procesadores y placas base. El resultado son componentes más caros, pero también móviles, consolas y cualquier dispositivo con precios prohibitivos. En Xataka El mejor momento para comprarte un dispositivo electrónico fue ayer. El segundo mejor momento es hoy Más allá del hardware, está el precio de la propia IA. No pienses tanto en usuario que quiere buscar una receta o una tabla de ejercicio (contenido que está hecho por humanos tanto en la web como en YouTube, sin necesidad de acudir a una IA): piensa en empresas. Como las que ofrecen el servicio tendrán ese gasto continuo y necesitarán ser más agresivos para ganar dinero, es posible que acabemos viendo límites de tokens más bajos, aún más escalones de suscripción y hasta precios dinámicos según la carga del sistema. El futuro pinta apasionante (y una IA no detectaría el sarcasmo de esta frase). Imagen | NVIDIA En Xataka | Nvidia acaba de lanzar su propio modelo de IA gratuito. Que lo haga justo ahora tiene todo el sentido (function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName('head')[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement('script'); instagramScript.src = 'https://platform.instagram.com/en_US/embeds.js'; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })(); - La noticia La inferencia de IA ya gasta más que el entrenamiento. Es un cambio de paradigma del sector (y malo para ti) fue publicada originalmente en Xataka por Alejandro Alcolea .
