{"id":104664,"date":"2025-11-07T04:51:25","date_gmt":"2025-11-07T04:51:25","guid":{"rendered":"https:\/\/enfoquenoticioso.com\/?p=104664"},"modified":"2025-11-07T04:51:25","modified_gmt":"2025-11-07T04:51:25","slug":"la-industria-se-obsesiono-con-entrenar-modelos-de-ia-mientras-google-preparaba-su-jugada-maestra-chips-para-inferencia","status":"publish","type":"post","link":"https:\/\/enfoquenoticioso.com\/?p=104664","title":{"rendered":"La industria se obsesion\u00f3 con entrenar modelos de IA, mientras Google preparaba su jugada maestra: chips para inferencia"},"content":{"rendered":"
\n

Durante los \u00faltimos a\u00f1os lo verdaderamente relevante era entrenar modelos de IA para hacerlos mejores. Ahora que han madurado y el entrenamiento ya no escala de forma tan notable<\/a>, lo que m\u00e1s importa es la inferencia: que cuando usemos chatbots de IA estos funcionen r\u00e1pida y eficientemente. Google se dio cuenta de ese cambio de foco, y tiene chips precisamente preparados para ello.<\/p>\n

<\/p>\n

Ironwood<\/strong>. As\u00ed se llaman los nuevos chips de la c\u00e9lebre familia de Tensor Processing Units (TPUs) de Google. La empresa, que comenz\u00f3 a desarrollarlos en 2015 y lanz\u00f3 los primeros en 2018<\/a>, obtiene ahora frutos especialmente interesantes de todo ese esfuerzo: unos chips realmente prometedores no para entrenar modelos de IA, sino para que los usemos m\u00e1s r\u00e1pido y eficientemente que nunca.<\/p>\n

<\/p>\n

\n
\n
\n
\n
\n \"NVIDIA
\n <\/a>\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n

Inferencia, inferencia, inferencia<\/strong>. Estas \u00abTPUv7\u00bb estar\u00e1n disponibles en las pr\u00f3ximas semanas y se podr\u00e1n usar para entrenamiento de modelos de IA, pero est\u00e1n especialmente orientadas a \u00abservir\u00bb esos modelos a los usuarios para que puedan usarlos. Es la otra gran pata de los chips de IA, la realmente visible: una cosa es entrenar los modelos y otra muy distinta la de \u00abejecutarlos\u00bb para que respondan a las peticiones de los usuarios.<\/p>\n

<\/p>\n

Eficiencia y potencia por bandera<\/strong>. El avance en las prestaciones de estos chips de IA es enorme, al menos seg\u00fan Google. La empresa afirma que Ironwood ofrece cuatro veces m\u00e1s rendimiento que la generaci\u00f3n anterior tanto en entrenamiento como en inferencia, adem\u00e1s de que estamos ante \u00abel silicio personalizado m\u00e1s potente y eficiente en energ\u00eda hasta la fecha\u00bb. Google ya ha llegado a un acuerdo con Anthropic para que esta \u00faltima tenga acceso hasta a un mill\u00f3n de TPUs<\/a> para ejecutar Claude y servirlo a sus usuarios.<\/p>\n

<\/p>\n

La supercomputadoras de IA de Googl<\/strong>e<\/strong>. Estos chips son los componentes clave del llamado AI Hypercomputer, un sistema de supercomputaci\u00f3n integrado que seg\u00fan Google permite reducir en un 28% los costes de IT y un ROI del 353% a los clientes en tres a\u00f1os. O lo que es lo mismo: prometen que si usas estos chips, el retorno de la inversi\u00f3n se multiplicar\u00e1 por m\u00e1s de cuatro en ese plazo.<\/p>\n

<\/p>\n

Casi 10.000 chips interconectados<\/strong>. Los nuevos Ironwood est\u00e1n dotados adem\u00e1s de la capacidad de formar parte de unir fuerzas a lo grande. Es posible combinar hasta 9.216 de ellos en un \u00fanico nodo o pod, lo que te\u00f3ricamente hace que desaparezcan los cuellos de botella de los modelos m\u00e1s exigentes. La dimensi\u00f3n de este tipo de cluster es enorme, y permite disponer de hasta 1,77 Petabytes de memoria HBM compartida mientras que esos chips se comunican con un ancho de banda de 9,6 Tbps gracias al llmado Inter-Chip Interconnect (ICI).<\/p>\n

<\/p>\n

M\u00e1s FLOPS que nadie<\/strong>. La empresa tambi\u00e9n asegura que un \u00abpod Ironwood\u00bb (un cluster con esas 9.216 TPUs Ironwood) ofrece 118x m\u00e1s ExaFLOPS FP8 que su mejor competidor. Los FLOPS miden cu\u00e1ntas operaciones matem\u00e1ticas en coma flotante pueden resolver estos chips por segundo, lo que garantiza que b\u00e1sicamente cualquier carga de trabajo de IA va a ejecutarse en tiempos r\u00e9cord.<\/p>\n

<\/p>\n

NVIDIA cada vez tiene m\u00e1s competencia (y eso es bueno)<\/strong>. Los chips de Google son la demostraci\u00f3n de esa clara vocaci\u00f3n de las empresas de evitar demasiadas dependencias de terceros. Google tiene todos los ingredientes para hacerlo, y sus TPUv7 son la demostraci\u00f3n de ello. No es la \u00fanica<\/a>, y desde hace tiempo muchas otras empresas de IA buscan crear sus propios chips. El dominio de NVIDIA sigue siendo claro<\/a>, pero la empresa tiene un peque\u00f1o problema.<\/p>\n

<\/p>\n

\n
\n
\n
\n <\/p>\n
\n
\n \"Xataka\"\/
\n \"Xataka\"<\/p><\/div>\n<\/p><\/div>\n

<\/a>\n <\/div>\n

\n

\u00a1Todav\u00eda est\u00e1s a tiempo de conseguir tus entradas<\/strong> para la gala de los Premios Xataka NordVPN 2025 <\/strong>el 20 de noviembre en Madrid!<\/strong> Acomp\u00e1\u00f1anos y descubre los mejores productos tecnol\u00f3gicos del a\u00f1o en un evento gratuito lleno de gadgets, humor y sorpresas.\u00a0<\/p>\n<\/p><\/div>\n<\/p><\/div>\n

Consejo ofrecido por la marca<\/span>\n <\/div>\n<\/div>\n

En inferencia CUDA ya no es tan vital<\/strong>. Una vez que el modelo de IA ya ha sido entrenado, la inferencia opera bajo reglas de juego diferentes a las del entrenamiento. El soporte CUDA sigue siendo un factor relevante<\/a>, pero su importancia en la inferencia es mucho menor. La inferencia se centra en obtener la respuesta m\u00e1s r\u00e1pida posible. Aqu\u00ed los modelos \u00abse compilan\u00bb y pueden funcionar de forma \u00f3ptima en el hardware de destino. Puede que eso haga que esa relevancia de NVIDIA pierda enteros ante alternativas como la de Google.<\/p>\n

<\/p>\n

En Xataka | Cuando eres OpenAI y no puedes comprar suficientes GPU, la soluci\u00f3n es obvia: fabricar las tuyas<\/a><\/p>\n<\/p><\/div>\n

Ver fuente<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Durante los \u00faltimos a\u00f1os lo verdaderamente relevante era entrenar modelos de IA para hacerlos mejores. Ahora que han madurado y el entrenamiento ya no escala de forma tan notable, lo que m\u00e1s importa es la inferencia: que cuando usemos chatbots de IA estos funcionen r\u00e1pida y eficientemente. Google se dio cuenta de ese cambio de […]<\/p>\n","protected":false},"author":2,"featured_media":104665,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-104664","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/104664","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=104664"}],"version-history":[{"count":0,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/posts\/104664\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=\/wp\/v2\/media\/104665"}],"wp:attachment":[{"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=104664"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=104664"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/enfoquenoticioso.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=104664"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}