La compañía presenta sus TPU 8tx y 8i Max, versiones basadas en la presente generación enfocadas en la computación con datos sensibles y cargas de trabajo exigentes en memoria
Google está ampliando su familia de procesadores de IA de diseño propio con dos nuevas variantes, una diseñada para computación que requiera proteger datos sensibles y la otra para cargas de trabajo exigentes en memoria. La compañía quiere seguir ampliando su oferta de chips en un contexto en el que Nvidia ha estado dominando todos estos años. Y con estos chips ya van cuatro configuraciones de sus TPUs en un solo año, todo un hito para la compañía.
Novedades. Los dos sistemas son el TPU 8tx y el TPU 8i Max. Se unen al TPU 8t, diseñado para el entrenamiento, y al TPU 8i, diseñado para el razonamiento, que la compañía presentó durante el Google Cloud Next de abril. Google afirma que el 8t ofrece un rendimiento de entrenamiento hasta 2,7 veces superior y el 8i una relación precio-rendimiento de inferencia hasta un 80% mejor en comparación con la generación anterior.
Google no ha revelado los precios ni las fechas exactas de lanzamiento, aunque su responsable de chips, Amin Vahdat, declaraba a Bloomberg que las nuevas variantes estarán disponibles el año que viene.
Por qué es importante. Tal y como comparten desde Bloomberg, Google ha estado lanzando nuevas TPUs una vez cada dos años. Esta vez ya van cuatro configuraciones en una misma generación, lo que demuestra el interés de la compañía por conseguir una mayor cuota en el mercado de hardware para IA. Desde hace tiempo, Nvidia ha sido la que vendía y cortaba el pescado. Pero las TPUs de Google entran con fuerza cada vez más. Vahdat señalaba que la estrategia responde a la tesis de que “el futuro va a girar en torno a la especialización”. En lugar de un único chip para todo, argumenta, las versiones personalizadas “aportan mucho más valor”.
La opción segura. El TPU 8tx está dirigido a gobiernos e industrias reguladas que desean ejecutar modelos y agentes de IA con datos confidenciales. Google explica que los datos suelen estar cifrados en el almacenamiento y en tránsito, pero deben desbloquearse en la memoria mientras un ordenador los procesa. La compañía afirma que el 8tx integra la protección directamente en el hardware, manteniendo los datos y los pesos de los modelos aislados incluso durante su uso.
Esta versión utiliza el mismo silicio que el TPU 8t y se combina con procesadores AMD EPYC de quinta generación. Además, Google afirma que ofrece una latencia hasta dos veces menor que el 8t, con una penalización de rendimiento casi nula ante esa seguridad adicional. La compañía también asegura que los clientes pueden ajustar los modelos con datos privados sin necesidad de moverlos entre clústeres.
La opción de memoria. El TPU 8i Max se centra en lo que Google denomina el “muro de la memoria”, es decir, cuando muchos agentes de inteligencia artificial trabajan en toda una base de código o en horas de vídeo, el ancho de banda de la memoria se convierte en el cuello de botella. La respuesta de Google consiste en colocar dos chips TPU 8i en un solo paquete. En comparación con el 8i estándar, afirma que esto duplica la capacidad de cálculo, la memoria SRAM integrada y el ancho de banda de la memoria. Asimismo, permite integrar el doble de silicio en el mismo espacio de rack, lo que permitiría a los centros de datos contar con más chips y más potencia en la misma superficie.
Vahdat contaba a Bloomberg que el sistema está pensado para aplicaciones de contexto largo, como el descubrimiento de fármacos o complejos problemas matemáticos, así como para programación.
Versiones mejoradas. Realmente no son chips completamente nuevos, pues el propio Vahdat indicaba al medio que ambas variantes son reconfiguraciones de silicio ya existente, adaptadas a las solicitudes de los clientes. Un chip nuevo requiere años de diseño y fabricación, mientras que un sistema construido a su alrededor (redes, memoria, empaquetado) puede ajustarse en cuestión de meses. Google prefiere aprovechar este enfoque para seguirle el ritmo al software de IA.
El mercado para las TPUs de Google. Según Bloomberg Intelligence, espera que las ventas de TPU, incluyendo el hardware y el software relacionados, superen los 135.000 millones de dólares para 2028, frente a los estimados 12.000 millones de este año. Entre los clientes se encuentran Apple, Meta y Oracle, que ha indicado que sus clientes en la nube podrán utilizar las TPU a partir del próximo año. Anthropic tiene la opción de comprar hasta 150.000 millones de dólares en TPU entre 2028 y 2031, según un documento regulatorio citado por Bloomberg, y el mismo medio ha informado de que OpenAI también planea adquirirlas.
Los obstáculos. Según comparte Bloomberg, haciendo alusión a la última presentación de resultados de Google, todas las TPU de las que dispone la compañía ya están contratadas por un cliente. Persisten la escasez de memoria y de capacidad de fabricación, y según los informes, Google está ampliando su base de proveedores más allá de Broadcom, incluyendo un acuerdo con Marvell.
También está surgiendo competencia, pues Tenspresso, una startup fundada por dos exingenieros de TPU, se centra en la inferencia de contexto largo, aunque Bloomberg informa de que su chip se encuentra a un año como mínimo de completar su diseño. OpenAI y Anthropic también están desarrollando chips propios con veteranos de TPU.
Imagen de portada | Google
Ver todos los comentarios en https://www.xataka.com
VER 0 Comentario