Podcast Episode Details
Back to Podcast Episodes
👉 Project Battlematrix – LLM Scaler 1.0: el futuro de la inferencia de LLM en estaciones de trabajo
En este episodio profundizo en todo lo que sabemos sobre Project Battlematrix – LLM Scaler 1.0, la nueva arquitectura de Intel diseñada para escalar modelos de lenguaje grandes en estaciones de trabajo multi-GPU. Analizo su hardware, el stack Linux optimizado, técnicas como la cuantización por capa, paralelismo de datos y pipeline, asà como sus casos de uso en empresas e investigación. Una charla extensa para comprender hacia dónde va la infraestructura de IA generativa.
Published on 6Â days, 14Â hours ago