Los rivales de Nvidia se movilizan en un esfuerzo por romper el dominio de la compañía en el mercado de chips de inteligencia artificial (IA), recaudando cientos de millones de dólares y lanzando nuevos productos mientras buscan compartir los beneficios de un auge de la tecnología.
Cerebras, d-Matrix y Groq forman parte de un grupo de empresas más pequeñas que tienen el objetivo de arrebatar una porción del multimillonario mercado de chips de IA a Nvidia, que hasta ahora domina la primera ola de inversión con sus unidades de procesamiento gráfico o GPU.
Ellos aprovechan una ola de expectativas de que la demanda de “inferencia” de inteligencia artificial —la potencia de cómputo necesaria para que modelos como ChatGPT, de OpenAI, y Gemini, de Google, generen respuestas a consultas— crezca de manera exponencial a medida que los chatbots y otras aplicaciones de IA generativa se vuelvan más populares.
Las GPU Hopper de Nvidia, adecuadas para la tarea de entrenar a los mejores modelos de IA, que requiere muchos recursos, se han convertido en uno de los productos más populares del mundo.
Mientras, Cerebras, d-Matrix y Groq se enfocan en chips más baratos y especializados diseñados para ejecutar modelos de inteligencia artificial.
Cerebras anunció su nueva plataforma, Cerebras Inference, basada en su chip CS-3, que tiene el tamaño de un plato de comida. Cerebras afirma que su solución es 20 veces más rápida que la generación actual de Hopper en inferencia de IA, a una fracción del precio. Cerebras cita pruebas realizadas por el proveedor de análisis de referencia Artificial Analysis.
“La forma de vencer al gorila de 800 libras es sacando al mercado un producto mucho mejor”, dijo el director ejecutivo de Cerebras, Andrew Feldman, a Financial Times. “En mi experiencia, los mejores productos suelen ganar, y logramos arrebatar clientes importantes a (Nvidia)”.
El CS-3 evita el uso de un chip de memoria independiente de alto ancho de banda, que es el que utiliza Nvidia. En su lugar, ofrece una arquitectura alternativa con memoria integrada directamente.
Las limitaciones en el ancho de banda de la memoria, dijo Feldman, son una restricción fundamental en la velocidad de inferencia de un chip de IA. La combinación de lógica y memoria en una sola unidad grande ofrece resultados que son “órdenes de magnitud más rápidos”, dijo.
d-Matrix, fundada por Sid Sheth en 2019, también está iniciando una nueva ronda de financiamiento a menos de un año de recaudar 110 millones de dólares en una ronda de financiamiento de serie B liderada por el fondo estatal de Singapur, Temasek. La compañía busca recaudar 200 millones de dólares o más a finales de este año o principios del próximo, según Sheth. La firma se encuentra en las primeras etapas del proceso de recaudación de fondos y la cifra final puede cambiar.
d-Matrix planea un lanzamiento a gran escala de su propia plataforma de chips, Corsair, a finales de este año. Sheth dijo que la firma combina sus productos con software abierto como Triton, que compite con Cuda, de Nvidia, una plataforma utilizada ampliamente que ofrece las herramientas para que los desarrolladores creen aplicaciones de inteligencia artificial y optimicen el desempeño de sus chips.
Los principales clientes de Nvidia respaldan el uso de software abierto como Triton. “A los desarrolladores de aplicaciones no les gusta que los limiten a una herramienta en particular”, dijo Sheth, y “la gente se está dando cuenta de que Nvidia tiene un dominio absoluto sobre Cuda en el lado del entrenamiento”.
Groq, otro competidor que dirige un antiguo miembro fundador del equipo de la unidad de procesamiento tensorial de Google, este mes recaudó 640 millones de dólares de inversionistas liderados por BlackRock Private Equity Partners, con una valoración de 2 mil 800 millones.
Un capitalista de riesgo advirtió que, a pesar del bombo publicitario en torno al sector, las startups de procesadores han tenido dificultades para entrar en el mercado.
SoftBank compró el mes pasado al fabricante de chips Graphcore por poco más de 600 millones de dólares, menos de los aproximadamente 700 millones que la empresa había recaudado en capital de riesgo desde su fundación en 2016, según personas familiarizadas con el acuerdo.
Groq y Cerebras también se fundaron en 2016. “Ha habido un deseo casi insaciable por parte de los inversionistas públicos de encontrar y respaldar al próximo Nvidia”, señaló Peter Hébert, cofundador y socio gerente de la empresa de capital riesgo Lux Capital.
“No solamente se trata de perseguir la última tendencia. El impulso también beneficia a varias startups de chips financiadas por capital de riesgo que se están esforzando desde hace casi una década”, agregó.