David Lazovsky y Preet Virk, tecnólogos con experiencia en ingeniería de semiconductores y fotónica, se dieron cuenta juntos hace varios años de que AI y las cargas de trabajo de aprendizaje automático se encontrarían rápidamente con un problema de «cambio de datos». Cada vez más, predijeron, sería más difícil mover datos hacia y desde el hardware informático, ya que los modelos de IA excedían lo que se podía mantener en el chip de cualquier chip de memoria.
Su solución, diseñada por Phil Winterbottom, ex investigador de Distinguished Bell Labs, era una tecnología de interconexión óptica para la transmisión de datos de computadora a computadora, de computadora a memoria y en el chip. Junto con Winterbottom, Lazovsky y Virk fundaron una startup, IA celestial, para comercializar la tecnología. Y ahora esta startup está atrayendo grandes patrocinadores.
Celestial AI anunció hoy que ha recaudado 100 millones de dólares en una ronda de financiación de Serie B dirigida por IAG Capital Partners, Koch Disruptive Technologies y Xora Innovation Fund de Temasek. El tramo, que eleva el total recaudado por Celestial AI a más de $ 165 millones, se utilizará para respaldar la producción de la plataforma fotónica de Celestial al expandir los departamentos de ingeniería técnica, ventas y marketing de la compañía, según el director ejecutivo Lazovsky.
Celestial tiene actualmente alrededor de 100 empleados, un número que, según Lazovsky, aumentará a 130 para fin de año.
“Hoy, el cálculo y la memoria están íntimamente ligados. La única forma de agregar más memoria de ancho de banda alto es agregar más cómputo, ya sea que se requiera o no el cómputo adicional”, dijo Lazovsky a TechCrunch por correo electrónico. «La tecnología de Celestial permite la desagregación de la memoria».
En un centro de datos, la memoria suele ser una de las más querido recursos, en parte porque no siempre se utilizan de manera eficiente. Debido a que la memoria está ligada a la computación, es difícil (ya veces imposible, debido a las restricciones de ancho de banda y la latencia extremadamente alta) que los operadores «desagregen» y agreguen memoria en el hardware del centro de datos.
De acuerdo a un interno Según un estudio de Microsoft, hasta el 25 % de la memoria de Azure queda «varada» o se deja fuera, después de que los núcleos de los servidores se arriendan a las máquinas virtuales. La reducción de esta memoria varada podría reducir los costos del centro de datos entre un 4% y un 5%, dice la compañía. estimado — ahorros potencialmente significativos en una operación multimillonaria.
Celestial, que comenzó como una empresa de cartera de The Engine, la firma de capital de riesgo escindida del MIT en 2016, ha desarrollado una solución aparente en su arquitectura basada en la fotónica, que escala a sistemas de múltiples chips. Mediante el uso de la luz para transferir datos, la tecnología de Celestial puede transmitir información tanto dentro de los chips como de chip a chip, lo que hace que tanto la memoria como la computación estén disponibles para la IA y otras cargas de trabajo.
Créditos de la imagen: Celestial
Celestial también afirma que su tecnología puede reducir la cantidad de electricidad necesaria para mover datos, aumentando indirectamente el rendimiento de un chip. Por lo general, los chips dedican parte de la electricidad que consumen al movimiento de datos entre sus circuitos, lo que quita electricidad que el chip puede dirigir a las tareas informáticas. La fotónica de Celestial reduce la potencia necesaria para el movimiento de datos, lo que permite que un chip, al menos en teoría, aumente su potencia informática.
La tecnología fotónica de Celestial, que es compatible con la mayoría de los estándares de interconexión de la industria (p. CXL, PCIe), ofrece 25 veces el ancho de banda y 10 veces menos latencia y consumo de energía que las alternativas ópticas, afirma la compañía.
“Con el crecimiento de AI , especialmente los modelos de lenguaje grande (LLM) y las cargas de trabajo del motor de recomendación, hay un movimiento hacia la computación acelerada”, dijo Lazovsky. «La cuestión clave en el futuro es la capacidad de la memoria, el ancho de banda de la memoria y el movimiento de datos, es decir, la interconectividad de chip a chip, que estamos abordando con el tejido fotónico de Celestial».
Celestial ofrece su producto de interconexión a través de un programa de licencias y dice que está comprometido con varios clientes de «primer nivel», incluidos hiperescaladores y empresas de procesadores y memorias.
El producto de interconexión parece ser la prioridad número uno para Celestial. Celestial vende su propio chip acelerador de IA, denominado Orion, basado en la arquitectura fotónica de la empresa. Pero como dijeron los inversores a TechCrunch en un artículo reciente para TC+, los chips fotónicos de IA aún tienen que superar los desafíos de ingeniería que los harían prácticos a escala. A menos que Celestial tropiece con avances en las áreas de conversión de datos a analógicos y regeneración de señales, los principales obstáculos para los chips fotónicos actuales, es poco probable que Orion sea mucho más avanzado que la competencia.
Además, Celestial tiene varios competidores en el mercado de circuitos integrados fotónicos que podría tendrá un valor de $ 26.42 mil millones para 2027.
Ayar Labs, que fabrica soluciones de chips basadas en principios de redes ópticas, ha recaudado más de 200 millones de dólares en capital de riesgo desde su fundación en 2015. Ravonus, otro rival, obtuvo recientemente una inversión de 73,9 millones de dólares.
Sin embargo, podría haber una consolidación en el espacio más amplio de interconexión óptica. Hace unos tres años, Marvell compró Inphi, una especialista en redes ópticas, por 10 mil millones de dólares. Después de un período de calma, el año pasado Microsoft adquirió Lumenisity, una startup que desarrolla cables ópticos de alta velocidad para centros de datos y redes de operadores.
Inphi y Luminensity apuntaban a diferentes casos de uso con su tecnología. Pero vale la pena señalar la locura de las grandes tecnologías en torno a la óptica y la fotónica.
“Nuestra tecnología fotónica es verdaderamente diferenciada y única con características superiores”, dijo Lazovsky. “Dado el crecimiento de las cargas de trabajo generativas de IA impulsadas por los LLM y las presiones que ejerce sobre las arquitecturas actuales de los centros de datos, la demanda de conectividad óptica está aumentando rápidamente para respaldar la transición de la infraestructura general de TI del centro de datos hacia la aceleración de la TI”.
Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures y Tyche Partners también participaron en Celestial Series B.