美国加利福尼亚州圣克拉拉市的Celestial AI公司是光子结构的创造者,该公司在B轮融资中获得了1亿美元的资金,由IAG Capital Partners、Koch Disruptive Technologies (KDT)和淡马锡的Xora创新基金领投。
本轮融资的其他主要投资者包括三星Catalyst、Smart Global Holdings (SGH)、保时捷汽车控股有限公司(Porsche automobile Holding SE)、the Engine Fund和imec。扩张、M Ventures和Tyche Partners。Celestial AI的光子结构技术平台提供的光学连接性能水平据称比现有技术产品先进十年。
Celestial AI表示,电子连接限制数据传输的时代正在结束,因为光学互连成为加速计算的基础构建块。当今先进的人工智能(AI)模型需要指数级增长的内存容量和带宽,因为大型语言模型(LLM)(包括用于ChatGPT和推荐引擎的GPT-4)是内存约束而不是计算约束。云服务提供商(csp)和超大规模数据中心无法将内存扩展与计算分离(通常被称为“内存墙”挑战)。低带宽、高延迟和高功率电气互连是人工智能盈利商业模式增长和人工智能进步的重要障碍。因此,光计算互连(OCI)被认为是实现可扩展数据中心内存分解和加速计算的唯一可行解决方案。此外,光互联的池存储系统解决了导致数据中心经济效率低下的最大因素——搁浅内存。
在与超大规模、人工智能计算和内存提供商密切合作后,Celestial AI推出了光子结构(Photonic Fabric),这是一种用于分解、百亿亿次计算和内存集群的光学互连。据说光子结构不受封装海滨限制的约束,可以将数据传输到计算芯片上的任何位置,直接传输到消费点。光子结构提供的带宽比任何光互连替代方案(如共封装光学器件(CPO))高25倍,延迟和功耗降低10倍以上。
Celestial AI的创始人兼首席执行官Dave Lazovsky指出:“如今在通用计算系统上运行的生成式人工智能和推荐引擎已经开始对业务流程、产品和服务产生显著影响。”“随着全球数据中心基础设施从通用到加速计算系统的转变,未来几年将发生快速转变。下一波数据中心基础设施的架构旨在通过光学互连实现内存和计算资源的分解,从而在人工智能工作负载效率方面取得巨大进步。”
Celestial AI正在构建一个强大的光子结构生态系统,由AI计算、内存供应商、超大规模供应商和大批量商业供应链合作伙伴组成。该技术与现有的行业标准兼容,包括CXL、PCIe、UCIe、JEDEC HBM和专有的电气通信链路。Celestial AI通过技术许可计划提供其光子结构光学互连技术和经过硅验证的IP。
“Celestial AI开发了一种变革性的光连接能力,将在高性能计算的性能和能源效率方面实现跨越式的进步,释放出生成式AI和其他复杂工作负载的潜力,”Koch Disruptive Technologies的创始人兼首席执行官Chase Koch评论道。他认为:“这可能是一个真正颠覆高级计算的时刻。”
Celestial AI提供了一套光子结构技术解决方案,以提供独立的计算和内存资源可扩展性。客户可以通过可授权的IP将光子结构作为其现有计算平台(gpu、cpu和加速器)的扩展,也可以通过Celestial AI的Orion AI加速器利用光子结构的全部端到端优势。光子结构还支持业界首个光互联高容量、高带宽可组合存储系统的生产部署。
News: Optoelectronics