Nvidia在数据中心领域的优势之一是,它不仅提供用于AI和HPC计算的尖端GPU,还可以使用自己的硬件和软件有效地扩展数据中心的处理器数量。如果你的GPU速度较慢,软件堆栈不如Nvidia的CUDA那么普及,你怎么能打败Nvidia?好吧,扩展你自己的横向扩展能力。根据《科学早报》的报道,这正是中国GPU制造商MooresThreads所做的。
MooreThreads已针对AI升级了其KUAE数据中心服务器,可在单个集群中连接多达10,000个GPU。KUAE数据中心服务器集成了八个MTTS4000GPU,这些GPU使用专为训练和运行大型语言模型(LLM)而设计的专有MTLink技术进行互连。这些GPU基于MUSA架构,具有128个张量核心和48GBGDDR6内存,带宽为768GB/s。10,000个GPU集群拥有1,280,000个张量核心,但实际性能尚不清楚,因为性能扩展取决于许多因素。
此举凸显了MooreThreads尽管被列入美国商务部的实体名单,但仍在努力提升其数据中心AI能力。当然,MooreThreads的产品在性能方面落后于Nvidia的GPU。即使是Nvidia于2020年推出的A10080GBGPU的计算性能也远远高于MTTS4000(624/1248INT8TOPSvs200INT8TOPS)。然而,有人声称MTTS4000可以与未知的NvidiaGPU相媲美。
MooreThreads成立于2020年,创始人是前英伟达中国区高管,由于美国出口规定,该公司无法获得尖端工艺技术,因为该公司被政府列入了黑名单。不过,该公司正在开发用于游戏的新型GPU(这些显卡不在我们的最佳显卡名单上),并且尽管面临重大障碍,但仍在AI领域取得进展。
目前,摩尔线程已与中国移动、中国联通等主要国有电信运营商以及中国能源建设集团和古林华觉大数据科技等公司建立了战略合作伙伴关系,旨在开发三个新的计算集群项目,进一步提升中国的人工智能能力。
MooreThreads最近完成了一轮融资,融资金额高达25亿元人民币(约合3.437亿美元)。这笔资金预计将支持其雄心勃勃的扩张计划和技术进步。然而,由于无法获得台积电、英特尔代工厂和三星代工厂提供的先进工艺技术,该公司在开发下一代GPU的道路上面临诸多挑战。