在江苏省南京市中国电信吉山数据中心,一辆白色的大型卡车吸引了众多来访者的注意,然而这辆看似普通的卡车却内藏乾坤,蕴含大量智能算力。这辆车名为“智能算力车”,由中国电信联合烽火通信打造,以满足客户数据不出域、灵活训练大模型的算力需求,实现全国调度、随用随到、安全可靠。
![11.png](http://pic.networktelecom.cn/d/file/qyxw/2024-02-26/21527c001330930a87bfdc5939e7294f.png)
“智能算力车”创新概念由中国电信首次提出,顾名思义是将计算资源整合至车载平台,搭建算力网络,通过对算力资源的有序调度来满足数据敏感类客户在特定场景下,对高安全性、高私密性、快速部署的算力任务需求,为用户提供便捷高效的移动计算能力服务。
![12.png](http://pic.networktelecom.cn/d/file/qyxw/2024-02-26/e75b3f831ccf1d8a8bb9dde9e6deae96.png)
烽火通信承接了“智能算力车”集装箱微模块部分的设计、制造及交付。单体移动算力车搭载了8台烽火FitSever G440K V2高性能训练服务器,每台设备配备了8张高性能训练卡,通过底层交换架构实现多卡互联,充分加速中小型规模的模型训练任务。同时,车内还集成了配电和UPS两大模块,以及制冷和监控两大系统,全方位为算力车内外部提供动能支持和状态监控,保障稳定运行。
相较传统机房高额的建设投入、漫长的建设周期与复杂的后期维护,“智能算力车”具有灵活部署、安全可靠、便捷省心的特点,并具备独立节点与集群组网两种解决方案。
在独立节点方案下,以一组算力车为完整计算单元,基本十天左右可完成特定行业的模型训练任务,做到完全物理隔离,保障用户数据的私密性和安全性;同时对环境要求低,仅需提供车辆停放场地和自来水水源,即停即用,同城可实现24小时内部署完成,本省异地城市区域隔日抵达,支持全国调度。
在多车集群组网方案下,采用Spine-Leaf架构,实现多车算力互联,支持中大型模型的训练任务,集群扩展能力可弹性伸缩,客户可根据需求灵活增减算力规模。
近日,“智能算力车”解决方案首次在江苏落地,随后将驶往雄安电信数据中心开展交通大模型训练。
烽火通信将携手中国电信,持续深化算力车功能定制与开发适配层面的合作,共同推动其在应急通信、重大工程外场保障方面的应用,并坚持技术创新,不断探索多车互联、训推一体等方案从试点到规模商用。
来源:烽火通信 |