中国电信第一个验证1024卡分布式计算:120公里、80万兆网络
近日,中国电信统一组织,中国电信研究院、中国电信北京公司、天翼云公司共同参与,在中国电信现网上,基于800G C+L技术,为1024卡规模的分布式集群提供大容量带宽,实现了120公里、千亿参数大模型的分布式训练,性能达到集中训练的95%以上。
这验证了大带宽、高可靠、高效率光传输网络为智算互联构建坚实底座的可行性,在全球还是第一次。随着智算集群规模达到千卡、万卡,所需带宽往往高达百T比特级,甚至超P比特级,因此,光传输系统的大带宽、高可靠与高效率的特点是保证分布式训练高算效的关键。
针对数据传输的大带宽问题,中国电信采用高阶调制格式的单波长800G技术,以提高频谱效率,配合当前的业界热点的C+L波段技术,实现了超大传输带宽。
在中国电信武清、润泽机房之间,采用华为的传输设备,通过多次环回,构建了大带宽互联的智算验证网,距离达到120千米。
对数据传输的高可靠问题,完成了链路误码、波长故障、光纤故障等异常测试试验。结果表明,一个800G业务波中断,会导致超40%的算效降低,而百毫秒级以上光纤故障,会导致算效大幅下降甚至训练中断。
采用WSON重路由恢复技术,在两点间将重路由恢复时间控制在50ms以内,可保证分布式智算业务的高可靠互联,最大程度释放算效。
针对传输链路的高效率问题,中国电信提出分钟级波长动态拆建解决方案来实现算与网的协同分时复用,有效提升网络资源利用率。此次验证为跨地域、跨层级、跨主体高可靠的算力协同调度奠定基础,标志着中国电信“云网融合”工作再上新台阶。
版权声明
本站所有文章来源于本站原创或网络,如有侵权请联系删除。文章观点并不代表本站观点,请网友自行判断,如涉及投资、理财请谨慎应对!
发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。