智能化 激发产业新动能
其次是智能化升级,崔丽强调,尤其是生成式AI激发产业新动能。这波GenAI技术,最大的优势是泛化、自主学习、便捷人机交互和创造性,但也有幻觉、黑盒、隐私安全等问题,具体到工业尤其是严肃和关键领域的应用,首先必须在专业性、准确性和鲁棒性等方面有实质性突破;其次跟刚刚谈到的“数字化和网络化”类似,也要考虑如何解决不同企业的诉求差异和资源(知识/资金/人才)约束等问题;最后则是如何突破地缘政治带来的一些约束,在GenAI潮流发展中保持前列。
对此,中兴通讯倡导开放解耦、以网强算和训推并举。
崔丽进一步解释了开放解耦包括软硬解耦、训推解耦和模型解耦,构建繁荣产业和商业生态。硬件兼容适配国内外主流GPU/CPU;软件支持异构资源管理、训推作业调度和异构集合通信等,为模型运行提供高性能、高可靠的运行环境;训推适配PyTorch、TensorFlow等主流框架,自动实现编译和优化,并提供从数据处理、模型开发/训练/优化/评估/部署等端到端的工程工具集,在支持全生命周期保障和管理的同时,还应支持算力原生、混池训练、高效推理、高效模型迁移等。
以网强算则包括但不限于,定义开放的高速无损交换标准,支持更大规模智算集群突破单点GPU算力密度限制;结合算力卸载及在网计算等,大幅缩减数据读写与传输时间,提升算力利用率。
中国实体经济根基扎实,拥有丰富的应用场景和私域数据,训推并举,积极推动大小模型结合的落地实践,构建数据飞轮,迭代实现能力提升。双循环将进一步促进AI能力迭代和商业变现,从而锻造核心优势。
中兴通讯也在积极践行上述理念,积极探索大小模型结合在行业中落地,先后在研发提效、自治网络进阶、工业园区、城市治理等多个领域推出大模型应用。研发大模型带来编码提效30%;在南京滨江智能制造基地,工业大模型缩短排产时间88%,减少智能质检人力70%;园区大模型智能识别危险源和危险行为,误判率下降80%;电信大模型在重大网络保障如杭州亚运会,提升故障定位效率60%,实现16天超过五百万人次零投诉。同时,基于自身实践持续迭代,中兴通讯提炼全流程的大模型工具链,降低进入门槛和开发、使用成本,推动大模型在行业的广泛普及和应用,比如与水利部构建水利大模型,以及在南京和昆山多地打造城市生命线大模型,实现对燃气、积水、道路隐患等风险的智能识别预警,保障人民生命财产安全。
低碳化 创造可持续未来
崔丽介绍,随着数据流量持续倍增,XR、直播、数字孪生等新场景涌现,以及AI的快速发展都对能源供给提出了严峻挑战,低碳化发展才能创造可持续的未来。
从可持续发展的角度,企业运营、供应链、ICT数智基座和行业赋能等各个环节均需向低碳化转型。在通信领域,中兴通讯持续打造绿色低碳网络,推出业界领先的恒效功放、AAU/RRU自动启停技术、零碳站点(应用于德国O2)等绿色基础设施方案。在算力领域,中兴通讯通过预制模块化设计,结合液冷机柜、弹性制冷、弹性配电、智能管控等技术,保障智算中心全生命周期的能效最优,PUE低至1.1,该方案也已应用于南京滨江5G智能工业园内的液冷智算中心改造。
此外,中兴通讯不仅关注自身相关领域的节能减排,更通过ICT技术的降碳杠杆效应,打造了一系列涵盖绿色发电、智能储能、智能用电及能源管理的综合解决方案,积极赋能千行百业节能降碳。
开放解耦,以网强算,以智升维,以绿奠基
谈及知行合一,崔丽指出,中兴通讯倡导“开放解耦、以网强算、以智升维、以绿奠基”,并提供与之一致的覆盖算力、运力(网络)、智力、生命力(低碳)的全系列产品和解决方案。
在算力方面,兼容适配国内外多厂家GPU/CPU,自研定海芯片支持RDMA标卡、智能网卡、DPU卡等多种形态,提供高性能、多样化的算力内核和硬件加速;整机侧,基于扣卡模组/PCIe插卡AI服务器、训推一体机等系列产品,灵活适配差异化场景;数据中心侧,依托风液融合、弹性配电等节能技术,打造PUE低至1.1,机柜功率密度最高达60kW的新型智算中心。
在运力(网络)方面,5G-A不仅是对5G能力的显著增强,更是作为向6G技术过渡的关键桥梁,实现能力的有效衔接,在全域通感、万物互联、确定能力、泛在万兆等方面提供增强的场景、性能、安全能力;另一方面,建设极致性能的全光网络,接入精准50G PON、承载real 400G,并向千行百业延伸;在数据中心内,提供新一代框式&盒式数据中心交换机,为智算集群提供高速无损数据交换网络。
在智力方面,中兴星云大模型相关解决方案集中发力算法创新、数据工程和高效算力平台。在训练阶段采用多阶段预训练、中文词表改进、高质量语料精炼、合成数据训练等多项技术创新,在算力需求降低50%的同时保证了模型训练效果。在推理效率方面,在保证模型准确率不受影响的情况下,以权重INT4量化和KVCache FP8量化算法,节省推理资源3倍。星云通信大模型已完成千亿级(9*20B)MoE(混合专家)大模型的训练,并且支持多模态输入及十二万的有效上下文窗口,对通信业务场景提供通信专家级的见解和帮助。星云研发大模型通过多模型协作技术,可以支持需求、设计、编程、测试等不同阶段全流程30多种场景,多种编程语言如Python、Java、C/C++、Go、Java script代码生成能力可以达到GPT4水平,可以根据需求直接生成测试用例。
在生命力方面,中兴通讯打造绿色ICT基座,通过创新技术应用,实现发电、转换、存储、用电到管理的端到端节能方案,致力于降低每比特能耗。