中国信通院牵头的ITU大模型边缘侧推理系统和算子要求2项标准成功结项，即将发布

此次2项标准顺利结项，分别面向大模型边缘部署的系统能力和大语言模型底层算子能力，形成了从边缘侧软硬件基础设施、推理框架和工具，到算子适配、开发、服务、接口及评价指标的标准化衔接，为大模型在异构算力环境中的高效部署、稳定运行和跨平台迁移提供技术支撑。相关成果有助于推动芯片、算子库、推理框架、边缘计算平台及上层应用之间的互操作和协同优化，降低大模型跨平台部署、适配和迁移成本，促进大模型在工业、通信、交通、能源等边缘应用场景中的规模化落地。