首个!华为DCS AI训推超融合一体机完成中国信通院可信AI大模型一体机MoE模型专项评估
信通院可信AI大模型一体机评估介绍
随着人工智能领域的持续发展,尤其是大模型时代的到来,如何支撑多场景人工智能模型的研发和应用成为企业迫切需要解决的问题。大模型一体机涵盖了硬件资源、软件平台和大模型的软硬一体化能力、提供了“开箱即用”的使用体验,能够帮助企业快速、高效、稳定地落地大模型能力。
为推动产业健康持续发展,中国信息通信研究院(以下简称“中国信通院”)人工智能研究所联合业界单位共同编制了可信AI大模型一体机行业标准(2023-0042T-YD《人工智能一体机技术要求 训练推理型》)。
为客观、准确、及时跟踪大模型一体机发展态势,树立产业发展风向标,提升技术方先行示范影响力,协助应用方选取适配产品,中国信通院持续开展可信AI大模型一体机评估工作。评估包括硬件能力、资源池化能力、AI软件平台能力、大模型应用能力和管理能力五个部分。中国信通院可信AI所于2025年2月启动可信AI大模型一体机首批MoE模型专项和性能专项评估。
华为DCS AI训推超融合一体机
(FusionCube A3000)介绍
华为DCS AI训推超融合一体机(FusionCube A3000)面向行业大模型训练和推理场景,支持千亿级模型和应用打造系列AI能力。在本次大模型一体机产品能力评测过程中,FusionCube A3000在软硬件融合能力、资源池化与调度能力、AI全流程工具链能力(数据工程、大模型训推管理、应用编排)和统一管理能力均表现优良。
软硬件融合能力:集成OceanStor A系列高性能存储节点、训推节点、交换设备、虚拟化与容器、AI全流程工具链与管理运维软件,为大模型伙伴提供拎包入住式的部署体验,实现一站式交付;
资源池化和调度能力:通过智能调度平台和算力池化,实现GPU和NPU资源高效共享,将AI算力利用率从40%提升到70%以上;
AI全流程工具链能力:数据使能方面,提供各类型数据归集并处理的工具链,如数据清洗、数据评估、QA对生成、知识生成等关键能力,为大模型训练和RAG应用提供语料和知识;模型使能方面,用于模型部署、训练、微调和推理的工具链,一键式操作,提升模型训推效率;应用使能方面,为AI应用提供一站式开发、调试和发布的工具链,帮助高效构建AI应用、快速验证应用效果;
统一管理能力:提供开箱即用、一站式管理能力。基于软硬件一键开局工具,4小时即可完成部署。基于软硬件资源统一运维管理、故障点快速识别。
请先 登录后发表评论 ~