中兴通讯 星云大模型 推动研发全流程提效

在 中国移动 全球合作伙伴大会上展出了中兴通讯的“Star Cloud R&D Big Model”的产品，旨在辅助开发人员进行需求分析、产品设计、编程、测试、版本部署等，全流程助力研发提效。经第三方HumanEval评估，“星云研发大模型”位于编码模型第一梯队，编码语言种类多样性能力和中文编码能力达到业内领先水平。

对程序员多种编程语言的高能力要求、长时间的开发周期，是现代软件敏捷开发中常见的两个研发痛点。为解决上述痛点，中兴通讯推出“星云研发大模型”，辅助开发人员进行需求分析、产品设计、编程、测试、版本部署以及产品文档编写，为开发者提供一站式、智能化的研发体验，旨在让每个独立的软件开发者都有自己的免费的开发自己的助手。

星云研发大模型具有“三全两一”的特性，“三全”即中兴通讯全自研编码模型；全流程助力研发提效；支持与合作伙伴的全方位合作；“两一”即“星云研发大模型”位于编码类模型第一梯队；助力整体研发提效10%

中兴通讯自研部署方案，使用动态batch策略、PagedAttention技术，结合无损模型量化，吞吐量大幅提升，单GPU（A800）达到1500tokens/s，仅使用4张GPU卡（A800）可满足超千人使用需求。对比业界常规的部署方案，（NVIDIA FasterTransformer和Huggingface Transformer），单GPU吞吐量分别提升10+倍和20+倍；结合int4量化技术，在模型精度不下降情况下，模型大小和显存使用量均下降一半，能有效降低部署成本。

大规模训练语言模型正以惊人的速度演进，在自然语言处理、计算机视觉、语音识别等领域取得了显著进展，通用人工智能的前景正日益清晰。面向未来，中兴通讯“星云研发大模型”将从模型、算子、语料、算法、平台等全产品维度，与行业伙伴全方位合作，助力数智化转型，三方携手共赴城市智能山海，共同开创高端智算人工智能算法生长发展的新篇章。

（编辑：银川站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!