中国移动全球合作伙伴大会期间，中兴通讯展示了一款名为“星云研发大模型”的人工智能辅助工具。该工具旨在帮助开发人员进行需求分析、产品设计、编程、测试和版本部署等任务。
“星云研发大模型”支持白名单机制，能够有效控制其使用范围，并具备代码特征值识别功能，可以准确识别敏感代码片段。此外，该工具还拥有代码特征值识别功能，在实时监测并拦截敏感内容方面表现卓越。同时，后台审计机制能够完整回溯安全事件，为整体的开发效率提升带来了显著效果。
据悉，“星云研发大模型”于2023年4月启动使用，并在截至当时已经拥有了1.2万名活跃用户。其中，代码采纳率达到了40%至45%，编码速度较之前提升了30%，整体研发效率提高了10%。
据官方公告显示，“星云研发大模型”的构建过程中注入了大量资源和知识积累。“我们把领域数据、Know-How知识积累、数十万篇通信领域技术文档以及1000亿token的无线/核心网/云代码语料等注入大模型进行增量预训练。”中兴通讯表示。
此外，“自研部署方案使用动态 batch策略、PagedAttention技术，结合无损模型量化，吞吐量大幅提升。”据悉，在单GPU（A800）下达到1500tokens/s的速度，四台A800卡足以满足超千人同时使用的需求。与业界常规部署方案相比，单GPU吞吐量分别提高了10倍和20倍。同时，采用int4量化技术后，在精度不降低的情况下，模型大小和显存使用量都减半。
以上就是本文的全部内容。
本文属于原创文章，如若转载，请注明来源：中兴通讯展示星云研发大模型 1.2万名开发者已尝鲜https://diy.zol.com.cn/836/8365476.html
