随着大模型技术的发展，采用区域语料进行模型训练及微调能实现区域知识的精准覆盖和业务逻辑的理解，推动城市级AI应用从“高成本试错”迈入“集约化落地”新阶段。近期，贵州算家计算服务有限公司免费开源贵阳贵安通用基础数据微调大模型——DeepSeek-R1-Distill-Qwen-32B-GuiyangGuian-lora-v1.5，该模型融合了贵阳贵安政务、城市运行、产业、社会民生、文化旅游等六大领域本地化语料。最新测试表明，经过微调后的模型性能显著提升，回答效果不仅超越DeepSeek-R1-Distill-Qwen-32B官方版本，更达到与671B官方模型相当的水平。

目前，海光DCU已完成与贵阳贵安通用基础数据微调大模型的适配工作并取得测试报告和互认证，结合已适配的算家云AI算力服务平台软件，可以降低AI技术使用门槛，为区域AI生态的繁荣发展添砖加瓦，助力贵阳贵安打造“集约化AI”新范式。

本次适配中，海光DCU在兼容性及性能测试中表现突出，能够快速搭建推理平台并部署大模型服务，主要体现在以下几个方面：

▍开放软件生态

海光DCU通过与vLLM、 OnnxRuntime等主流推理框架的适配实现无缝迁移，充分验证了国产高端计算芯片在大模型推理场景的实用价值，支持Qwen、DeepSeek、Llama等主流大模型部署。

▍超强计算性能

海光DCU支持TF32、BF16大模型训练推理主力算力精度，满足新一代智能计算中心算力部署需求。

▍部署效率优异

相比DSA架构的计算框架，海光DCU的标准化部署流程使模型上线时间缩短50%以上，使用和运维复杂度大幅降低。

海光DCU基于自研开发工具栈（DCU Tool Kit）兼容ROCm和CUDA软件生态，支持自研算子和最新三方组件，AI框架层以上程序无需转码可直接编译运行。在CUDA核心组件功能覆盖率方面，除硬件相关部分外达到100%覆盖，可帮助用户在国产AI加速卡上实现真正的“无改造、零成本”运行国际主流加速卡的源代码。目前，海光DCU已经与国内100+大模型全面适配。

来源：光合组织微信公众号