DeepSeek系列新模型正式上线昇腾社区
时间:2025-11-05 05:18:54 出处:应用开发阅读(143)
DeepSeek AI最新发布的系列新模型正线昇多模态大模型Janus-Pro,以及之前发布的式上大型语言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2,腾社一经发布,系列新模型正线昇就在AI领域引起了热烈反响,式上多项创新技术显著提升了模型的腾社性能与效率。DeepSeek系列模型首发即支持昇腾平台,系列新模型正线昇让用户能够在昇腾硬件和MindIE推理引擎上实现高效推理。式上
2025年2月4日,腾社DeepSeek-R1、系列新模型正线昇DeepSeek-V3、式上DeepSeek-V2、腾社Janus-Pro正式上线昇腾社区,系列新模型正线昇支持一键获取DeepSeek系列模型,云南idc服务商式上支持昇腾硬件平台上开箱即用,腾社推理快速部署,带来更快、更高效、更便捷的AI开发和应用体验,欢迎广大开发者体验使用。

下面以Deepseek-V3为例,演示在昇腾社区如何高效获取模型及使用
硬件要求:
部署DeepSeek-V3模型需配置4台Atlas 800I A2(8*64G)服务器资源
模型调用实践:
一、权重转换
GPU:

NPU:

二、加载镜像
在昇腾社区/开发资源下载适配DeepSeek-V3的镜像包:
mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64
完成之后,请使用docker images命令确认查找具体镜像名称与标签。

三、容器启动
提供的MindIE镜像预置了DeepSeek-V3模型推理脚本,云服务器提供商从您信任的来源自行获取权重后,放置在从上述下载的模型代码的主目录下,修改模型文件夹属组为1001,执行权限为750,启动容器。


四、服务化测试
配置服务化环境变量,expandable_segments-使能内存池扩展段功能,即虚拟内存特性

修改服务化参数

拉起服务化

出现“Daemon start success!”,则认为服务成功启动。
更深入了解DeepSeek系列模型在昇腾上的使用方法及指导文档,可登录昇腾社区模型库专区学习了解!b2b信息网
DeepSeek-R1
DeepSeek-V3
https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15
Janus-Pro
https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9
猜你喜欢
- 以MaliT860玩游戏的优势和劣势分析(探索MaliT860在游戏领域的性能表现及局限性)
- 地下城武器附魔宝珠解析(揭秘地下城中强大的附魔宝珠的种类与效果)
- 佳明fenix3hr(多功能运动手表,让你的锻炼更高效)
- Win7无线教程(Win7无线连接设置详解,让你畅享网络便利)
- 以U大师安装XP教程,快速轻松完成系统安装(使用U大师工具,快速安装XP系统,详细步骤全面解析)
- 三星60曲面电视如何?(以用户体验为重点的产品评测)
- 1.8GHz处理器(揭秘1.8GHz处理器的强大性能与多功能特性)
- LGG2国际版(一款拥有卓越性能和出色功能的旗舰手机)
- 电脑开机报0164错误解决办法(解决电脑开机报0164错误的简单方法)