![](http://www.cnnb.com.cn/pic/003/010/612/00301061220_bc3fe618.jpg)
均胜的智能座舱。
甬派客户端记者 乐骁立 严瑾
国产AI通用大模型Deepseek(深度求索)-R1正掀起一波滔天巨浪。许多企业“跑步前进”进行本地部署。
那么,Deepseek如何快速本地部署,并实现哪些功能?宁波哪些行业企业将迎来“泼天富贵”?
甬企为何扎堆进行本地部署?
近一周,部署Deepseek-R1的宁波企业越来越多。“我们公司第一时间本地部署了Deepseek-R1推理大模型,并接入了针对汽车行业特性自主研发的AI编程工具——JAIC,有效提升了现有代码类任务的能力。”均胜电子AI团队负责人称。
甬兴证券本周也成功完成了Deepseek-R1本地化部署,并上线了制度问答智能体应用;宁波人工智能超算中心、NAYOTA边缘科技城市物联、云朵网、金唐软件等企业也不甘落后……
那么,为何要本地部署模型?
NAYOTA创始人郑元杰解释道,主要基于两点——首先是数据安全,本地部署后,所有的数据回答都在局域网范围内传输,保证了私有数据的安全;其次是目前Deepseek的日活访问量太过巨大,导致服务器经常卡死,本地部署大大提高效率。
“在部署完以后,大家就可以训练自己的智能代理,利用Deepseek-R1通用模型训练自己的专属模型,也就是Coding Agent(代码智能体)。”郑元杰说,“而2025年将会是Agent元年,基于各行各业的Agent应用涌现后,将颠覆千行百业。”
![](http://www.cnnb.com.cn/pic/003/010/612/00301061221_5ce3dfa6.jpg)
均胜电子相关负责人也表示,在接入各类优秀AI大模型的同时,他们正进一步研发Coding Agent,探索从AI编程助手到AI程序员的发展路径,不断赋能公司在智能驾驶、智能座舱、智能网联等领域的汽车软件开发效率和质量。
哪些行业将迎来“泼天富贵”?
大量企业纷纷部署AI模型,首当其冲收益的就是硬件生产商、服务器生产商、机房集成商。
比如,宁波兰洋科技主要研发生产销售液冷机箱以及显卡等硬设,最近生意火爆;研发集成服务器机房的德塔森特最近也门庭若市。“每天客人都是一批接着一批到访。”企业相关负责人表示。
哪些企业会受益?宁波市软件行业协会秘书长金励君表示,那些拥有大量结构化数据的软件企业将有巨大机会。
“因为训练智能代理需要大量数据,并且要结构化数据。因此,如金蝶、用友这些企业的股价最近暴涨。对于宁波来说,如拥有大量医疗数据的金唐软件,大量学前教育的软件悟空识字,医疗教育的易哈佛等也有巨大潜力。此外,还有小遛出行等本地服务公司。”
再深入一些,AI+工业软件、AI+工业互联网也会有巨大机遇。如AI+CAD(建模软件),AI+CAE(高性能仿真软件),AI+EDA(电子设计自动化软件)。按照这个逻辑,宁波的天河智造、九寰适创、德图科技等都有巨大潜力。
新闻多一点
如何快速部署Deepseek-R1?
其实部署Deepseek-R1并不难,许多普通人在个人电脑上也可以实现。但对于设备硬件有一定的门槛要求——
CPU:建议使用Intel Xeon系列或AMD EPYC系列等多核处理器,至少4核。
GPU:如果你需要进行高效的推理,推荐使用NVIDIA GeForce RTX 30系列或NVIDIA A100等,显存至少8GB。
内存:至少16GB的系统内存,如果你部署的是大规模模型,建议使用32GB及以上。
存储:准备足够的磁盘空间来存储模型文件和相关数据,根据不同的模型版本,可能需要几十GB到上百GB的存储空间。
操作系统:目前推荐的是buntu 20.04或更高版本的Linux系统。如果是苹果MacOS系统,则选择M4以上的配置。目前,Deepseek-R1在Windows环境下并不是特别稳定。
硬件准备完成后,就可进行以下简单操作:
一是,下载并安装工具箱Ollama。
![](http://www.cnnb.com.cn/pic/003/010/612/00301061222_448e8eff.jpg)
无论是通义千问、Kim还是Deepseek都是工具,要在本地运行,需要一个工具箱,Ollama就是放工具的工具箱。
二是,安装Deepseek-R1。
在Ollama的搜索框中输入Deepseek-R1,找到“Deepseek-R1”,点击进入详情页。
![](http://www.cnnb.com.cn/pic/003/010/612/00301061223_ea083478.jpg)
Deepseek-R1有诸多类型,每个类型的名称后跟随1.5B、7B、14B等,这里的B就是billion(十亿),表示模型的参数数量。大家可根据自身电脑的硬件配置情况选择参数。
调出电脑的“启动台”,搜索“终端”并点击进入,将命令粘贴到“终端”窗口,按下回车键,等待安装完成。
三是,下载并安装可视化界面。
安装后,与模型交互的界面还是“命令”界面,是个代码框。要获得一个可视化界面,还需要安装工具——如Chatbox等智能对话工具。安装后就可以像QQ聊天一样和Deepseek-R1聊天了。
(小编注:部署过程由记者根据网络资料整理)
编辑: 陈捷纠错:171964650@qq.com
![](http://www.cnnb.com.cn/pic/003/010/398/00301039872_39df486a.png)
中国宁波网手机版
![](http://news.cnnb.com.cn/packages/2020/img/wxgzh.gif)
微信公众号