热点:

    AI可以这么玩!用aigo P5把DeepSeek随身携带

      [  中关村在线 原创  ]   作者:赵悟省

    DeepSeek凭借其复杂逻辑推理、创意内容生成以及跨领域知识融合能力火遍了全球,不过全球网友的热情却让DeepSeek的服务器犯了难,经常性的“服务器繁忙”让不少用户头疼,其实解决办法简单而且高效,那就是将DeepSeek进行本地部署,即便断网也能享受DeepSeek带来的便利。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    DeepSeek创新性地采用混合专家(MoE)架构,在保持响应速度的同时还提升了模型精度,可灵活部署于云端、边缘设备及移动终端。将DeepSeek本地部署在电脑设备上不仅能保证数据的隐私和安全,而且还能随时随地享受DeepSeek带来的便利。

    Deepseek是一个复杂的深度搜索和探索工具,可能需要一定的计算资源和存储空间来支持其运行。以下是一些建议的配置要求:

    ?处理器?:一个强大的CPU可以加速数据处理和搜索速度,推荐选择多核处理器,以便更好地处理并行任务。

    ?内存?:足够的内存(RAM)对于运行大型数据集和复杂的搜索算法至关重要,建议至少配备8GB的内存,如果条件允许,16GB或更多将提供更好的性能。

    ?显卡?:对于涉及图形处理或深度学习任务的情况,一个高性能的显卡(GPU)可以显著加快计算速度。如果你计划进行深度学习模型的训练或推理,建议选择支持CUDA或OpenCL的显卡。

    ?存储空间?:如今的DeepSeek-r1的模型体积从1.1GB到404GB不等。所以,Deepseek可能需要大量的存储空间来保存数据集、模型文件和其他相关文件。但本地存储空间珍贵,我们可以选择将DeepSeek模型存放在移动设备上,不仅性价比高使用起来也更加方便。

    本文以aigo全新推出的P5移动固态硬盘作为演示,比如,通过aigoP5移动硬盘,这款移动硬盘容量为1TB,读写速度均达到了2000MB/s,用在电脑上和本机固态硬盘基本没什么区别。将模型下载到aigoP5移动硬盘中有诸多好处。

    如果有多台电脑,就可以共享aigoP5硬盘中的模型,不用每台电脑都下载DeepSeek模型。

    可以把多个DeepSeek模型下载aigoP5硬盘中随身携带。这样就可以根据不同配置的电脑选择不同参数的模型,而不用为临时需求再临时下载模型了。

    如果遇到断网的情况下,aigoP5硬盘中的模型就派上用途了,想用哪个模型连接上aigoP5硬盘中直接选择加载就可以了。

    这里建议用aigoP5硬盘下载存储下面这几个DeepSeek-r1模型,基本可以覆盖大部分用户的需求。

    下面我们就尝试把DeepSeek模型下载aigoP5硬盘中。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    首先在移动硬盘内建立独立的工作分区,采用exFAT文件系统确保跨平台兼容性。aigoP5出厂就已经设置为exFAT,所以这一步就可以省略了。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    接下来是安装运行大语言模型的工具,因为要部署到移动固态硬盘上,建议使用专为本地运行大语言模型设计的客户端工具LMStudio,前往官网lmstudio.ai下载安装包之后,选择安装到移动固态硬盘的盘符aigop5即可。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    安装完成之后打开LMStudio客户端,先点击右下角的设置,在语言这里将应用程序语言设置为简体中文,然后在常规这里勾选LMStudio's Hugging Face的复选框,其他的包括软件主题,应用设置和偏好也可以一并设置完成。

    在加载模型前先简单介绍一下不同的参数规模,其中的B代表Billion也就是十亿,数值越高意味着模型的生成能力越强,但是需要越高的系统性能,生成速度也会越慢。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    那么我们要选择哪个模型呢,这问题我们得通过两方面来看。第一,DeepSeek-R1模型取决于你的应用场景以及硬件配置。如果你只是进行简单的文本处理、学习或小型项目,1.5B和7B可能就足够了。如果你的需求是生成高质量的文本,或者做大规模的数据处理,14B和更高的型号可能更适合。对于科研或者企业级应用,32B、70B甚至671B的型号能提供超高的性能和处理能力。

    第二,根据你现在的PC配置或者说你能用多少资金搭建自己的电脑。比如,高性能完整版(671B)性能强大,需要至少700G左右显存(Int8量化),适合专业服务器部署。而蒸馏版则更适合普通用户本地部署,基于开源模型(如QWEN 和LLAMA)微调,参数量从1.5B 到70B 不等,硬件要求较低。

    下面是满血版和蒸馏版DeepSeek-R1模型所匹配的硬件:

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    接下来继续我们对DeepSeek-R1的部署。这里LMstudio提供搜索下载以及加载本地模型两种方式,我们可以先将适合我们需求的模型下载到本地,再将其复制到aigoP5中。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    然后,在LMStudio中单击左上角的文件夹图标,在模型目录中选择放置模型的(aigoP5)位置,软件就会识别到本地模型,然后单击左上角的对话框图标,选择要加载的模型,同时可以设置上下文长度,根据硬件选择GPU负载等等,待加载完成之后就可以开始使用了。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    从实际使用体验来看,将DeepSeek-Ri部署到移动固态硬盘上还是非常方便的,我们使用RTX2060显卡的平台搭配8B模型的生成速度约为5字/秒,使用RTX5080显卡的平台搭配32B模型的生成速度约为6字/秒。

    AI可以这么玩!用aigo P5把DeepSeek随身携带

    aigoP5移动固态硬盘搭配DeepSeek的体验非常优秀,不管是咖啡厅里的灵感乍现,还是深度创作的能量释放,DeepSeek不再受限于网络,也不再困于固定设备,而且P5移动固态硬盘的磁吸和小巧便携也为不同场景提供了便利,也展示了未来计算形态向高度便携化演进的重要趋势——真正的智能,本该如此触手可及。

    本文属于原创文章,如若转载,请注明来源:AI可以这么玩!用aigo P5把DeepSeek随身携带https://diy.zol.com.cn/950/9509040.html

    diy.zol.com.cn true https://diy.zol.com.cn/950/9509040.html report 3985 DeepSeek凭借其复杂逻辑推理、创意内容生成以及跨领域知识融合能力火遍了全球,不过全球网友的热情却让DeepSeek的服务器犯了难,经常性的“服务器繁忙”让不少用户头疼,其实解决办法简单而且高效,那就是将DeepSeek进行本地部署,即便断网也能享受DeepSeek带来的便利。...
    提示:支持键盘“← →”键翻页阅读全文
    本文导航
    • 第1页:aigo P5把DeepSeek随身带
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐经销商
    投诉欺诈商家: 010-83417888-9185
    • 北京
    • 上海
    • DIY组装电脑
    • 新品上市
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错