在电脑上部署本地deepseek，断网运行成功

旺星的旺旺 · 发表于 2025-2-9 10:03:49

用的是deepseek-r1的140亿参数模型，ai思考的时候GPU占用是46%～99%，显卡是RTX3060 -6G，运行这个参数的模型已经是电脑的极限了，
看来AI PC的处理器真的比传统电脑要强很多在电脑上部署本地deepseek，断网运行成功

活在当下呀 · 发表于 2-9 10:05:11

HONOR2201065562488 · 发表于 2-9 10:07:42

旺星的旺旺 · 发表于 2-9 10:08:52

右下角展示断了网的

不得不说电脑有个本地大模型还是要方便一些

HONOR2212054368750 · 发表于 2-9 10:12:48

多少b的那种

勋章666 · 发表于 2-9 10:13:02

这。。。

爱吃丝绒蛋糕 · 发表于 2-9 10:47:44

更低的模型。更低的算力。比你还差的芯片还能承受。不得不说这个模型太强了。

HONOR2310073025417 · 发表于 2-9 12:06:21

我只能跑1.5b

jl698911 · 发表于 2-9 13:41:14

牛******

家有方 · 发表于 2-9 19:35:00

怎么做的