专栏名称: ZOL中关村在线

看科技资讯、查产品报价，上中关村在线。

相关文章推荐

哎咆科技 · iPhone 的隔空投送，要被删除了？ · 8 小时前

EETOP · 资料分享|功率半导体（VDMOS，IGBT， ... · 19 小时前

ZOL中关村在线 · 视频足够成熟的当下，为什么实况照片会越来越流行？ · 昨天

EETOP · 惊人天价！台积电1.4nm晶圆成本曝光 · 昨天

面包板社区 · 拆解一个9.9包邮的充电按键小夜灯，成本6.5？ · 2 天前

51好读 › 专栏 › ZOL中关村在线

DeepSeek本地模型显卡横评，显存不够算力都白搭

ZOL中关村在线 · 公众号 · 硬件 · 2025-03-28 17:50

正文

测试使用LM Studio，无加速框架进行对比，完全凭借显卡自身算力。毕竟不同加速框架对不同厂商的显卡优化不同，测试变量太大。

这里我们首先选择【DeepSeek R1 Distill Qwen 32B】模型。

DeepSeek本地模型显卡横评显存不够算力都白搭将GPU卸载拉满，这意味着DeepSeek模型将完全由GPU进行计算，其他参数默认即可。由于AI模型每次回答都会有所区别，这里设置3个问题，取平均值。

DeepSeek本地模型显卡横评显存不够算力都白搭另外需要注意的是，我们设置的问题本身框定了范围，让AI在思考回答时不会过于发散。如果问“什么是哲学”这类无范围的问题，每次回答的结果将无法量化。

在32B模型中，可以看到RTX 5090 D的tok/sec还是很快的，毕竟作为本代旗舰产品，32GB大显存本就适合AI训练。

推荐文章

哎咆科技 · iPhone 的隔空投送，要被删除了？

8 小时前

EETOP · 资料分享|功率半导体（VDMOS，IGBT，TVS）讲义

19 小时前

ZOL中关村在线 · 视频足够成熟的当下，为什么实况照片会越来越流行？

昨天

EETOP · 惊人天价！台积电1.4nm晶圆成本曝光

昨天

面包板社区 · 拆解一个9.9包邮的充电按键小夜灯，成本6.5？

2 天前

面包板社区 · 拆解一个9.9包邮的充电按键小夜灯，成本6.5？

2 天前

雷峰网 · 这些为了安全而被笼子“束缚”的无人机真的是“失败”的设计吗？

8 年前

微山西 · 重度霾！降雪！大降温…下周将组团轮番暴虐太原！

8 年前

咱是闽南人 · 又是割包皮，割一半医生这样说，事发晋江！

8 年前

瞭望智库 · 我们解构了35位历史名人的童年经历，发现他们的“成长密码”竟然如此简单 …

8 年前

笑点研究所 · 这才是炫富的最高境界

8 年前