» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

本地跑能干点事的大模型需要什么硬件配置？

任天狗

魔王撒旦

帖子
9652 
精华
0 
积分
15381 
激骚
42 度 
爱车
 
主机
 
相机
 
手机
 
注册时间
2005-5-15 
1# 大 中 小 发表于 2026-3-2 16:58  只看该作者
posted by wap, platform: iPhone
我看网上吹好像是qwen吧，有两个30b左右的大模型挺聪明，不知道能不能拿来当个个人助理？
本地跑这些大模型什么设备划算？
显卡？mac？gb10？amd的395？

TOP

shingo98

纯情男

天外飞仙

没有好下场

帖子
11547 
精华
1 
积分
15561 
激骚
1056 度 
爱车
神车 
主机
神机 
相机
神相机 
手机
神手机 
来自
神地 
注册时间
2002-4-8 
2# 大 中 小 发表于 2026-3-5 16:15  只看该作者
posted by wap, platform: MAC OS X
395 128G我觉得性价比算是最高了，不过现在买电脑有点冤大头了

TOP

dzgxg

魔王撒旦

帖子
8381 
精华
0 
积分
21433 
激骚
545 度 
爱车
 
主机
 
相机
 
手机
 
注册时间
2002-12-18 
3# 大 中 小 发表于 2026-3-5 16:38  只看该作者
posted by wap, platform: MAC OS X
推理模型要求都比较高，算下来其实不如花钱用api了

TOP

lvcha

银河飞将

帖子
38002 
精华
0 
积分
35941 
激骚
2136 度 
爱车
 
主机
 
相机
 
手机
 
注册时间
2002-8-26 
4# 大 中 小 发表于 2026-3-5 16:41  只看该作者
posted by wap, platform: Firefox
看你干啥了，要是没有特别的需求还是用api比较靠谱。
我去年弄了大内存+5090d之后粗略试过qwen，感觉比chatgpt差远了。现在不知道啥样

本帖最后由 lvcha 于 2026-3-5 16:43 通过手机版编辑

TOP

发新话题