TGFC Lifestyle - Powered by Discuz! Board

标题: 本地跑能干点事的大模型需要什么硬件配置？ [打印本页]

作者: 任天狗 时间: 2026-3-2 16:58 标题: 本地跑能干点事的大模型需要什么硬件配置？

posted by wap, platform: iPhone
我看网上吹好像是qwen吧，有两个30b左右的大模型挺聪明，不知道能不能拿来当个个人助理？
本地跑这些大模型什么设备划算？
显卡？mac？gb10？amd的395？

作者: shingo98 时间: 2026-3-5 16:15

posted by wap, platform: MAC OS X
395 128G我觉得性价比算是最高了，不过现在买电脑有点冤大头了

作者: dzgxg 时间: 2026-3-5 16:38

posted by wap, platform: MAC OS X
推理模型要求都比较高，算下来其实不如花钱用api了

作者: lvcha 时间: 2026-3-5 16:41

posted by wap, platform: Firefox
看你干啥了，要是没有特别的需求还是用api比较靠谱。
我去年弄了大内存+5090d之后粗略试过qwen，感觉比chatgpt差远了。现在不知道啥样

本帖最后由 lvcha 于 2026-3-5 16:43 通过手机版编辑

欢迎光临 TGFC Lifestyle (http://tgfcer.com/)