Board logo

标题: 手机跑deepseek大模型小模型真傻 [打印本页]

作者: 为谁涅槃    时间: 2025-1-30 21:43     标题: 手机跑deepseek大模型小模型真傻

posted by wap, platform: iPhone
ios的appstroe里下载fullmoon,设置里安装那几个模型,断网可用。但基本就是智障一样。我用那个r1 4bit的1g模型,经常把自己绕晕了停不下来。跟傻子似的。 有兴趣可以跑着玩玩。
作者: 卖哥    时间: 2025-1-30 23:09

大模型也傻,你多聊几句,就自相矛盾了。
前后文能力在大模型里应该是倒数的。
作者: 卖哥    时间: 2025-1-30 23:16

感觉就是一个应试的模型,比较会做数学题
但是我拿他跑酒馆,前后文长度短的问题立刻暴露了,预设和角色卡估计已经把可怜的前后文长度给占满了,几句话就能成傻子。
作者: 土狗必须死    时间: 2025-1-31 01:12

土狗也有人工智能?有了人工智能,那最喜欢吃包子的那货该去干啥啊?继续吃包子吗?
作者: dorn    时间: 2025-1-31 01:34

感觉楼主就是小粉红,手机装个小模型都能追上GPT o1的话,OpenAI趁早关门算了。
作者: hftrrt    时间: 2025-1-31 02:17

posted by wap, platform: Android
用了32b蒸馏到qwen的模型,还行,但是3token/s的速度




欢迎光临 TGFC Lifestyle (http://tgfcer.com/) Powered by Discuz! 6.0.0