posted by wap, platform: iPhone
所以具体能干啥？我科研向用gpt6.1-sol高额度根本用不完…

posted by wap, platform: iPhone

引用:

原帖由 @心之一方  于 2026-10-11 16:13 发表
所以具体能干啥？我科研向用gpt6.1sol高额度根本用不完…

本地模型不用担心泄密啊，公司文档上传容易丢工作

有很多东西根本不能细说，破限的软件越强，能干的事情就超乎你的想象。

posted by wap, platform: Android
上下文还是太小，不支持1M

posted by wap, platform: iPhone

引用:

原帖由 @inter189839  于 2026-10-11 21:33 发表
上下文还是太小，不支持1M

96g内存差不多

posted by wap, platform: Chrome

引用:

原帖由 @realsquall  于 2026-10-7 19:15 发表
deepseek v4.1flash还不如我本地的3.8flashnext Q4kxl快
现在真的爽翻

这是用的ekko-studio？

Strata确实牛啊
5070ti + 64g 内存，q3_xxs能跑到60t/s了

posted by wap, platform: iPhone
买这个玩意的价格买token，能用100年，还更强

nvfp4各项评分和在线版qwen3.8flash是一样的。能跑这个速度。综合190token/s,代码等任务260token/s，已经和在线deepseek flash一个水平的速度了。5070ti 16G 96G的设备也能大概到一半的速度，这已经是完全的生产力的方案了。这一波显卡上涨就是因为strata引擎的爆火。

strata deepseek v4.1flash 1017的方案10/23将开源

引用:

原帖由 realsquall 于 2026-10-21 23:12 发表
strata deepseek v4.1flash 1017的方案10/23将开源

这个模型的参数量家用设备跑不了吧
要是家用设备能跑就好了

https://realsquall1980-art.github.io/pelican-ride-3d/
我已经本地部署好了，80token/s，这是做的鹈鹕3d

现在已经蒸馏了一个自己，做了一个27b小模型的lora，以后就更方便了。

[ 本帖最后由 realsquall 于 2026-10-22 19:24 编辑 ]

引用:

原帖由 realsquall 于 2026-10-22 19:07 发表
https://realsquall1980-art.github.io/pelican-ride-3d/
我已经本地部署好了，80token/s，这是做的鹈鹕3d

现在已经蒸馏了一个自己，做了一个27b小模型的lora，以后就更方便了。

牛逼，不过天上飞的还是没有做好

posted by wap, platform: Chrome
mark 学习

posted by wap, platform: Android
我费这个劲为什么不直接买credit用api