» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

不懂就问,在家部署本地ai模型跟agent区别在哪儿?具体意义又是啥?

posted by wap, platform: iPhone
引用:
原帖由 @BigBangBang  于 2026-2-11 07:16 发表
在线的一直在升级,本地的部署完就面临落后与淘汰。
可以用现在的方式来解决这些问题,比如让agent把长期记忆文件和soul.md文件单独保存一份,什么时候换模型了再导入就OK了。AI给的意见是:

2. “无法进化”其实是个误解
你觉得模型“无法通过训练提高”,是因为你把“全量预训练(Pre-training)”当成了唯一的进化方式。那是大厂烧几百万美金干的事。
对于个人玩家,让模型“进化”有两条非常成熟的路,而且都不难:
A. 给它外挂硬盘:RAG(检索增强生成)
这是目前最主流的“进化”方式。
原理: 模型本身不学新知识,而是学“怎么查资料”。你把你的笔记、日记、公司文档全部塞进向量数据库(Vector DB)。
效果: 当你问它“我上周的会议纪要里说了啥?”,它不是靠脑子记的,而是去数据库里翻出来的。
意义: 它的知识库(记忆)在无限进化,虽然它的智商(逻辑)没变。对于个人助手来说,“记性好”往往比“智商高”更重要。
B. 给它上补习班:微调(Fine-tuning / LoRA)
这是真正的“改变模型权重”。
难度: 以前很难,现在有了 LoRA(低秩适应) 技术,显存需求只有全量的 1/10。
硬件门槛: 一张 RTX 3090/4090 甚至你的 M1 Mac (16G以上) 就能跑微调!
玩法: 比如你把你和你女朋友的聊天记录喂给它微调,它就能学会你们特定的说话语气和梗。这就叫“个性化进化”。


TOP

发新话题