» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

不懂就问,在家部署本地ai模型跟agent区别在哪儿?具体意义又是啥?

posted by wap, platform: iPhone
本地部署毫无意义,我前段时间开发的本地AI工具,本地能跑,但是很费力,比远程API有明显差距着大家很好理解,服务提供商设备强得多嘛。

尤其是人家可以异步访问,你可以同时请求十几个API。本地那算力,你跑一个都够呛,等你跑完十几个请求黄花菜都凉了。

本地其实目前仅适合隐私敏感的,速度要求低的,调用不频繁的东西


TOP

发新话题
     
官方公众号及微博