2
1
0
这条推文的建议很好，但"把压缩调到 400K"对每个人都成立吗？不一定。
这就是 magpie 要做本地 agent 可观测性分析的原因。每个 agent 都有自己独特的行为，每个用户也有自己的使用习惯，任务难度也因人而异，所以不存在一份对所有人都最优的配置。
更麻烦的是，每个 agent
IT技术
(
twitter.com
)
由
yetone
提交
这条推文的建议很好，但"把压缩调到 400K"对每个人都成立吗？不一定。
这就是 magpie 要做本地 agent 可观测性分析的原因。每个 agent 都有自己独特的行为，每个用户也有自己的使用习惯，任务难度也因人而异，所以不存在一份对所有人都最优的配置。
更麻烦的是，每个 agent 的配置项又多又复杂，还藏得很深。大多数人压根儿不知道有这些开关，就这么不知不觉地用着最不适合自己的配置，浪费了大量时间和 Token，甚至牺牲了完成任务的质量。
magpie 新功能「为你调优」：在本地用你自己的真实调用，按每个 agent、每个模型去回放压缩阈值和缓存时长，算出对你最省 Token 的那一组。千人千面，但对每个人都是最省的。
点击图片查看原图
Markdown支持
评论加载中...
您可能感兴趣的：
5
148
147
147
8
97
96
96
12
155
154
154
13
100
99
99
21
277
276
276
22
459
458
458
24
778
777
777
