测了下 Jev。其实之前我们就在尝试用大模型做决策和分流:给模型上下文,只要求返回 1、0 或一个置信度数字,目的就是尽量省 Token。昨天又拿 7B 模型在本地跑了下,用提示词约束 LLM 只返回决策结果,再和 Jev 对比。几个用例下来,速度上 Jev 明显领先,但准确度上 7B 略胜一筹。
我觉得 Jev 更重要的意义,是补齐 AI 工程生态。类比电力时代,我们先发明了发电机和灯泡,但一个成熟生态里,必然还需要变压器、配电箱这些东西,才能补全输配和应用体系。可以预见,未来还会出现更多专用模型和基础设施,把整个 AI 生态一点点真正补完整。