2172 位用户此时在线
24小时点击排行 Top 10：
- 本站自动实时分享网络热点
- 24小时实时更新
- 所有言论不代表本站态度
- 欢迎对信息踊跃评论评分
- 评分越高，信息越新，排列越靠前
2
1
0
超长上下文 LLM 与 RAG 技术，在文档问答场景下谁更强？我动手做了一个对比实验
结论：大模型长上下文对 RAG 技术就是降维打击。不期望大模型都达到 200K、2M 这种级别的上下文长度，但至少应该达到 32K、64K 的长度且保证模型质量不下降。长上下文可以极大的简化 RAG…
时政
(
twitter.com
)
由
heycc
提交
超长上下文 LLM 与 RAG 技术，在文档问答场景下谁更强？我动手做了一个对比实验
结论：大模型长上下文对 RAG 技术就是降维打击。不期望大模型都达到 200K、2M 这种级别的上下文长度，但至少应该达到 32K、64K 的长度且保证模型质量不下降。长上下文可以极大的简化 RAG 方案，使得开发文档问答应用变得更简单。
点击图片查看原图
1
2
1
1
2
2
1
1
3
2
1
1
4
2
1
1
5
2
1
1
7
2
1
1
8
2
1
1
10
2
1
1
11
2
1
1
12
2
1
1
13
2
1
1
14
2
1
1
15
2
1
1
16
3
2
2
17
2
1
1
18
2
1
1
19
2
1
1
21
2
1
1
22
2
1
1
23
2
1
1