Encoder 的卷土重来BERT 本来是一条极有潜力的路线：高效地把输入压成 representation。但它停留在了 task-specific 时代，每个任务都需要微调。GPT 早期同样如此，后来却沿着 scaling、in-context learning 和 instruction tuning 走向了泛化，把自然语言变成 universal task

发布时间: 2026-09-19 15:13:21

2分

数据加载中

关注推特

收听电报

3

2

1

Encoder 的卷土重来
BERT 本来是一条极有潜力的路线：高效地把输入压成 representation。但它停留在了 task-specific 时代，每个任务都需要微调。
GPT 早期同样如此，后来却沿着 scaling、in-context learning 和 instruction tuning 走向了泛化，把自然语言变成 universal task
时政
( twitter.com )

18小时前由 Dongxi 东锡 NLP 提交

Encoder 的卷土重来

BERT 本来是一条极有潜力的路线：高效地把输入压成 representation。但它停留在了 task-specific 时代，每个任务都需要微调。

GPT 早期同样如此，后来却沿着 scaling、in-context learning 和 instruction tuning 走向了泛化，把自然语言变成 universal task interface。分类、判断、推理、工具调用，统统变成 generation。

于是 decoder-only 赢下了整个 paradigm，encoder 也失去了继续探索 general classifier 和 general representation model 的历史机会。

但 Agent 改变了 workload。模型开始面对越来越大的输入、越来越重的 KV cache、越来越频繁的循环调用，此时，用一个巨大的 decoder 完整 prefill，再 autoregressive decode 几个 token 来完成一次判断，开始显得昂贵。

Jev 恰好等到了这个窗口。它试图补上 BERT 当年没有走完的路线，保留 GPT 的 task generalization，同时重新获得 encoder 和 classifier 式的 decision efficiency，成为面向 service、面向 Agent 的泛化 decision model。

Markdown支持

评论加载中...

您可能感兴趣的：

1

276

275

275

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

2

610

609

609

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 3 评论

3

587

586

586

当上戏的班花遇见绿帽男，小小年纪就已经解锁双通齐插，之后3p，群p更是不在话下。完整版的视频有10几分钟，不用下载任何APP，也不用注册账号，直接点开就能免费观看地址：
porn
( 17wife.com)

4年前 • twitter机器人 • 下载视频 5 评论

4

940

939

939

#精东影业这是健身教练偷拍的从没有发过的录像，平时男友有时候心血来潮让我跪下给他口，我要么说地上脏，或者说跪着累拒绝他，然而面对健壮的肌肉教练，跪的如此卖力熟练顺滑且标准，可能这就是给男友最好的回报吧～
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 4 评论

5

319

318

318

约了两个极品妹子，只留了一个果然是精品，对话精彩姿势刁钻，好热刚插进去差点就尿了！(2/2)

完整版链接在评论区首条或视频中间弹幕
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 0 评论

6

250

249

249

被骑片段—上
这样轻微的SM我其实还是接受的
不过还是需要跟合适的人玩到嗨才会有向更刺激的感觉上探索的兴趣
否则就是适得其反
这个算不算被骑
嘻嘻嘻
跟大佬投稿欢迎转发
谢谢大家
@xiaotuz9977 @Fengsiyuan
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

7

285

284

284

骚逼老婆一大早就打扮的很性感去约炮了，越来越会享受了
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 1 评论

8

1170

1169

1169

老公既然同意了,那享受就完了。
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 4 评论

9

895

894

894

又是疯狂的一天……
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 6 评论

10

1253

1252

1252

Watch video
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 3 评论

11

499

498

498

很困但是不想睡，想搞个黄涩。
给哥哥看粉裙下的小穴！
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 2 评论

12

121

120

120

你看不清我是因为你在lu～不信你射出来就能看清我了
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 1 评论

13

968

967

967

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

14

627

626

626

周末啦！想要拍这样视频的可以联系起来啦~~
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 3 评论

15

1100

1099

1099

尝尽了男欢女爱,人生也没有什么遗憾了呀。
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 6 评论

16

259

258

258

非常喜欢的一对海南夫妻，萍夫人。这个视频也很好呀，不晓得哪个粉丝做的，我也好想有自己这样的视频呢！
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 1 评论

17

158

157

157

今天的游戏环节，谁来猜一下这两个男的，哪位是单男？哪位是老公呢？猜对的我抽几个给福利哟~~
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

18

173

172

172

套是拿来了，可是为什么一直拿在手里不带呢？喜欢有套确选择中出的强烈反差吗？
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

19

125

124

124

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

20

1288

1287

1287

喜欢你被撞的每一下
活动圆满结束
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 4 评论

21

85

84

84

小视频！！~
被完全固定住了！还有什么烫烫的东西一直滴在屁屁上！解脱的钥匙紧紧地握在手上，但是丝毫没有解脱的可能orz
“今晚就这么睡觉吧，哦对了，钥匙可要抓紧喔，掉了可不会帮你捡回来哦~”
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

22

160

159

159

3p纯老熟女，逼逼特别松，但是特别听话，肛交，深喉，内射，调教，剧情乱伦，就是丑了点，但是超级耐干，听话，怎么玩都可以，最重要特别骚，喜欢小男人，后续完整版，超级刺激精彩，文字限制不一一介绍了，完整版已更新vip裙。
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

23

638

637

637

多么单纯天真的小脸蛋被几个上年纪的老男人操的四射喷水没想到单纯的外表内还藏着多么骚的一个灵魂
完整版点击下方链接观看
porn
( twitter.com)

5年前 • twitter机器人 • 下载视频 2 评论

24

319

318

318

大幂幂救命，想要同款过春节
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

25

142

141

141

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论