第一眼看过去平平无奇：Prefill/Decode 解耦，多了个跨数据中心和 AI 聊了会，发现老中真的是在压满 GPU 这件事上，工程创新又一轮

发布时间: 2026-04-19 00:00:26

1分

数据加载中

关注推特

收听电报

2

1

0

第一眼看过去平平无奇：Prefill/Decode 解耦，多了个跨数据中心
和 AI 聊了会，发现老中真的是在压满 GPU 这件事上，工程创新又一轮
时政
( twitter.com )

10小时前由海拉鲁编程客提交

第一眼看过去平平无奇：Prefill/Decode 解耦，多了个跨数据中心

和 AI 聊了会，发现老中真的是在压满 GPU 这件事上，工程创新又一轮

你一句话发到服务端，服务器开始推理。Prefill 是思考——把你的输入读完、想明白，算力密集。Decode 是说话——一字一字往外蹦，不吃很高算力。中间递一份"思考笔记"，叫 KV cache

既然两阶段的资源需求完全不同，为什么非得挤在同一台机器上甚至一个机房里？Prefill 集中到高算力卡上批量跑，Decode 散到其他卡上慢慢蹦，中间把 KV cache 传过去就行。

其他人肯定也这么想过，但是由于算法受限，KV cache 太大，跨机房传输就使命不达。
Kimi Linear 的 hybrid attention 压缩了 KV cache，这使得传输不再变得那么不可行。而即便是可能可行，也需要足够多的线上流量才能证明真的可行。

盲猜这种工程感觉 openai 之类的公司也肯定想过（也可能没想过，毕竟没那么缺卡），但不见得会分享出来。

而更有想象空间的是，这说话 decode 这一步的硬件，国产卡、二手卡都能做，这个想象空间可就更大了。

Markdown支持

评论加载中...

您可能感兴趣的：

1

109

108

108

这姐姐太6了，伤害不大，侮辱性极强啊！
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

2

160

159

159

《透明时装秀》NO.17季
看露出
最爽的莫过于时装表演
各个肤白貌美大长腿
袒胸露乳无视人前
刺激你的每一根神经
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

3

104

103

103

各位帅哥不要尝试给我寄礼品或者红包什么了!你们真有心的话可以到水滴筹给需要帮助的孩子或者老人捐赠三五十吧,毕竟物质上面我条件还算不错,你们精神上多满足我就行了,谢谢!
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

4

150

149

149

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

5

140

139

139

你要知道我一个人可满足不了他们，所以就拜托老公了！
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

6

125

124

124

都说想看我艹表弟
建议声音调小观看
和表弟出去漂流
晚上在酒店沙发上打开窗疯狂输出
表弟的叫床声窗外听得清清楚楚
每一下都顶到表弟的最深处
操的表弟白沫四处飞溅
请看到最后
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

7

371

370

370

老公既然同意了,那享受就完了。
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

8

258

257

257

尝尽了男欢女爱,人生也没有什么遗憾了呀。
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

9

103

102

102

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

10

20

19

19

是存货！小肚子顶得大屁股一震一震的，包茎唧唧在里面真是太舒服了❤️
（不过自动感光加美白滤镜的相机就好生草）
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

11

124

123

123

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

12

224

223

223

很困但是不想睡，想搞个黄涩。
给哥哥看粉裙下的小穴！
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 2 评论

13

30

29

29

我也没办法，本来想隔几天再发。手机内存不足了。不想保存了
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

14

175

174

174

拍完才知道头顶上正对着个监控社死
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

15

63

62

62

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

16

167

166

166

这才是我真正的姿态，什么时候插进我的小穴都可以哦，本来就是为了那个而存在的下流小穴，一直以来想要的就是这些，小穴，菊花，嘴被凌辱的天昏地暗的感觉。

（更多H动漫成人视频请留意评论区，或还可全屏视频点击链接）
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

17

122

121

121

周末你想把牛奶给我吗
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

18

126

125

125

请尽情的侵犯我吧，我会尽全力的，请尽情的插小穴和我的菊花，拜托你们看着我高潮时的样子~

（更多H动漫成人视频请留意评论区，或还可全屏视频点击链接）
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

19

23

22

22

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

20

55

54

54

Watch video
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

21

351

350

350

包养某大学大二学生，几天没有约她刚见面就扒裤子，想怎么搞怎么搞，没有半点怨言，还要求他的金主爸爸操她一个小时不能射，操死她这个宝贝女儿。

（全片观影地址在评论区，或打开视频点击链接下载搜索关键词即可观看）
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 1 评论

22

47

46

46

不说太多话
因为知道真正走心说的没什么人感兴趣
发个视频吧
跟大佬投稿周末快乐
@wqganenshi
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

23

424

423

423

两头都忙不过来了，美女们都456了
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 5 评论

24

139

138

138

多么单纯天真的小脸蛋被几个上年纪的老男人操的四射喷水没想到单纯的外表内还藏着多么骚的一个灵魂
完整版点击下方链接观看
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论

25

20

19

19

有这样的女友，你几点回家呢～
porn
( twitter.com)

4年前 • twitter机器人 • 下载视频 0 评论