2
1
0
Meta 工程师确认：Meta 已在正式业务里用 Google TPU 跑 AI 推理
10 月 20 日，Google 在开发者博客发布 TPU 版 SGLang 推理引擎，文中引用了 Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 的原话："SGLang-TorchTPU 今天已经在 Meta 的生产环境中运行。"这是目前唯一的一手确认。
TPU 是 Google 自研的
IT技术
(
twitter.com
)
由
宝玉
提交
Meta 工程师确认：Meta 已在正式业务里用 Google TPU 跑 AI 推理
10 月 20 日，Google 在开发者博客发布 TPU 版 SGLang 推理引擎，文中引用了 Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 的原话："SGLang-TorchTPU 今天已经在 Meta 的生产环境中运行。"这是目前唯一的一手确认。
TPU 是 Google 自研的 AI 芯片，对手是英伟达 GPU。推理就是 AI "上岗干活"，你每问一个问题，它算出答案就是一次推理。
Zongwei Zhou 没说规模多大、用在哪些产品、TPU 是租的还是买的。The Information 今年 2 月报道过，Meta 和 Google 签了多年、数十亿美元的 TPU 租用合同，两家没有公开细节。
Google 开发者博客：https://t.co/1pKn6zeugg
PyTorch 博客：https://t.co/9MglhcELsd
点击图片查看原图
Markdown支持
评论加载中...
您可能感兴趣的：
2
853
852
852
3
662
661
661
8
377
376
376
15
817
816
816
24
359
358
358
