宝玉:Google博客引述Meta工程师称SGLang-TorchTPU已在Meta生产环境运行
AI博主@dotey(宝玉)发帖称,Meta工程师确认Meta已在正式业务中用Google TPU跑AI推理。
据他介绍,Google于10月20日在开发者博客发布了TPU版的SGLang推理引擎,文中引用了Meta的PyTorch-TPU负责人Zongwei Zhou的原话:“SGLang-TorchTPU 今天已经在 Meta 的生产环境中运行。”宝玉称,这是目前唯一的一手确认。
以上内容来自宝玉转述的Google开发者博客,博客原文本社未见。
来源与说明本文依据原帖及其链接的公开资料整理。
原文:https://x.com/dotey/status/2112788283251962092
原文:https://x.com/dotey/status/2112788283251962092