
Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END


Google Cloud 宣布与 Meta 的 PyTorch 团队共同开发的 TorchTPU 已在 GitHub 开源,TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d、TorchTitan 等框架已接入,Hugging Face Transformers v5 可直接把模型部署到 TPU。
暂无评论内容