按该来源的展示范围，站内仅提供摘要。
前往原站阅读（在新标签页打开）vLLM TT Plugin 发布：在 Tenstorrent 硬件上服务 LLM
AI 导读
vLLM 推出 TT Plugin，通过 out-of-tree 平台插件机制将 Tenstorrent 加速器接入 vLLM，安装后只要 TT-Metal 的 ttnn 可导入即自动注册为 vLLM 平台，OpenAI 兼容 API 与客户端代码保持不变。
vLLM 官方博客（RSS）
44
AI 编辑部评分，满分 100vLLM TT Plugin 发布：在 Tenstorrent 硬件上服务 LLM
vLLM 推出 TT Plugin，通过 out-of-tree 平台插件机制将 Tenstorrent 加速器接入 vLLM，安装后只要 TT-Metal 的 ttnn 可导入即自动注册为 vLLM 平台，OpenAI 兼容 API 与客户端代码保持不变。
来源：vLLM 官方博客（RSS）· vllm.ai