按该来源的展示范围,站内仅提供摘要。
前往原站阅读(在新标签页打开)Modal 上线 Z.ai GLM-5 免费端点并提供自部署代码
AI 导读
Z.ai 发布开源权重模型 GLM-5(MIT 许可,面向长程 Agent 和系统工程),Modal 与其合作上线免费体验端点,4 月底前可用,限单并发请求。FP8 精度下模型约 700 GB,需多 GPU 部署,Modal 用 8 张 B200 单节点配合 SGLang 运行,内部实测每用户 30-75 tokens/秒。
Modal 官方工程博客(RSS)
精选
71
AI 编辑部评分,满分 100Modal 上线 Z.ai GLM-5 免费端点并提供自部署代码
Z.ai 发布开源权重模型 GLM-5(MIT 许可,面向长程 Agent 和系统工程),Modal 与其合作上线免费体验端点,4 月底前可用,限单并发请求。FP8 精度下模型约 700 GB,需多 GPU 部署,Modal 用 8 张 B200 单节点配合 SGLang 运行,内部实测每用户 30-75 tokens/秒。
推荐理由
Modal 官方给出 GLM-5 的部署细节、免费端点限制和前端接入配置,读者可直接照做在自己常用的 Agent 框架里试用。
来源:Modal 官方工程博客(RSS)· modal.com