Ant Ling· @AntLingAGI · X·· 3 小时前AI 评分58
AI 导读
蚂蚁百灵感谢 vLLM 对 Ling-3.1-flash 提供 Day-0 支持,开发者可从第一天起用 vLLM 在自有基础设施上运行该模型。vLLM 侧信息显示该模型总参数约 560B、每 token 激活约 25B、支持最高 1M 上下文,可从简单需求描述生成网站、移动 UI 和交互原型。
正文
Big thanks @vllm_project for making Ling-3.1-flash ready to run on developers’ own infrastructure from day one!
🎉 Day-0 support for Ling-3.1-flash is here in vLLM! ~560B total parameters, ~25B active per token, and up to 1M context. From a rough brief to websites, mobile UIs, and interactive prototypes—serve it on your own infrastructure with vLLM. Congrats to @AntLingAGI!在 X 查看被引用的帖子
来源:Ant Ling · x.com