Magnitude发布自优化推理引擎

2026年10月1日，Y Combinator S25 项目 Magnitude 在 Hacker News 发布其面向 Agent 的开源自优化推理引擎。据该报道，引擎会在本地设备上编译并调优内核，宣称相比 llama.cpp 最高快 2 倍，其中 Metal 上 decode 快 92%，CUDA 上快 19%。报道称该引擎免费、私密、开源，采用 Apache 2.0 许可，无 token 费用，数据不离开本机，支持 Apple Silicon、NVIDIA、AMD，甚至仅用 CPU 也可运行。上述性能数字与条件均来自 Magnitude 自身发布信息，为其单方面说法，尚无独立验证；这是该事件目前唯一一篇报道，暂无后续跟进或矛盾信息。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。