OpenBMB· @OpenBMB · X·· 7 小时前AI 评分37
AI 导读
MiniCPM-OCR 1.0（1.3B）和 MiniCPM-OCR Jev（2B）现已可在 Apple Silicon 上运行，这得益于我们与 @neywalabs 团队的合作！🚀 在 M5 Max 上，OCR 1.0 达到 6,339 tok/s 的 prefill 和 220–235 tok/s 的 decode，而 Jev 仅以 62.9 ms 的中位延迟完成 OCR 结果。 查看博客：https://runnativ.ai/blog/minicpm-ocr-on-mlx-vlm
正文 · 原文
MiniCPM-OCR 1.0 (1.3B) and MiniCPM-OCR Jev (2B) now run on Apple Silicon, thanks to our partnership with the @neywalabs team! 🚀
On an M5 Max, OCR 1.0 reaches 6,339 tok/s prefill and 220–235 tok/s decode, while Jev scores OCR results in just 62.9 ms median latency.
Check out the blog: https://runnativ.ai/blog/minicpm-ocr-on-mlx-vlm
来源：OpenBMB · x.com