# Cohere 发布基于 decode megakernel 的开源 LLM 推理服务系统

- 来源：Cohere (@cohere)
- 发布时间：2026-09-09 03:44
- AIHOT 分数：50
- AIHOT 链接：https://aihot.news/items/cmtt3e1x502n9rowa2bi2j1v0
- 原文链接：https://x.com/cohere/status/2097410772355666393

## AI 摘要

Cohere 发布首个围绕 decode megakernel 构建的完整 LLM 文本生成服务系统，性能最高比 vLLM 快 1.58x。该系统为 North Mini Code 打造，完全开源。

## 正文

Introducing the next evolution in LLM text generation: the first fully-fledged serving system built around a decode megakernel.

Delivering up to 1.58x faster performance than vLLM. Built for North Mini Code, completely open-source.