跳到正文
蚂蚁 inclusionAI:GitHub 新仓库· inclusionAI·· 2026-04-02AI 评分40

inclusionAI/cuLA:基于CuTe DSL与CUTLASS C++的线性注意力变体CUDA内核

inclusionAI/cuLA

AI 导读

inclusionAI发布了cuLA项目,这是一套为线性注意力变体编写的CUDA内核。该内核完全采用NVIDIA的CuTe DSL和CUTLASS C++库进行开发,旨在高效实现Transformer模型中的线性注意力机制。此举专注于底层计算优化,通过利用先进的CUDA编程抽象和高效模板库,有望提升大语言模型在推理和训练过程中的计算性能与效率。

来源:蚂蚁 inclusionAI:GitHub 新仓库 · github.com