蚂蚁 inclusionAI:GitHub 新仓库· inclusionAI·· 2026-04-02AI 评分40
inclusionAI/cuLA:基于CuTe DSL与CUTLASS C++的线性注意力变体CUDA内核
inclusionAI/cuLA
AI 导读
inclusionAI发布了cuLA项目,这是一套为线性注意力变体编写的CUDA内核。该内核完全采用NVIDIA的CuTe DSL和CUTLASS C++库进行开发,旨在高效实现Transformer模型中的线性注意力机制。此举专注于底层计算优化,通过利用先进的CUDA编程抽象和高效模板库,有望提升大语言模型在推理和训练过程中的计算性能与效率。
来源:蚂蚁 inclusionAI:GitHub 新仓库 · github.com