HuggingFace Daily Papers(社区热门论文)·· 3 天前AI 评分34
不改参数改乘积:面向 Transformer 的结合代数层
Change the Product, Keep the Parameters: Associative Algebra Layers for Transformers
AI 导读
研究者提出用结合代数中的稀疏交互表替代 Transformer 投影层的普通矩阵乘法,在物理块大小固定时实现矩阵维度上的二次算术复杂度,并给出适配 GPU 执行的形状约束。
来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org