返回
AI 评分 51/100

BITCOS 布局突破三值 LLM 的 1.58-bit 存储壁垒

Hacker News:AI 热帖·2026-09-17 04:59·2小时前·matt_d
AI 导读

论文提出 BITCOS,一种由存在位图加压缩符号向量组成的三值 LLM 权重布局,按零密度 z 计成本为 2−z bits per weight。作者实测 29 个三值模型发现零权重占比最高达 51.5%,其中 26 个模型的存储比 five-trit packing 更紧凑,最稀疏模型达 1.485 bits per weight。

Hacker News:AI 热帖
51AI 编辑部评分,满分 100

BITCOS 布局突破三值 LLM 的 1.58-bit 存储壁垒

2026-09-17 04:59· 2小时前· matt_d
AI 导读

论文提出 BITCOS,一种由存在位图加压缩符号向量组成的三值 LLM 权重布局,按零密度 z 计成本为 2−z bits per weight。作者实测 29 个三值模型发现零权重占比最高达 51.5%,其中 26 个模型的存储比 five-trit packing 更紧凑,最稀疏模型达 1.485 bits per weight。

该来源未收录可展示正文,站内仅提供摘要。

阅读原文(在新标签页打开)

来源:Hacker News:AI 热帖· arxiv.org