跳到正文
HuggingFace Daily Papers·· 1 天前AI 评分37

HC-DLM:分层连续扩散语言模型

Hierarchical Continuous Diffusion Language Models

AI 导读

研究者提出分层连续扩散语言模型(HC-DLM),将离散 token 生成与连续隐变量轨迹耦合进单一去噪过程,训练目标由 token 似然的变分下界推导而来。与把连续上下文附加到离散链上的做法不同,HC-DLM 让隐变量成为唯一持续存在的生成状态,每步从中读出 token 并反馈为下一步隐状态更新的脚手架。

来源:HuggingFace Daily Papers · arxiv.org