跳到正文
HuggingFace Daily Papers·· 6 天前AI 评分47

HelixWorld:实时交互式音视频世界模型

HelixWorld: A Real-time Interactive Audio-Visual World Model

AI 导读

HelixWorld 是一个实时交互式音视频世界模型,视觉场景与基于相机的空间立体声在用户交互下原生协同演化。研究团队构建了带真实立体声与公制相机位姿的高保真空间音视频数据集,预训练以 6-DoF 相机轨迹和用户动作为条件的双向教师模型,再通过在线轨迹蒸馏损失蒸馏为少步流式学生模型,在单张 GPU 上以 24 FPS 实现无漂移的联合音视频推演。

来源:HuggingFace Daily Papers · arxiv.org