热点事件 历史事件

TRL v1.14为AsyncGRPOTrainer加入LoRA支持（PR #7017），可训练适配器并仅同步该适配器到vLLM

1 篇报道1 个精选信源

先了解这件事

报道摘要

Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中支持只训练和同步 LoRA adapter，配合 Storage Bucket 挂载与代理路由，让训练 Job 和 vLLM 推理 Job 在不同机器上运行而无需 NCCL。

摘自 Hugging Face：Blog
最新进展
Hugging Face 用 LoRA 与 Storage Bucket 在 HF Jobs 上跑异步 GRPO，免 NCCL 并提速 3.9 倍

报道时间线

沿着报道，了解事件的不同侧面。

  1. Hugging Face：Blog官方一手精选
    Hugging Face 用 LoRA 与 Storage Bucket 在 HF Jobs 上跑异步 GRPO，免 NCCL 并提速 3.9 倍

    Hugging Face 在 TRL v1.14 的 AsyncGRPOTrainer 中支持只训练和同步 LoRA adapter，配合 Storage Bucket 挂载与代理路由，让训练 Job 和 vLLM 推理 Job 在不同机器上运行而无需 NCCL。