Together AI 详解 GPU 集群自动修复机制

Together AI 发文介绍其 GPU 集群自动修复系统的工作原理与设计。该系统在虚拟机内和宿主机两侧持续进行被动健康检查，监测 Xid 错误、ECC 双比特错误、PCIe 掉卡和 InfiniBand 链路抖动，并为每项修复附带证据。 Together AI 称，被动健康检查、修复建议、自动修复策略（含按故障类型和按节点授权）、等待空闲控制、升级阶梯、安全护栏以及 API 与控制台修复功能现已正式可用；基于节点标签的修复契约处于预览阶段，允许用户接入 NVSentinel 或自定义控制器等自有检测系统。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。