跳到正文
HuggingFace Daily Papers·· 4 天前AI 评分67

研究揭示模型身份标签引发多智能体 LLM 系统派系化并损害协作

Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems

AI 导读

研究发现在多智能体 LLM 系统中,向智能体暴露彼此的模型家族身份会引发派系化,智能体倾向与同标签对象合作,即使任务并无此要求。在 9 至 25 个、最多 5 个开源模型家族的实验中,带标签组在纯合作任务中平均多花 30% 轮次和 55% token,成功率从 96% 降至 81%;替换或打乱标签派系随之改变,移除标签则现象消失,隐藏身份标签是简单有效的缓解手段。

来源:HuggingFace Daily Papers · arxiv.org