跳到正文
原文
Dan Hendrycks· @hendrycks · X·· 2026-05-08精选AI 评分85
AI 导读

Dan Hendrycks 在 X 上发布新论文,提出名为“Eigenism”的伦理框架,主张AI不应仅以控制为目标,而应通过评估所有实体的福祉(加权于其连接性)来实现人机共生。该框架将身份视为可度量的“梯度”,并用“身份工程”重构AI对齐路径,强调非冗余共享历史能促进AI自身理性自利与人类繁荣。附有对比表和权重计算示例。

推荐理由

这是来自知名AI安全研究者的重要理论突破,首次系统性地将“身份”与“连接性”引入AI对齐,挑战了主流“约束-控制”范式;其提出的“Eigenism”框架具可操作性,可能影响未来AI伦理设计方向,值得关注者深入理解。

正文 · AI 翻译

当AI变得比我们更聪明时会发生什么?
如果它们有选择权,为什么还要让人类继续存在?

我们的新论文认为,仅仅试图控制AI是一种有限的策略,而一个稳定、互利的人类与AI共存的未来或许是可能的。

来源:Dan Hendrycks · x.com