在我看来，权力集中在少数几个实验室是 AI 最大的风险。 [引用 @dwarkesh_sp]：我非常担心，在 RSI 期间，实验室会直接停止对外部署他们的模型。 这意味着他们会在这些模型最危险的用例（递归自我改进）上全速推进，而公众对能力本质和对齐状况一无所知。 最终我们会走上一条通往权力极度集中的道路。