作者发表文章，认为AIs并无意识但‘模型福利’做法错误，将使对齐与遏制更难甚至不可能

微软AI于9月14日发布《人文主义AI行为准则》（Humanist AI Code of Conduct）首份草案，并开放六周公开征求意见。据IT之家与The Verge报道，该文件长达37页，核心原则为“人比AI更重要”；微软称模型必须从属于人类、接受有效的人类监督与管控，若任务会违反准则应直接判定失败而非突破规则。草案还提出模型应可中断、可纠正、可关闭，不得自行扩大工作范围或隐藏行为，推理过程不得使用人类无法理解的“Neuralese”式表达；并设网络攻击、核武器、深度伪造等绝对约束。微软同时反对赋予AI法人资格、权利或福利，称不应将模型设计成模仿意识。

关于适用范围与时间表，The Decoder报道称该准则目前并未用于训练模型，六周咨询后修订版预计2026年底出台、2027年起指导自研模型开发，且仅适用于微软自有模型，不自动覆盖微软产品中的第三方模型。Artificial Intelligence News称微软计划在公开咨询后定稿，并呼吁开发者从训练材料中移除意识主张、建立联合遏制基准。微软AI CEO穆斯塔法·苏莱曼表示，公司2025年10月成立超级智能团队，该准则将成为训练模型的治理文件。

苏莱曼同日另发表文章谈“模型福利”。他称AI并无意识、不会感受或受苦，但认为支持模型福利、主张人类可能对模型负有照护义务的做法是错误的，可能使对齐与遏制更难甚至不可能。The Decoder指出，微软在模型自我认知问题上与Anthropic立场分歧明显。

IT之家提到，Anthropic CEO达里奥·阿莫代伊上周末呼吁各方协同放缓AI研发进度，此前已有研究人员警示模型迭代速度可能快于人类安全部署与管控能力；微软则表示反对一味竞速开发能绕过安全防护的通用超级智能，即便需在通用性、自主性或能力上限上做出取舍。