跳到正文
只看观点#政策/监管
11月10日周二
11月9日周一
11月8日周日
  2. Rohan Paul56

    Alex Bores 称各 AI 公司都在尝试完全自动化 AI 研究即递归自我改进（RSI），OpenAI 称有望 2028 年 3 月实现，Anthropic 员工称 2027 年实现。他认为当前技术下任何错误或不对齐会在每代被放大，呼吁美国国会尽早禁止 RSI，并列出从 Bernie Sanders、Yoshua Bengio 到 Arvind Narayanan 等跨立场支持者。Rohan Paul 转发并评论称相关禁令讨论正变得越来越多。

    引用Alex Bores@AlexBores

    Every AI company is trying to fully automate AI research; to allow the AIs to build the next AI. This is called Recursive Self Improvement (RSI). OpenAI says they are on track to do so by March 2028. Anthropic employees say they are on track to do so by 2027. The METR report below suggests they are likely right. This is a bad idea given current technology. Any mistake or misalignment in current AIs could be multiplied in each generation. We don't get another election before AI companies reach this threshold. Congress should ban RSI, this year if possible. This is a remarkably consensus opinion, supported in various versions by: -Bernie Sanders -Steve Bannon -Ralph Nader -Glenn Beck -Republican and Democratic attorneys general -Whistleblower Daniel Kokotajlo -Turing Award winner Yoshua Bengio -Humans First -Open Markets Institute -Ezra Klein -Arvind Narayanan (a Princeton computer scientist known for arguing that “AI is a normal technology”) The exact mechanism can be debated. The ban doesn't have to be permanent either (see below for both). This is not the only thing we have to do in regards to AI, far from it! But it is urgent. Congress must ban RSI.

11月7日周六
  2. TechCrunch：AI60

    TechCrunch Equity 播客讨论中期选举后数据中心监管对科技业的影响

    TechCrunch 的 Equity 播客讨论本周美国中期选举结果对科技业的影响。本期节目中，选民本周就 41 项数据中心相关公投投票，除一项外多数都支持对数据中心开发施加更多限制；新当选的民主党州长和国会议员可能支持额外监管，节目还讨论了政府对 Big Tech 的审查加强，并提到 OpenAI 已在尝试为数据中心重新命名。

11月6日周五
  1. Platformer65

    Casey Newton 分析 AI 反弹浪潮为何需要监管计划

    Casey Newton 撰文分析美国中期选举后 AI 反弹成为选民不满主线，至少 38 个辖区通过限制数据中心的措施，民主党赢得国会多数并承诺加强科技监管。他援引社交媒体监管多年无果的教训，提醒新国会避免三个错误：缺乏一致目标、没有 plan B、各方各自为战；并指出 AI 发展速度远快于社交媒体，行业领袖普遍认为强大 AI 系统可能两年内到来，国会没有十年时间可以浪费。

  2. Mustafa Suleyman70

    Mustafa Suleyman 表示对特拉华州允许 AI 智能体经营企业的提案深感担忧，认为应非常谨慎。该提案拟设立名为 Delaware AIC 的独立法律实体，其日常事务由 AI 智能体而非人类管理，可依智能体指示以自身名义起诉应诉、持有和处置财产并承担债务。

    推荐理由：Microsoft AI CEO 对特拉华让 AI 智能体经营企业的立法提案表达审慎态度，可借此了解前沿从业者对智能体法律地位的担忧。

11月5日周四
11月1日周日
  1. Gary Marcus：The Road to AI We Can Trust49

    Gary Marcus 记录梵蒂冈 AI 会议：与教皇 Leo XIV 会面并谈 AI 伦理五点

    Gary Marcus 记述了 10 月 30 日在梵蒂冈与教皇 Leo XIV 的会面，并转述教皇关于 AI 的五点主张：AI 未来并非注定、机器是工具而非人、关键决策不可委托给 AI、智能技术应服务共同利益、亟需能落实伦理原则的国际机构。教皇还呼吁在 11 月日内瓦会议上推动禁止致命性自主武器。

10月30日周五
  1. ChinaTalk44

    从反叛乱研究到 DOE Genesis 任务：专访 Accenture Federal 的 Barnett Koven

    Accenture Federal Services AI 与数据董事总经理 Barnett Koven 在访谈中讲述从反叛乱研究转向政府 AI 应用的经历，包括用 NLP 从国务院每日约 3000 份外交电报中提取洞察。他讨论了机密 AI 环境中的“枪与装甲竞赛”、为 BIS 出口管制执法做实体消解与预测建模，以及 DOE 的 Genesis Mission。

10月25日周日
  1. Rohan Paul45

    Bill Gates 希望强大的开放权重模型只能在政府许可的场所运行。 对于任何能够实施复杂网络攻击的模型，他希望依法保留防护措施和监控。开发者仍可免费使用并定制这些模型，但只能在经过认证的平台上进行，这些平台会检测并拒绝任何试图剥离防护措施的尝试。 ---- 完整视频见“Decoder with Nilay Patel (@reckless) and The Verge”YouTube 频道，（链接见评论）

10月22日周四
10月20日周二
  1. IT之家·人工智能53

    黄仁勋访欧劝诫各国勿过度监管 AI，称否则将无法参与 AI 竞赛

    据《商业内幕》报道，英伟达 CEO 黄仁勋过去一周访问法国、瑞典、英国和德国，敦促欧洲加快 AI 发展步伐，不应过度依赖监管。他与德国总理默茨对话时表示，政策制定者应重点监管 AI 应用而非底层技术，称如果行业无法蓬勃发展就没什么可监管的；默茨回应欧洲正寻找创新与监管的平衡。他还认为德国可凭借制造业和工程技术优势，借助 AI 在下一场技术竞赛中占据有利位置。

10月19日周一
  2. The Verge：AI50

    民主党人认为，严管 AI 或能为其赢得选举优势

    民主党有望在 11 月中期选举中夺回国会至少一院，届时将掌握委员会主导权，可传唤 AI 公司 CEO 作证并要求提交内部文件。与民主党结盟的超级政治行动委员会 Tomorrow Together 上周在摇摆选区投入 400 万美元广告，抨击共和党候选人在 AI 议题上脱节。民调显示，特朗普与国会共和党人推动的禁止各州监管 AI 的主张比数据中心更不受欢迎。

10月17日周六
10月14日周三
  1. Stanford HAI News50

    Stanford HAI 对话 Deb Raji：AI 造成伤害时，责任该由谁承担？

    Stanford HAI 新晋访问研究员 Deb Raji 指出，AI 政策最难的未解问题是执法，即如何让企业真正改变行为并建立政府的执法能力。她当前研究 AI 问责基础设施，关注透明度文档模板、事件监测数据库与 AI 审计的落地工具，并聚焦政府、教育、医疗等无法退出的 AI 部署场景。

10月12日周一
  1. IT之家·人工智能40

    微软总裁布拉德 · 史密斯：AI 受到的监管甚至不如牛奶和洗衣机

    微软总裁布拉德 · 史密斯称，目前洗衣机受到的安全监管都比 AI 严格，每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格，要求持有失控 AI 智能体的公司为其入侵其他企业造成的损害承担责任，并建议企业设置“终止开关”以便在 AI 失控时暂停运行。

10月9日周五
10月6日周二
  1. The Verge：AI49

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺，认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构，并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。他还讨论了最高法院推翻 Chevron deference 后新监管可能立即陷入诉讼的问题。

10月5日周一
10月4日周日
10月1日周四
9月30日周三
  2. Mark Zuckerberg62

    Mark Zuckerberg 转发白宫活动并称，美国各大实验室负责人已承诺实施稳健的内部控制和多层审计与审查，让公众更有信心各实验室构建的技术会按预期运行。其引用的 David Sacks 推文称该活动签署了《白宫超智能协议》；协议文件列明四层控制：监控模型训练与部署中的能力和对齐、设立内部团队保障控制运行、引入独立外部审计、设立董事会独立委员会监督。

    引用David Sacks@DavidSacks

    Only President Trump could convene all the leaders of the top companies developing chips, data centers and frontier models for Super Intelligence. This new Industrial Revolution has already created a million new jobs and is spurring a bigger infrastructure build-out than the railroads, canals and grid combined. I was honored to witness history as the leaders of the frontier lab companies signed the White House Accord on Super Intelligence, accepting responsibility for the safe development of their products and imposing new internal controls and external audits. This is far better than waiting years for some international agreement that would probably never happen. President Trump continues to ensure that U.S. remains the technology leader while putting Americans first.

9月29日周二
9月28日周一
  1. AI as Normal Technology49

    普林斯顿学者：AI 灭绝风险概率估算不可靠，不应作为政策依据

    Arvind Narayanan 等学者重发文章指出，当前关于 AI 存在性风险（p(doom)）的概率估算缺乏严谨的方法论支持，主要依赖直觉而非验证模型。由于不存在历史参照类，归纳法失效；演绎法和主观估算法也面临假设争议。作者认为这些数字具有误导性，尤其当决策者据此制定限制开源模型等高成本政策时，缺乏正当性基础。他们主张区分学术预测与公共政策应用，并呼吁建立更广泛的“大帐篷”式 AI 安全运动，而非仅聚焦于超级智能带来的灭绝风险。

9月25日周五
9月24日周四
9月23日周三
  1. Hacker News：AI 热帖59

    美国批评澳大利亚拟议的社交媒体算法退出法规，称其构成审查

    美国驻堪培拉使馆向澳大利亚拟议的数字注意义务法规提交意见，批评要求科技公司提供关闭算法选项的规定，称其可能构成基于观点的审查，并担心影响澳大利亚以外用户的所见所闻。澳大利亚总理 Albanese 回应称立法不是给政府控制权，而是把控制权交还给个人。此前澳大利亚已于去年12月推出16岁以下社交媒体禁令。

9月22日周二
  2. IT之家·人工智能62

    联合国秘书长古特雷斯在联大呼吁全球监管人工智能，警示杀人机器人风险

    联合国秘书长古特雷斯在联大卸任前最后一次讲话中呼吁对人工智能实施国际监管，建立新的安全保障机制，并明确反对致命自主武器出现在未来。他警告前沿大模型发展可能削弱主权国家治理能力，权力正转向少数私营企业；OpenAI 同期呼吁制定国际认可的 AI 安全标准，联合国专家小组警示强大模型可能脱离人类管控，二十多个国家及欧盟领导人呼吁对先进模型实施强制性安全测试。