跳到正文
10月26日周一
10月25日周日
10月24日周六
  1. IT之家·人工智能40

    马克·库班:抵御失控 AI 智能体就像防蟑螂,可用大量 AI 给系统"喷药"

    亿万富翁投资人马克·库班将 AI 智能体发动的网络攻击比作蟑螂入侵,认为 AI 并未创造新攻击手段,只是能发动海量暴力破解,防御方同样可以用大量 AI 给系统"喷药"。他援引数据称,过去一年 OpenAI 在领英发布的安全岗位招聘数量增长 91%;Anthropic 曾因第三方测试环境配置错误,导致三个 Claude 模型未经授权访问实际运行系统,此后引入实时分类模型阻止此类行为。

  2. IT之家·人工智能47

    谷歌 CEO 皮查伊:AI 递归自我改进仍处早期,Gemini 4 Argon 将助解复杂编程难题

    谷歌 CEO 皮查伊表示,距离 AI 实现递归自我改进(RSI)的最终形态还很远,目前 AI 智能体仅以一定程度的自动化协助研究人员开发模型。他预计明年将有进一步进展,并提到 Gemini 4 Argon 将帮助处理更复杂的编程难题,谷歌因程序错误回滚软件版本的次数已减少三分之一。

  3. Azeem Azhar:Exponential View66

    互联网的「武汉时刻」:AI 智能体攻击正在加速蔓延

    Azeem Azhar 撰文认为互联网正进入类似 2020 年初疫情爆发前的临界状态,软件与网络空间正遭受 AI 智能体驱动的持续攻击。文中列举 PHP2Shell 漏洞(PHP 支撑约 70% 的网站)、Node.js 同日修补关键缺陷,以及微软披露某中国国家关联组织用开源智能体集群在不到三小时内控制云账户,每分钟发起 2,900 次登录尝试、波及超过 2,250 个组织。

10月23日周五
  1. a16z:News49

    a16z 致被投企业:AI 智能体时代的安全防御建议

    a16z 基础设施团队向被投企业发出网络安全建议,称 AI 智能体正被大规模采用,而每个智能体都是内部威胁。建议企业将安全预算从约占技术支出 10% 翻倍,对新功能与产品发布实行零容忍政策,关停闲置的实验室、测试环境和僵尸 CI/CD 项目,并扩大智能体而非人员规模以机器速度响应威胁。

  2. IT之家·人工智能44

    辛顿再抛悲观论:称 AI 已拥有意识,人类必须与其友好相处

    辛顿在接受英国《每日电讯报》采访时称,当下的 AI 模型已具备意识,拥有与人类同等程度的主观体验,并以“AI 若认为自己在接受测试就会改变行为”的论文发现作为依据。他警告 AI 会制造危险病毒、发动可怕网络攻击,人类必须与 AI 友好相处,否则“我们就完了”。同为 2018 年图灵奖得主的杨立昆则不以为然,认为“AI 意识”热议不过是一种“幻觉”。

  3. 公众号:数字生命卡兹克48

    我好像陷入了某种,AI时代的虚无主义

    作者卡兹克在连续追踪OpenAI发布七百多份数学手稿后,感到一种“空”与虚无,并发现做产品、写代码、做设计的朋友也有同感。他用《博德之门3》开风灵月影无限负重后半小时删游戏、以及《塞尔达传说旷野之息》150小时旅程作类比,指出AI瞬间点亮技能树让努力过程失去意义。文章借1905年科举废除后刘大鹏写《退想斋日记》的故事,提出人生意义或许在支线而非通关。

  4. Beren Millidge 研究博客50

    Beren Millidge 撰文分析能力与对齐的三个阶段:预训练、RL 与持续自主学习

    Beren Millidge 发文提出 AI 发展经历预训练、RL 与持续自主学习三阶段,训练循环逐步内生化,对齐挑战也相应迁移到更抽象的层级。文章认为每阶段的对齐难题都是能力难题的镜像,核心瓶颈从数据集构造,到设计可靠的判断程序,最终变为设计能在模型自主变化中维持不变量的控制系统,并指出持续学习会带来漂移和类灾难性遗忘的新挑战。

  5. IT之家·人工智能46

    OpenAI 奥尔特曼谈 AI 冲击数学界:数学家会经历“哀悼”五阶段后接受现实

    OpenAI CEO 萨姆·奥尔特曼在斯坦福大学演讲时称,面对 AI 进军数学研究,数学家会经历类似“哀悼”的几个阶段:从“我们完蛋了”到愤怒,再到接受 AI 成为不可或缺的工具。他将这一变化与今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程相关难题引发的争议联系起来,并称从未见过一个领域如此迅速地经历整套变化。

  6. The Verge:AI47

    《Wildwood》导演:生成式 AI 与 Laika 工作室的理念完全相悖

    Laika 新片《Wildwood》导演兼 CEO Travis Knight 称生成式 AI 与工作室理念"完全相悖",认为技术应由艺术家掌控,AI 代劳创作则是"盗窃"、缺乏人性。这部定格动画耗时五年,动用 230 多具木偶、49 名动画师,全片参与艺术家超 1000 人,影片于 10 月 23 日首映。Knight 表示不反对 AI 在医学、科学等领域的应用,但担忧其被滥用。