OpenAI 分享 Voice Engine 自定义语音模型小规模预览的经验
OpenAI 分享了自定义语音生成模型 Voice Engine 小规模预览的经验教训。该模型可根据文本创建自定义语音,目前仍处于小范围测试阶段。
OpenAI 分享了自定义语音生成模型 Voice Engine 小规模预览的经验教训。该模型可根据文本创建自定义语音,目前仍处于小范围测试阶段。
OpenAI 上月发布 Sora 后,与艺术家合作探索该模型如何辅助创作流程,并公布首批使用反馈。
LlamaIndex 基于 Gemini 1.5 Pro 的 1M 上下文窗口初步测试,提出长上下文 LLM 会简化 RAG 的分块、检索与摘要等环节,但仍面临文档规模超窗、嵌入模型上下文落后以及成本与延迟等挑战。
英国 AI Security Institute 发布博客,介绍其模型评估工作的整体思路,包括为何开展这项评估、测试哪些内容、如何选择模型,以及近期的演示成果和未来工作计划。
Licklider 1960年论文《人机共生》提出"智能增强"(IA)是通向AI的过渡阶段,预测人机能力互补——计算机处理机械工作、人类负责思考,这一范式延续64年直至LLM打破界限。他预见云计算雏形,但误判技术路径:当时看好的逻辑推理AI成死胡同,而因缺乏数据被忽视的统计方法(LLM)终成主流。对交互预测也偏离现实:设想的多人协作大屏未普及,键盘鼠标仍是主导;对语音识别"5年实现"的乐观估计,实际耗时64年未成熟。
推荐理由:Karpathy 借 1960 年文献反思人机共生与 AI 发展路径,历史洞察深刻
Sam Altman 分享17条创业与管理建议:以乐观、信念和人际网络启动项目,用凝聚团队和长期主义推动落地;集中资源押注高信念项目,设计好激励机制,保持快速迭代;警惕官僚作风,重视人才招聘与复利效应,与优秀的人共事。
推荐理由:OpenAI CEO Sam Altman 的创业管理核心原则
LangChain 撰文认为 OpenAI 开发者日发布的 GPTs 和 Assistants API 代表对封闭式 agent 认知架构的押注,即由 LLM 全权决定状态转移。文章指出当前真正可靠的应用多采用复杂链或状态机架构,并强调推送而非拉取上下文能带来更高可控性,同时提出开源认知架构与闭源之争将比模型之争更值得关注。
推荐理由:文章把 GPTs 和 Assistants API 归纳为对封闭 agent 认知架构的押注,并结合 GPT-Researcher 等案例说明为何自定义架构更可控。
OpenAI 提出应从现在开始思考超级智能的治理问题,即未来能力远超 AGI 的 AI 系统。该表态未给出具体治理方案或时间表。
OpenAI 阐述了其确保 AI 系统安全构建、部署和使用的方法,称这是其使命的关键。
OpenAI 发文阐述其对 AGI 的规划,将 AGI 定义为"比人类更聪明的 AI 系统",并重申使命是确保其造福全人类。
OpenAI 正在澄清 ChatGPT 行为的塑造方式,并公布改进计划:让用户拥有更多定制空间,同时在这些决策领域引入更多公众意见。
OpenAI 正在提升 AI 系统从人类反馈中学习、并辅助人类评估 AI 的能力。其目标是构建一个足够对齐的 AI 系统,进而帮助解决其余所有对齐问题。
OpenAI 公开其在语言模型安全与滥用方面的最新思考,旨在帮助其他 AI 开发者应对已部署模型的安全与滥用问题。
本文探讨了一个根本性问题:语言意义能否仅从形式数据(如文本语料)中学习?研究通过理论模型论证,即使模型能获得近乎无限的文本数据并具备查询任意两段文本语义等价性的强大“神谕”能力,也无法真正习得意义。文章以代码断言为喻,强调从形式通向意义需要一个最小的“接地点”,即对基本断言含义的初始理解。作者指出,现有模型在复杂任务上的局限正是纯形式学习不足的体现,并提出了一个关键理论问题:这个必要的“接地点”可以小到何种程度,才能启动有意义的学习?
曾与创始人合作、现与研究人员共事的作者发现,尽管两类人差异显著,但顶尖者都思考"领域内最重要的问题"、兼具短期专注与长期视野、极度坚持、偏向行动、创意丰富且重视自主,动机常源于好奇心。
推荐理由:Sam Altman深度剖析顶尖研究者与创始人的共同特质
YC 曾实验资助无想法的优秀创始人,结果全部失败,证明创始人必须自身擅长产生想法。要身处正确环境:周围需有对未来敏感、乐观、想法丰富的人,远离愤世嫉俗者。关注重大结构性转变,区分真实与虚假趋势。评估想法时考虑能否做大、创始人与公司是否匹配,以及能否解释为何大多数人认为是坏主意但你看到价值。
推荐理由:Sam Altman 分享识别技术趋势的方法论,称适用于 AI 发展
作者因特定环境刺激变得怀旧,重新拾起一个项目。经过一个多小时二十几个commits的调整,实现了理想的Minimalism风格。回顾高中时期和OI阶段的百度贴吧、空间等经历,感叹许多人事物在短短几年内难以物理回溯。然而,精神世界的回忆可通过符号融入语言之河,以Minimalism方式将消散的故事链接进千年生活。这种对记忆与语言连接的思考,可能启发了作者对智能和语言的研究。
创业中最反直觉的秘密是,做困难的创业往往比容易的创业更易成功。容易启动的项目虽简单起步,却因缺乏使命感而难以吸引顶尖人才;反之,解决核聚变、基因编辑等难题虽需大量资源,却能靠"世界需要这个"的使命感招募人才,形成顺风。建议创业者设定宏大愿景但保持合理节奏,以10年而非3年的长期承诺建立复利优势。
Sam Altman 观察到,旧金山对争议话题的开放度已不及北京,过度政治正确正在扼杀创新。他指出,从牛顿研究炼金术到比特币的诞生,所有突破性想法最初都看似异端;当社会将持不同意见者视为异端而非辩论对象时,思想交流逐渐停滞,顶尖人才开始外流。警告称,若无法容忍"地球是圆的"这类曾经危险的观点,湾区将失去孕育 SpaceX 或比特币的土壤。
人类与机器的"融合"并非未来奇点,而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维,我们正与AI进入共同进化阶段:AI影响人类,人类改进AI。随着算力和AI人才呈双指数级增长,超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰,深度融合或许是避免物种冲突的最佳路径,但全球需立即开始严肃协调应对。
推荐理由:Sam Altman 经典长文阐述人机融合已启动,AGI 时代需全球协调应对
OpenAI 表示其 Dota 2 结果显示,在足够算力下自我博弈(self-play)可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手,此后仍在继续提升;自我博弈系统中的数据会随智能体变强而自动改善,不受监督深度学习训练数据集质量上限的约束。
推荐理由:OpenAI 借 Dota 2 结果说明自我博弈为何能突破监督学习的数据上限,对理解强化学习路线有参考价值。
OpenAI 发布博文,探讨强化学习算法因奖励函数设定错误而出现意外、反直觉行为的一种失败模式,并计划具体展开该问题的表现方式。