跳到正文
2023年12月22日周五
  1. Sam Altman:Blog

    真希望有人早告诉我这些

    Sam Altman 分享17条创业与管理建议:以乐观、信念和人际网络启动项目,用凝聚团队和长期主义推动落地;集中资源押注高信念项目,设计好激励机制,保持快速迭代;警惕官僚作风,重视人才招聘与复利效应,与优秀的人共事。

    推荐理由:OpenAI CEO Sam Altman 的创业管理核心原则

2023年11月29日周三
  1. LangChain:Blog61

    LangChain 撰文分析 OpenAI 押注 GPTs 与 Assistants API 背后的认知架构

    LangChain 撰文认为 OpenAI 开发者日发布的 GPTs 和 Assistants API 代表对封闭式 agent 认知架构的押注,即由 LLM 全权决定状态转移。文章指出当前真正可靠的应用多采用复杂链或状态机架构,并强调推送而非拉取上下文能带来更高可控性,同时提出开源认知架构与闭源之争将比模型之争更值得关注。

    推荐理由:文章把 GPTs 和 Assistants API 归纳为对封闭 agent 认知架构的押注,并结合 GPT-Researcher 等案例说明为何自定义架构更可控。

2023年6月23日周五
  1. Lilian Weng:Lil'Log50

    大语言模型驱动的自主智能体

    以大语言模型为核心控制器的自主智能体系统,通过规划、记忆和工具使用三大组件构建复杂任务处理能力。规划模块支持任务分解与自我反思优化;记忆系统包含短期上下文学习与基于外部向量存储的长期记忆;工具使用则允许代理调用外部API获取模型权重未覆盖的信息与能力。系统已在AutoGPT、GPT-Engineer等多个概念验证项目中实现初步演示,展现了LLM超越文本生成、作为通用问题解决器的潜力。

2023年5月22日周一
2023年2月24日周五
2023年2月16日周四
2022年8月31日周三
2021年9月19日周日
2021年1月24日周日
  1. Eugene Yan:Writing45

    你并不真的需要再上一门 MOOC

    大多数 MOOC 遵循帕累托原则,只教达到 80% 结果所需的 20% 知识,上完一两门后学习收益便急剧递减。看视频只是被动消费,真正提升数据科学与机器学习能力要靠脱离"快乐路径"的真实项目,在脏数据、CUDA 报错和反复调试中按需学习。技术技能会衰减,应像 YAGNI 一样只学项目推进所需的内容。

2020年11月8日周日
  1. Eugene Yan:Writing50

    Eugene Yan 解析数据科学家、应用/研究科学家与机器学习工程师的区别

    Eugene Yan 撰文区分数据科学家、应用科学家、研究科学家和机器学习工程师四类角色的目标、技能与交付物:数据科学家靠分析支持决策,应用科学家构建 ML 系统改善业务,研究科学家开发新方法并发论文,MLE 搭建基础设施和平台。文章回顾了 Facebook、Lyft 等公司拆分或更名岗位的背景,指出细分有助于岗位匹配但会削弱端到端交付,并提醒长期看技能和交付物比头衔更重要。

2020年8月23日周日
  1. Eugene Yan:Writing40

    拥抱初学者心态,避免成为“专家型新手”

    文章提出“专家型新手”概念:在狭窄场景中靠有限技能获得成功并被他人称为专家后,人容易停止学习、固守旧工具与做法,进而排斥团队中的新技术建议,导致人才流失和“死海效应”。作者建议以禅宗“初学者心态”(Shoshin)保持开放与好奇,像学生一样持续学习。

2020年8月9日周日
2020年6月20日周六
  1. Sam Altman:Blog

    研究人员与创始人

    曾与创始人合作、现与研究人员共事的作者发现,尽管两类人差异显著,但顶尖者都思考"领域内最重要的问题"、兼具短期专注与长期视野、极度坚持、偏向行动、创意丰富且重视自主,动机常源于好奇心。

    推荐理由:Sam Altman深度剖析顶尖研究者与创始人的共同特质

2020年5月29日周五
  1. Sam Altman:Blog

    如何获得创业想法

    YC 曾实验资助无想法的优秀创始人,结果全部失败,证明创始人必须自身擅长产生想法。要身处正确环境:周围需有对未来敏感、乐观、想法丰富的人,远离愤世嫉俗者。关注重大结构性转变,区分真实与虚假趋势。评估想法时考虑能否做大、创始人与公司是否匹配,以及能否解释为何大多数人认为是坏主意但你看到价值。

    推荐理由:Sam Altman 分享识别技术趋势的方法论,称适用于 AI 发展

2020年2月27日周四
  1. Sam Altman:Blog

    艰难的创业

    创业中最反直觉的秘密是,做困难的创业往往比容易的创业更易成功。容易启动的项目虽简单起步,却因缺乏使命感而难以吸引顶尖人才;反之,解决核聚变、基因编辑等难题虽需大量资源,却能靠"世界需要这个"的使命感招募人才,形成顺风。建议创业者设定宏大愿景但保持合理节奏,以10年而非3年的长期承诺建立复利优势。

2019年3月14日周四
  1. Lilian Weng:Lil'Log42

    深度神经网络是否严重过拟合?

    深度神经网络因参数众多且训练误差易达完美,常被认为会严重过拟合,却仍能有效泛化到样本外数据,这一悖论困扰着许多从传统机器学习转型的研究者。文章更新于2019年5月27日,新增了Lottery Ticket Hypothesis部分,该假说通过网络稀疏性为理解泛化能力提供了新视角。内容从困惑切入,分析深度学习与传统方法的差异,探讨过拟合问题的本质,但未提供具体实验数据或指标。

2017年12月15日周五
  1. Sam Altman:Blog

    但它确实在动(E Pur Si Muove)

    Sam Altman 观察到,旧金山对争议话题的开放度已不及北京,过度政治正确正在扼杀创新。他指出,从牛顿研究炼金术到比特币的诞生,所有突破性想法最初都看似异端;当社会将持不同意见者视为异端而非辩论对象时,思想交流逐渐停滞,顶尖人才开始外流。警告称,若无法容忍"地球是圆的"这类曾经危险的观点,湾区将失去孕育 SpaceX 或比特币的土壤。

2017年12月8日周五
  1. Sam Altman:Blog

    融合

    人类与机器的"融合"并非未来奇点,而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维,我们正与AI进入共同进化阶段:AI影响人类,人类改进AI。随着算力和AI人才呈双指数级增长,超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰,深度融合或许是避免物种冲突的最佳路径,但全球需立即开始严肃协调应对。

    推荐理由:Sam Altman 经典长文阐述人机融合已启动,AGI 时代需全球协调应对

2017年8月16日周三
  1. OpenAI:官网动态71

    OpenAI 谈 Dota 2 成绩:自我博弈让系统从低于人类到超人水平

    OpenAI 表示其 Dota 2 结果显示,在足够算力下自我博弈(self-play)可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手,此后仍在继续提升;自我博弈系统中的数据会随智能体变强而自动改善,不受监督深度学习训练数据集质量上限的约束。

    推荐理由:OpenAI 借 Dota 2 结果说明自我博弈为何能突破监督学习的数据上限,对理解强化学习路线有参考价值。

2016年12月21日周三