跳到正文

公司与模型

OpenAI / ChatGPT 最新动态

OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。

815 条精选近 30 天 146 条共收录 5,741 条

更新

精选归档 · 第 40 页

1月25日周二第 781–800 条
  1. OpenAI:官网动态69

    OpenAI API 推出 text 和 code embeddings 新端点

    OpenAI 在 API 中推出 embeddings 新端点,用于自然语言和代码任务。该端点可支持语义搜索、聚类、主题建模和分类等应用。

    推荐理由:原文给出了新的 embeddings 端点及其适用任务,读者可据此判断能否用于搜索、聚类或分类类需求。

12月14日周二
  1. OpenAI:官网动态60

    OpenAI 推出 GPT-3 应用定制微调功能

    OpenAI 宣布可为应用定制 GPT-3,通过微调(fine-tuning)适配自身场景。官方称只需一条命令即可完成微调。

    推荐理由:OpenAI 官方宣布以单条命令即可对 GPT-3 做应用定制微调,降低了把基座模型适配到具体业务场景的门槛。

11月18日周四
  1. OpenAI:官网动态71

    OpenAI API 取消等候名单,全面开放使用

    OpenAI 宣布其 API 取消等候名单,开放更广泛的使用。OpenAI 表示,更广泛的开放得益于安全方面的进展。

    推荐理由:原文说明开放原因是安全性进展,读者可以了解 OpenAI API 使用门槛的降低节点。

8月10日周二
7月28日周三
  1. OpenAI:官网动态60

    OpenAI 开源 Triton 1.0:让研究者无需 CUDA 经验也能写高效 GPU 代码

    OpenAI 发布 Triton 1.0,一种类 Python 的开源编程语言。它让没有 CUDA 经验的研究者也能写出高效 GPU 代码,多数情况下效率与专家手写代码相当。

    推荐理由:官方发布口径直接点明了 Triton 的核心价值,让无 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。

7月7日周三
1月5日周二
  1. OpenAI:官网动态81

    OpenAI 发布 CLIP:连接文本与图像的神经网络

    OpenAI 推出神经网络 CLIP,能通过自然语言监督高效学习视觉概念。只需提供待识别视觉类别的名称,CLIP 即可应用于任何视觉分类基准,类似 GPT-2 和 GPT-3 的零样本能力。

    推荐理由:原文说明 CLIP 用自然语言监督学习视觉概念并可零样本套用于分类基准,读者可了解其与 GPT 系列零样本思路的关联。

9月22日周二
6月11日周四
5月28日周四
5月5日周二
  1. OpenAI:官网动态61

    OpenAI 分析:训练神经网络所需算力每 16 个月减半

    OpenAI 发布分析,指出自 2012 年以来,在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。达到 AlexNet 水平如今所需算力比 2012 年少 44 倍,而同期摩尔定律只能带来 11 倍的成本改进;结果表明在近期投入较高的 AI 任务上,算法进步带来的收益超过传统硬件效率提升。

    推荐理由:OpenAI 用 ImageNet 分类数据量化算法进步的速度,读者可据此比较算法效率与摩尔定律的贡献差异。

4月30日周四
  1. OpenAI:官网动态66

    OpenAI 发布音乐生成模型 Jukebox 并开源权重与代码

    OpenAI 发布 Jukebox,一个可直接以原始音频形式生成音乐的神经网络,支持多种流派和艺术家风格,包括初步的歌声。OpenAI 同时开源模型权重和代码,并提供探索生成样本的工具。

    推荐理由:原文给出 Jukebox 以原始音频生成含人声音乐的核心能力,并说明开放模型权重与代码,读者可据此评估其可复用性。

12月5日周四
  1. OpenAI:官网动态60

    OpenAI 发现深度学习中的深度双下降现象

    OpenAI 报告 double descent 现象普遍存在于 CNN、ResNet 和 transformers 中:随着模型规模、数据量或训练时间增大,性能先改善、再变差、然后再次改善。该效应常可通过仔细的正则化来规避,作者表示其成因尚未被充分理解,并将其列为重要的研究方向。

    推荐理由:原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。

11月5日周二
  1. OpenAI:官网动态80

    OpenAI 发布 GPT-2 最大版本 1.5B 参数模型及代码与权重

    OpenAI 发布 GPT-2 分阶段发布的最终版本,即 1.5B 参数的最大版本,同时公开代码和模型权重以帮助检测 GPT-2 模型的输出。OpenAI 表示自 8 月以来已有更大的语言模型发布,但坚持按原计划完成分阶段发布,为社区提供一个完整的分阶段发布流程案例,并继续与 AI 社区探讨负责任发布。

    推荐理由:OpenAI 以完整分阶段发布作为案例放出 1.5B 版本,读者可借此了解负责任发布的实际过程。

10月15日周二
  1. OpenAI:官网动态61

    OpenAI 用机器手训练神经网络还原魔方

    OpenAI 训练了一对神经网络,用类人机器手还原魔方。神经网络完全在仿真环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合一种名为 Automatic Domain Randomization(ADR)的新技术。系统能应对训练中从未见过的情况,例如被长颈鹿玩偶戳碰,说明强化学习不只能用于虚拟任务,也能解决需要极高灵巧度的现实世界问题。

    推荐理由:原文说明了 ADR 方法与全仿真训练思路,可帮助读者理解强化学习从虚拟任务走向真实机械手操作的技术路径。

9月19日周四
  1. OpenAI:官网动态65

    OpenAI 用人类偏好微调 774M 参数 GPT-2

    OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务。

    推荐理由:原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

9月17日周二
  1. OpenAI:官网动态62

    OpenAI 在多智能体躲猫猫游戏中观察到自发工具使用

    OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极复杂且智能的行为。

    推荐理由:原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略,可帮助读者理解多智能体协同如何催生复杂行为。

8月20日周二
  1. OpenAI:官网动态70

    OpenAI 发布 774M 参数版 GPT-2 并分享分阶段发布经验

    OpenAI 发布 774M 参数的 GPT-2 语言模型,此前已于 2 月发布 124M 小型版、5 月分阶段发布 355M 中型版,并与合作伙伴及 AI 社区研究了模型的滥用风险与社会效益。同时发布一份开源法律协议以便组织间建立模型共享合作,并发布关于与 AI 研究社区协调发布规范经验的技术报告。

    推荐理由:原文交代了 GPT-2 分阶段发布策略的推进节奏,并附带模型共享法律协议与发布规范报告,可了解负责任发布实践。

7月22日周一
  1. OpenAI:官网动态85

    Microsoft 向 OpenAI 投资 10 亿美元并达成 AGI 合作

    Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛分配经济收益的 AGI。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台和新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云服务商。

    推荐理由:OpenAI 官方说明这笔 10 亿美元投资的具体用途和合作范围,可了解双方在 Azure 上共建 AGI 平台的安排。