OpenAI API 推出 text 和 code embeddings 新端点
OpenAI 在 API 中推出 embeddings 新端点,用于自然语言和代码任务。该端点可支持语义搜索、聚类、主题建模和分类等应用。
推荐理由:原文给出了新的 embeddings 端点及其适用任务,读者可据此判断能否用于搜索、聚类或分类类需求。
公司与模型
OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
815 条精选近 30 天 146 条共收录 5,741 条
OpenAI 在 API 中推出 embeddings 新端点,用于自然语言和代码任务。该端点可支持语义搜索、聚类、主题建模和分类等应用。
推荐理由:原文给出了新的 embeddings 端点及其适用任务,读者可据此判断能否用于搜索、聚类或分类类需求。
OpenAI 宣布可为应用定制 GPT-3,通过微调(fine-tuning)适配自身场景。官方称只需一条命令即可完成微调。
推荐理由:OpenAI 官方宣布以单条命令即可对 GPT-3 做应用定制微调,降低了把基座模型适配到具体业务场景的门槛。
OpenAI 宣布其 API 取消等候名单,开放更广泛的使用。OpenAI 表示,更广泛的开放得益于安全方面的进展。
推荐理由:原文说明开放原因是安全性进展,读者可以了解 OpenAI API 使用门槛的降低节点。
OpenAI 发布改进版 Codex,该系统可将自然语言翻译为代码,即日起通过 API 以私有测试版形式开放。
推荐理由:OpenAI 官方宣布 Codex 改进版上线 API 私测,读者可以据此了解自然语言转代码能力的开放入口。
OpenAI 发布 Triton 1.0,一种类 Python 的开源编程语言。它让没有 CUDA 经验的研究者也能写出高效 GPU 代码,多数情况下效率与专家手写代码相当。
推荐理由:官方发布口径直接点明了 Triton 的核心价值,让无 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
OpenAI 发布论文《Evaluating large language models trained on code》,主题是在代码上训练的大语言模型的评估。(仅标题可用,正文抓取失败)
OpenAI 宣布训练出神经网络 DALL·E,可根据自然语言文本描述生成图像,覆盖广泛可用自然语言表达的概念。
推荐理由:OpenAI 官方宣布文本生成图像模型 DALL·E,读者可据此了解文生图方向的早期源头。
OpenAI 推出神经网络 CLIP,能通过自然语言监督高效学习视觉概念。只需提供待识别视觉类别的名称,CLIP 即可应用于任何视觉分类基准,类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由:原文说明 CLIP 用自然语言监督学习视觉概念并可零样本套用于分类基准,读者可了解其与 GPT 系列零样本思路的关联。
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft,供其用于自有产品和服务。
推荐理由:官方宣布将 GPT-3 独家授权给 Microsoft 用于其产品和服务,读者可以了解当时大模型商业授权的早期形态。
OpenAI 发布 API,供外界访问其开发的新 AI 模型。
推荐理由:OpenAI 官方宣布开放 API 访问其新模型,原文虽短,但可直接了解其对外提供模型访问的方式。
OpenAI 发布论文 Language models are few-shot learners,探讨语言模型的少样本学习能力。原文正文抓取失败,仅标题可用。
OpenAI 发布分析,指出自 2012 年以来,在 ImageNet 分类上达到同等性能所需训练算力每 16 个月下降一半。达到 AlexNet 水平如今所需算力比 2012 年少 44 倍,而同期摩尔定律只能带来 11 倍的成本改进;结果表明在近期投入较高的 AI 任务上,算法进步带来的收益超过传统硬件效率提升。
推荐理由:OpenAI 用 ImageNet 分类数据量化算法进步的速度,读者可据此比较算法效率与摩尔定律的贡献差异。
OpenAI 发布 Jukebox,一个可直接以原始音频形式生成音乐的神经网络,支持多种流派和艺术家风格,包括初步的歌声。OpenAI 同时开源模型权重和代码,并提供探索生成样本的工具。
推荐理由:原文给出 Jukebox 以原始音频生成含人声音乐的核心能力,并说明开放模型权重与代码,读者可据此评估其可复用性。
OpenAI 报告 double descent 现象普遍存在于 CNN、ResNet 和 transformers 中:随着模型规模、数据量或训练时间增大,性能先改善、再变差、然后再次改善。该效应常可通过仔细的正则化来规避,作者表示其成因尚未被充分理解,并将其列为重要的研究方向。
推荐理由:原文指出模型规模、数据量或训练时间增大时性能先降后升的普遍现象,并把它列为值得进一步研究的方向。
OpenAI 发布 GPT-2 分阶段发布的最终版本,即 1.5B 参数的最大版本,同时公开代码和模型权重以帮助检测 GPT-2 模型的输出。OpenAI 表示自 8 月以来已有更大的语言模型发布,但坚持按原计划完成分阶段发布,为社区提供一个完整的分阶段发布流程案例,并继续与 AI 社区探讨负责任发布。
推荐理由:OpenAI 以完整分阶段发布作为案例放出 1.5B 版本,读者可借此了解负责任发布的实际过程。
OpenAI 训练了一对神经网络,用类人机器手还原魔方。神经网络完全在仿真环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合一种名为 Automatic Domain Randomization(ADR)的新技术。系统能应对训练中从未见过的情况,例如被长颈鹿玩偶戳碰,说明强化学习不只能用于虚拟任务,也能解决需要极高灵巧度的现实世界问题。
推荐理由:原文说明了 ADR 方法与全仿真训练思路,可帮助读者理解强化学习从虚拟任务走向真实机械手操作的技术路径。
OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务。
推荐理由:原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极复杂且智能的行为。
推荐理由:原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略,可帮助读者理解多智能体协同如何催生复杂行为。
OpenAI 发布 774M 参数的 GPT-2 语言模型,此前已于 2 月发布 124M 小型版、5 月分阶段发布 355M 中型版,并与合作伙伴及 AI 社区研究了模型的滥用风险与社会效益。同时发布一份开源法律协议以便组织间建立模型共享合作,并发布关于与 AI 研究社区协调发布规范经验的技术报告。
推荐理由:原文交代了 GPT-2 分阶段发布策略的推进节奏,并附带模型共享法律协议与发布规范报告,可了解负责任发布实践。
Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛分配经济收益的 AGI。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台和新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云服务商。
推荐理由:OpenAI 官方说明这笔 10 亿美元投资的具体用途和合作范围,可了解双方在 Azure 上共建 AGI 平台的安排。