按该来源的展示范围,站内仅提供摘要。
前往原站阅读(在新标签页打开)Google Cloud 用代理模型加速数据库 AI 函数
AI 导读
Google Cloud 在 SIGMOD 发表论文,提出用代理模型(proxy model)加速 BigQuery 和 AlloyDB 中的 AI 函数。代理模型是面向特定查询和数据微调的轻量级模型,在 10 个基准测试中 F1 分数达到 LLM 的 90%-116%。该优化已默认集成在 BigQuery 和 AlloyDB 的优化模式下。
Google Cloud:Databases(RSS)
精选
71
AI 编辑部评分,满分 100Google Cloud 用代理模型加速数据库 AI 函数
Google Cloud 在 SIGMOD 发表论文,提出用代理模型(proxy model)加速 BigQuery 和 AlloyDB 中的 AI 函数。代理模型是面向特定查询和数据微调的轻量级模型,在 10 个基准测试中 F1 分数达到 LLM 的 90%-116%。该优化已默认集成在 BigQuery 和 AlloyDB 的优化模式下。
推荐理由
Google 把数据库里的 LLM 调用换成了超轻量代理模型,成本降了两个数量级且准确度几乎无损,做数据分析和 SQL 的同行该认真看了。
来源:Google Cloud:Databases(RSS)· cloud.google.com