该来源未收录可展示正文,站内仅提供摘要。
阅读原文(在新标签页打开)作者分享用 logprobs 读取 LLM 选项概率的单函数封装,并扩展到视觉模型
AI 导读
作者受 Jev 及 OpenJev、SemIf 启发,实现了一个单函数封装:让 LLM 只生成一个选项字母,再读取 top_logprobs 得到各选项概率。
Hacker News:AI 热帖
58
AI 编辑部评分,满分 100作者分享用 logprobs 读取 LLM 选项概率的单函数封装,并扩展到视觉模型
作者受 Jev 及 OpenJev、SemIf 启发,实现了一个单函数封装:让 LLM 只生成一个选项字母,再读取 top_logprobs 得到各选项概率。
来源:Hacker News:AI 热帖· allanrbo.blogspot.com