返回
AI 评分 52/100

作者发布浏览器端 LLM 注意力权重可视化工具

Hacker News:AI 热帖·2026-09-09 00:59·5小时前·ifz
AI 导读

作者发布一个基于 Transformers.js 的 LLM 注意力可视化工具,可悬停查看生成 token 依赖的历史 token,代码开在 GitHub。可视化将所有层、所有注意力头的注意力权重乘以 value 向量模长后聚合为单一数值控制透明度,并预生成提示词避免下载数百 MB 模型;作者还通过修改 onnx 文件暴露内部值,上传到自己的 Hugging Face 仓库供浏览器生成使用。

Hacker News:AI 热帖
52AI 编辑部评分,满分 100

作者发布浏览器端 LLM 注意力权重可视化工具

2026-09-09 00:59· 5小时前· ifz
AI 导读

作者发布一个基于 Transformers.js 的 LLM 注意力可视化工具,可悬停查看生成 token 依赖的历史 token,代码开在 GitHub。可视化将所有层、所有注意力头的注意力权重乘以 value 向量模长后聚合为单一数值控制透明度,并预生成提示词避免下载数百 MB 模型;作者还通过修改 onnx 文件暴露内部值,上传到自己的 Hugging Face 仓库供浏览器生成使用。

该来源未收录可展示正文,站内仅提供摘要。

阅读原文(在新标签页打开)

来源:Hacker News:AI 热帖· ishamf.dev