StepFun 开源 LLM 数据标注与模型检查工具 onPanda

StepFun · @StepFun_ai · X·2026-09-23 01:44·2小时前
AI 导读

StepFun 开源内部使用的 LLM 数据标注与模型检查工具 onPanda,支持 token 级可视化与控制。标注方面称中位标注时间比人工后编辑降低 52%,可在同一流程产出 SFT 与偏好数据,ΔPPL <1%,并支持图像、音频和视频的 agent 轨迹标注;调试方面可查看 token 概率与 top-k 候选、逐 token 引导解码。

StepFun@StepFun_ai
59AI 编辑部评分,满分 100

StepFun 开源 LLM 数据标注与模型检查工具 onPanda

2026-09-23 01:44· 2小时前
AI 导读

StepFun 开源内部使用的 LLM 数据标注与模型检查工具 onPanda,支持 token 级可视化与控制。标注方面称中位标注时间比人工后编辑降低 52%,可在同一流程产出 SFT 与偏好数据,ΔPPL <1%,并支持图像、音频和视频的 agent 轨迹标注;调试方面可查看 token 概率与 top-k 候选、逐 token 引导解码。

We’ve open-sourced onPanda 🐼 — the tool we use internally for LLM data annotation and model inspection.

The workflow is simple: find an error, correct the token, and let the model continue.

✍️ Data annotation • 52% lower median annotation time vs. manual post-editing • SFT + preference data in one workflow, with high on-policy fidelity (ΔPPL <1% vs. the model’s resampling baseline) • Precise token-level supervision with paired positive/negative examples, plus agent-trajectory annotation across image, audio, and video

🔎 Model inspection and debugging • Inspect token probabilities and top-k alternatives, steer decoding token by token, and explore SVG generation, web development, and agent tasks directly in the browser.

Try it (mobile-friendly): https://onpanda.diyer22.com

Paper: https://huggingface.co/papers/2609.24983

Lei YangI spent two years building this interactive tool to let you steer LLMs and agents at the token level. Introducing onPanda — a web app for token visualization & ...