在令牌级别引导LLM与智能体:一个支持令牌可视化控制、模型检查及数据标注的交互工具。

Reddit r/LocalLLaMA 工具

摘要

onPanda是一个交互式工具,专注于LLM与智能体的令牌级可视化与控制,提供数据标注、模型检查,并支持多模态操作,包括在浏览器中执行。

onPanda专为极客、高级用户、好奇者和工程师设计。其用户界面旨在支持深度探索和高效数据标注。- 核心循环很简单:悬停在令牌上 → 点击备选或自由编辑 → 继续生成。您可以编辑onPanda暴露的模型输出的所有部分,包括推理和工具调用。- 直接编辑提示,分支工具调用,并使用树结构记录分支历史。这使得onPanda适用于模型检查和提示工程。- 支持多种模态,包括图像、视频和音频;使用工具调用并连接MCP服务器在真实环境中执行任务。- 连接流行的框架,如Claude Code、Codex和OpenCode来执行任务。探索并比较它们的工具集、系统提示、技能和记忆机制。- onPanda包括browser-agent,一个在用户浏览器中运行而无需安装的代理。它使用浏览器作为其平台,提供JavaScript执行、信息检索、界面交互、多媒体I/O、本地文件访问和持久化记忆。- onPanda代表on-Policy Alignment Data Annotator(在策略对齐数据标注器)。我从2024年09月开始构建onPanda,花了两年时间逐渐丰富其功能和易用性。在我看来,onPanda非常适合r/LocalLLaMA社区。欢迎任何反馈和评估。在线试用(支持移动设备):https://onpanda.diyer22.com/ 自托管的GitHub仓库:https://github.com/on-panda/on-panda
查看原文

相似文章

使用LLMs在本地自动标注您的数据集

Reddit r/AI_Agents

作者介绍了一个名为'llmog'的工具,该工具使用LLMs自动标注数据集,可以通过llama.cpp或vllm在本地运行,或使用外部API,适合偏好界面操作而非编码的用户。

AI代理项目的开源开发工具

Reddit r/AI_Agents

AgentLantern 是一个面向AI代理项目的开源开发工具,帮助记录、分析、验证和可视化代理工作流,最初支持CrewAI,并计划扩展到其他框架。