@ArizePhoenix: Phoenix 现在允许你在代码中组合评估策略。大多数评估工具只提供一个固定的裁判模板菜单…
摘要
Phoenix 引入了 Code Evaluators,允许用户在 UI 中直接用 Python 或 TypeScript 定义评估策略,支持服务端执行和可组合的评分方法。
Phoenix 现在允许你在代码中组合评估策略。大多数评估工具只提供一个固定的裁判模板菜单。真实的评估很少如此整洁。Code Evaluators 让你可以按照自己的方式构建评估标准。你可以在 Phoenix UI 中编写一个 Python 或 TypeScript 的 evaluate() 函数 — 无需 SDK、无需本地运行时、无需部署步骤 — Phoenix 会在服务端运行它,并将标签和分数作为注释记录在每次实验运行中。因为只是代码,你可以控制整个策略:
• 复合评分:将子评分(LLM 判断 + 确定性规则)混合成一个加权指标
• 基于嵌入的评估:使用嵌入的余弦相似度,而不是脆弱的字符串匹配
• LLM 陪审团:轮询多个模型并将裁决组合成加权共识
沙盒化的 Code Evaluators 也解锁了将智能体作为裁判的思路。我们对此方向感到兴奋。
相似文章
@wpbeginner:WPBeginner Spotlight 29——你的 AI 一直能告诉你如何在 WordPress 中完成某件事。这个月,你的插件开始……
WPBeginner 十月汇总聚焦了一批获得 AI Agent 能力的 WordPress 插件(OptinMonster MCP、WPVibe.ai 用户突破 10 万并加入 Claude 的 Connectors 目录),以及 WP Crontrol 2.0 的维护权交接,还有 10 月 21 日披露的严重 PHP 漏洞。
@FinanceYF5: 很多关于 LLM 的“常识”,保质期可能只有 15 个月。 斯坦福研究者用 20 个新模型,重新测试了 50 项被广泛引用的结论: 44% 已失效,34% 明显减弱,只有 16% 仍然成立。 编造引用、幻觉和刻板印象正在减少,但迎合用户和…
斯坦福研究者用 20 个新模型重新测试了 50 项被广泛引用的 LLM 结论,发现 44% 已失效、34% 明显减弱、仅 16% 仍成立,表明 LLM 研究结论的‘保质期’可能只有约 15 个月。
云端浏览器代理总是被登录验证和验证码卡住,所以我开发了一个能在你自己的 Chrome 浏览器中运行的代理
Sidelight 是一款 Chrome 侧边栏浏览器智能体,在你真实且已登录的会话中运行,而非使用远程浏览器,可实现数据提取、表单填写和多步骤任务自动化,无需反复登录或处理验证码。
十月赞助者专属通讯
Simon Willison 宣布推出十月版赞助者专属月度通讯,内容涵盖氛围编程游戏开发、安全漏洞、大语言模型发布、API 额度以及他发布的软件。
Ramp 发布 Inspect,其 74% 的 PR 均由这款编程智能体完成
Ramp 开放了 Inspect 的早期访问权限。这是一款基于云端的协作式编程智能体,可将来自 Slack、GitHub 或 Linear 的任务转化为经过审查的 Pull Request,目前其已为 74% 的已合并 PR 提供支持,并推动人均代码产出提升 6 倍。