构建一个工具让我的AI不再迷路

Reddit r/AI_Agents 工具
ai-orientation reasoning toolkit workflow ai-coding orientation

摘要

作者构建了一个定位工具包，帮助AI模型在推理前进行自我定位（如位置、上下文），从而减少搜索浪费，但增加了验证浪费，最终带来更安全、更高效的性能表现。

AI推理前的自我定位 我在构建AI应用时注意到一个现象：我们花了大量时间讨论推理能力、模型规模、基准测试、上下文窗口和幻觉问题。但有没有可能，部分浪费发生在推理开始之前？模型在推理之前必须先自我定位：我在哪里？这归谁所有？我在哪个走廊？旁边是什么？我看到的是原因还是症状？我一直在实验一个小型定位工具包，它专注于在检索和推理开始之前解决这些问题。令人惊讶的结果并非模型变得更“聪明”，而是它们花在错误方向上查找的时间变少了。更有趣的发现随后出现：搜索浪费减少的同时，验证浪费增加了。模型不再迷路，而是花时间证明自己找到了正确的树，然后才触碰它。这个交易我每天都愿意做。在森林中迷路代价高昂。站在正确的树前并验证它是否正确，在操作上更安全。我开始认为AI编程可能既有定位问题，也有推理问题。有没有其他人尝试过专注于推理前定位的工作流程或工具？
查看原文

相似文章

AI让我更快。也更不像自己...

Reddit r/artificial

作者反思了日常使用AI如何导致认知卸载，减少了个人推理和批判性思维，并邀请他人通过调查分享经验，探讨构建缓解这一问题的工具。