构建了一个代理工作站,让环境进行结构推理,从而减轻LLM的负担
摘要
Atlarix是一个桌面环境,它预先将代码库解析为节点/边图,使得编码代理能够通过查询来导航架构,而无需阅读原始文本,从而提高了较小本地模型的性能。
我一直在构建Atlarix——一个专为编码代理设计的桌面环境——并且想与这个社区分享其核心架构洞见,因为它与代理设计直接相关。
我们不断遇到的问题:代理在大型代码库上失去连贯性,因为它们从原始文本中进行了过多的结构推理。
“在哪里进行身份验证?”不应该需要阅读50个文件——它应该是一个图查询。
因此,Atlarix没有注入原始代码,而是将仓库解析为节点/边图(房间=文件,信标=符号,边=导入/调用),通过oxc-parser处理TS/JS,通过WASM tree-sitter处理Python/Go/Rust。
代理调用get\_blueprint来导航架构,然后仅在需要时读取特定文件。
实际结果:较小的模型(7B本地)在架构感知任务上表现显著更好,因为环境承担了结构负载。模型只需推理和导航——它不需要在每一步都从头重建架构。
我们最终确定的其他设计决策:
\- 模式感知工具白名单(探索模式实际上不能写入文件——不在注册表中)
\- 每个破坏性操作的批准队列(文件写入、终端命令)
\- 逐步上下文压缩,使长时间的代理会话不会失去线索
\- 按需MCP,而不是预先加载所有集成
免费层级支持本地模型(Ollama、LM Studio)。好奇这个社区中的其他人是如何处理结构化上下文问题的——你们是在构建环境层,还是依赖模型从原始文本中推理?
相似文章
我构建了一个开源代理,其推理核心融合了多个LLM(面板、裁判、合成器),而不是路由到单一模型
作者构建了一个开源代理,它使用一组不同的LLM(包括裁判和合成器)来处理困难的推理步骤,同时具备成本感知路由、分层记忆、治理和子代理支持。该软件处于alpha阶段,关于融合效果的基准测试结果不一。
构建了一个 LLM 在结构上被禁止生成最终输出的 Agent,寻求反馈以及愿意尝试“攻破”它的人
作者描述了一个基于 LangGraph 构建的 AI Agent,旨在复现生产环境中的 Python 崩溃问题。其独特之处在于架构设计:LLM 负责规划行动,而确定性 Python 函数则生成最终测试代码,以确保可靠性。
小型LLM架构:Raven Agent(本地RTX5080)+ Trinity Cortex(7B/13B/MoE在线)
描述了一个双层小型LLM架构:一个本地常驻代理(Raven)运行在RTX5080上,以及一个在线推理栈(Trinity Cortex),包含三个小模型和一个知识图谱,论证了小模型在基于图的推理中优于大型前沿模型。
构建了一个代理循环,其中LLM编写Python代码以生成可动3D CAD模型。您可以固定一个部件进行编辑。
构建了一个代理循环,其中LLM编写Python代码以生成可动3D CAD模型,并可固定一个部件进行编辑。
我构建了一个开源编码代理,让上下文可见且可编辑 — 你可以精确策划大语言模型所看到的内容
作者构建了 Nice Coding Agent,这是一个开源编码工作台,具有可见且可编辑的上下文堆栈,允许用户精确策划大语言模型所看到的内容。它具备本地优先检索、沙盒执行和混合代码搜索功能,旨在让开发者对上下文组装拥有控制和可见性。