production-ai

标签

Cards List
#production-ai

运行框架、循环、图:每一层解决了什么(又破坏了什么)

Reddit r/AI_Agents ↗ · 4天前

文章提出 AI 代理工程的三层心智模型——循环(Loop)、控制框架(Harness)、图(Graph),分别解释每层解决什么问题、又会引入哪些新问题,并给出生产环境下的取舍法则:先用强大的控制框架包住紧凑的循环,仅在失败不可接受之处添加图的边。

0 人收藏 0 人点赞
#production-ai

@DeepLearningAI:构建一个能成功运行一次的智能体很容易,但真正的挑战是让它在生产环境中持续可靠地运行。Yann LeCun、And…

X AI KOLs Timeline ↗ · 2026-10-31 缓存

DeepLearning.AI 宣布举办 AI Dev NYC 大会(11月30日至12月1日,切尔西码头),由 Yann LeCun、吴恩达以及来自 OpenAI、贝莱德、Hugging Face 和 Neo4j 的工程师讲授评估驱动开发、智能体系统构建与生产环境规模化运维等主题。

0 人收藏 0 人点赞
#production-ai

你的 AI 功能演示时惊艳,上线后却翻车,原因是:演示用的例子是你精挑细选的

Reddit r/AI_Agents ↗ · 2026-10-30

作者指出 AI 功能在 demo 阶段表现优异却在生产环境中失灵的常见原因:示例是由人工挑选的理想输入。建议在写第一个 prompt 前先收集 50-100 个真实(尤其是糟糕的)输入并定义理想答案,用作回归评测集。

0 人收藏 0 人点赞
#production-ai

我们如何解决生产环境中多步骤 AI 智能体的 LLM 成本失控问题并实现循环保护(架构与真实数据)

Reddit r/AI_Agents ↗ · 2026-10-13

GuardrailX 的联合创始人分享了如何通过在代理框架与 LLM 供应商之间加入代理网关,实现自动循环检测、语义路由和 LLM-as-a-Judge 质量评估,并展示了基于 3,500 多条生产请求日志得出的约 54% 成本削减数据。

0 人收藏 0 人点赞
#production-ai

元反思演化有效提升生产环境中的人工智能系统性能

arXiv cs.LG ↗ · 2026-10-12 缓存

论文提出 CoCoEvolve(CortexCodeEvolve),一种基于"元反思"的进化优化器,通过从完整搜索历史中检索证据并主动探测目标环境来改进生产级 AI 系统的优化,在 DABStep、data-eng-bench 等多个基准上超越现有基线。

0 人收藏 0 人点赞
#production-ai

@sermakarevich:一篇写给所有基于大语言模型(LLM)构建软件的交付者、采购者与签字把关人的文章:工程师、产品经理……

X AI KOLs Timeline ↗ · 2026-10-03 缓存

一份用通俗语言撰写、并附有来源支撑的 LLM 评测指南:如何围绕输入、标准答案(gold answer)与评分器(grader)搭建可复现的评测闭环;为何未经校验的评判模型(judge model)是 AI 团队最常见的一种自我欺骗方式;以及如何为代码评分与模型评分(针对检索系统和智能体系统)给出带误差范围的可信数据。

0 人收藏 0 人点赞
#production-ai

@AiCamila_: 技能脚手架模板 一个空白文件夹是每个技能发明自己布局然后破坏CI的方式。作为一名开发者,我现在从一个脚手架开始每个技能。

X AI KOLs Timeline ↗ · 2026-09-29 缓存

这条推文介绍了一种用于AI开发的标准化技能脚手架模板,旨在确保一致的文件夹结构,减少CI中断,并通过关键组件如合同文件和测试夹具来加速审查流程。

0 人收藏 0 人点赞
#production-ai

让AI成为资产,而非开支

MIT Technology Review ↗ · 2026-09-29 缓存

本文探讨了企业将AI从实验阶段转向生产阶段时的经济策略,重点在于根据工作负载需求和成本可预测性,评估所有权与消费模式。

0 人收藏 0 人点赞
#production-ai

@akshay_pachaar:模型评分并非智能体评分。模型基准测试通常隔离基础模型。然而,生产环境中的智能体……

X AI KOLs Timeline ↗ · 2026-09-28 缓存

文章强调,由于系统复杂性,模型基准测试无法准确评估生产环境中的智能体,并介绍了Apodex的TRACES以进行更全面的评估,引用了一篇研究论文。

0 人收藏 0 人点赞
#production-ai

CARGO: 面向生产环境中智能体AI的上下文感知检索门控评估

arXiv cs.CL ↗ · 2026-09-28 缓存

本文介绍Cargo框架,用于评估智能体AI系统。该框架通过将事实判断基于实时上下文并基于检索置信度对评估进行门控,以解决参考实例分歧问题,并引入用于基准测试的Cargo-Bench。

0 人收藏 0 人点赞
#production-ai

在Jev发布后我发现的607个AI代理用例

Reddit r/AI_Agents ↗ · 2026-09-21

作者在Jev发布后收集了607个AI代理用例,强调演示和生产就绪应用之间的区别,并建立了ShipWithJev.com来编目这些用例。

0 人收藏 0 人点赞
#production-ai

提示词不真实

Hacker News Top ↗ · 2026-09-20 缓存

工程师Dan讨论了在生产环境中构建可靠AI智能体的挑战,强调了LLM的局限性以及这项工作既引人入胜又费脑力的特性。

0 人收藏 0 人点赞
#production-ai

多智能体系统缺乏真正的通信基底

Reddit r/AI_Agents ↗ · 2026-09-20

这篇文章讨论了多智能体系统缺乏生产级通信层的问题,批评了当前解决方案如Kafka、Redis和智能体框架的不足,并寻求社区对替代方案的输入。

0 人收藏 0 人点赞
#production-ai

@dzhulgakov: Jev 炙手可热:人们没有意识到许多分类任务并不需要前沿的 LLM。您可能还没有…

X AI KOLs Timeline ↗ · 2026-09-19 缓存

这篇文章描述了一种实用方法,通过使用令牌概率来微调大语言模型,将其作为校准分类器,从而以最小的计算资源实现具有成本效益的分类任务。

0 人收藏 0 人点赞
#production-ai

AI工作流程中表现良好却仍可能使流程恶化

Reddit r/ArtificialInteligence ↗ · 2026-09-16

本文讨论了在AI工作流程中处理模型错误的重要性,指出在生产环境中,处理AI不确定或错误的情况与任务本身同样关键。

0 人收藏 0 人点赞
#production-ai

在生产环境中的智能体中,人们如何处理上下文压缩与提示缓存之间的权衡?

Reddit r/AI_Agents ↗ · 2026-09-15

本文探讨了生产环境AI智能体中上下文压缩与提示缓存之间的权衡,提出使用子代理作为策略,以保持缓存效率并减少上下文污染。

0 人收藏 0 人点赞
#production-ai

@Huahuazo: 推理引擎这赛道卷到今天,不少人还把“跑通”当成终点线。SGLang 走的是另一条路。 LMSYS 开源的高性能服务框架,看家本领是 RadixAttention——公共前缀的 KV Cache 可以复用,多轮对话、Agent、结构化输出这…

X AI KOLs Timeline ↗ · 2026-09-12 缓存

SGLang 是 LMSYS 开源的高性能推理服务框架,通过 RadixAttention 技术实现 KV Cache 复用,支持多种硬件和模型,并在生产环境中广泛应用。

0 人收藏 0 人点赞
#production-ai

NVIDIA 在 AI 代理的 Groq 3 LPX 上是否一针见血?

Reddit r/ArtificialInteligence ↗ · 2026-09-11

这篇文章讨论了推理延迟如何成为生产环境 AI 代理的关键瓶颈,并探讨了 NVIDIA 的 Groq 3 LPX 作为针对智能体工作负载低延迟推理的新发展。

0 人收藏 0 人点赞
#production-ai

@mardehaym: 要真正理解AI代理,你必须理解框架。而且这不是模型。我深入探讨了一个运作的…

X AI KOLs Timeline ↗ · 2026-09-09 缓存

这篇文章强调,在AI代理中,框架——包括工具、上下文、控制和工作流——对于实现可靠、安全和可追溯的结果比模型更为关键。

0 人收藏 0 人点赞
#production-ai

@svpino: 这可能是工程师现在最重要的四项技能:1. 为任务选择并塑造合适的模型…

X AI KOLs Timeline ↗ · 2026-09-09 缓存

本文介绍了Forge '26,这是Fireworks AI举办的一场专注于专用智能和AI工程技能的会议,主要演讲嘉宾来自NVIDIA和Microsoft。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈