标签
一条推文讨论了自我改进智能体缺失的部分：一个严格的审查关卡，要求经验丰富的工程师必须批准每个技能。它解释了不断增长的库如何提高发现和提取质量，由人类批准所有合并以保持系统的可信度。
讨论在AI代理工作流中，如果被批准的操作与实际执行的操作不同，人工批准就可能毫无意义，敦促在批准与最终行动之间建立更严格的绑定。
一位实践者认为，自主AI智能体在生产环境中并不可靠，主张采用受限的智能体工作流，并在其中加入人工介入触发器，而非完全自主。
A browser game simulating human-in-the-loop approval of AI coding agent commands shows that players miss about 1 in 3 threats on average, with credential-exfiltrating commands missed far more often than destructive ones.
作者分享了为企业级 agent 平台构建 human-in-the-loop 审批系统的经验，强调审批步骤必须是一个真正的阻塞暂停，参数可编辑，并且拒绝/编辑结果应是一等公民，同时询问其他人如何构建 agent 暂停机制。
这项基于设计的研究探讨了教学支架如何帮助少数民族预科生在提示工程任务中从被动消费转向与生成式AI进行批判性共创，从而提升提示自我效能感，并主动把关AI生成的内容。
一位开发者反思了自己的 AI 自动化项目：准确率达到 95% 仍需人工全面审查，于是重新设计为将不确定的输出送入审查队列，整体上节省了时间。
本文介绍了一种基于人类反馈循环的工作流程，用于创建LLM简化的科学摘要语料库，使用SciSummNet和GPT-4o-mini，结合非专家和专家反馈，以提高跨学科的可读性。
ProcAgent 是一个完全在设备端运行的、基于视觉的智能体程序助手，采用提出-验证架构，在 NVIDIA Jetson AGX Orin 上实现实时自适应指导。它支持反应式和主动式两种模式，并支持人在回路中的确认，实现响应式交互，并在用户研究中获得积极评价。
一个团队使用AI自动化了手动文件分类流程，通过将扫描页面分组为文档并生成PDF，将每月工作量从50-70小时减少到3-5小时。
KPMG报告指出，2026年已有59%的企业在营销中使用AI，但许多企业缺乏框架，导致幻觉、品牌声音稀释和SEO问题。文章详细介绍了7大陷阱，并提出了human-in-the-loop、RAG、GEO和治理等应对措施。
本文提出了一种用于无人机高光谱影像中PFM-1地雷探测的人在回路自举方法，结果表明，使用自举的ACE可以在两轮检查中找出所有目标，而整体ROC-AUC分数掩盖了检测器之间巨大的操作差异。
文章讨论了一项设计决策，即由AI草拟回复，用户审核批准后再发送，强调采用人机协同的方式来保持控制力和质量。
本文讨论了负责评估人工智能系统危险性的人类测试者如何难以跟上人工智能发展的快速步伐，突显了对安全监管日益增长的担忧。
本文提出了一种检索增强的多智能体LLM框架，结合人在回路机制，用于从临床记录中检测皮肤免疫相关不良事件。与人工审查相比，该框架实现了更高的准确率（F1=0.88 vs 0.77）、更优的评估者间一致性（Cohen's kappa系数为0.82 vs 0.50），并将平均审查时间缩短约一半。
Aventos 解释了其创建AI生成动画的工作流程，在写作、导演和后期制作中平衡人类创造力，同时利用AI进行动画和效果制作。
认为生产级AI代理的关键在于问责基础设施（如限定范围记忆、人在回路、追踪日志），而非模型智能。
本文对一种为临床学者起草转化影响摘要的人工智能代理进行了真实世界评估，结果显示，每位学者的工作人员时间从15小时减少到14分钟，可用率为81.7%。
DeepEpoch是一个无代码桌面应用，通过行为克隆观察用户操作来学习玩2D游戏，并支持人在回路中微调。
Safety Sentry 引入了一种上下文感知的三路路由机制（Execute, Ask, Refuse），用于 LLM 代理工具调用中的人工干预，在控制错误率的同时优于现有的二元防护模型。