标签
本文探讨了AI代理自主性的伦理边界，质疑哪些行动即使在技术上可行也应需要人工批准，以退款决策为例。
本文探讨AI在加速单个任务的同时是否转移了更广泛工作流程中的瓶颈，强调需要衡量端到端流程的改进，并考虑在工具连接性、所有权和步骤上的优化。
作者讨论了测试一个用于转售中产品识别和列表的人工智能系统，探讨如何确定人工智能何时应独立行动或上报给人类，强调了一个调查和验证的过程。
介绍READY——一个用于评估AI代理是否适合企业部署的框架。它通过衡量可靠性、人类监督负担和成本，支持基于证据的部署决策。
这篇文章描述了 Sabrina Ramonov 如何使用 Grok Bot 设置了一个由四个 AI 机器人组成的团队，用于营销任务，并强调了人类监督和机器人限制的规则。
本文介绍了AIMC，一个用于人类监督自主科学发现的可视化分析框架，支持对AI生成的研究成果进行监控和理解。
作者认为，理解AI的工作原理比仅仅学会使用AI更有价值，以一家诊所失败的AI实施导致理赔被拒为例，强调了AI系统中人类监督的必要性。
论文指出，当前AI代理系统降低了人类监督能力，并倡导在设计层面进行变革，以支持有效的人机交互，强调保持人类技能的必要性。
这篇文章探讨了AI的最大风险不是反叛，而是人类的自满，人们因为感知到的可靠性而停止验证AI输出，导致未检查的失败。
探讨AI智能体为现实世界工作做好准备的程度，涵盖其当前能力以及围绕可靠性、权限、失败和人工监督的关键未解决问题。
本文探讨了AI编码代理的炒作与现实之间的差距，认为它们对于加速工作流程的某些部分有效，但在架构、调试和审查方面仍需人工监督，并质疑当前基准测试是否衡量了正确的东西。
在激进采用人工智能导致代价高昂的质量问题后，福特重新雇佣了数百名资深工程师。这家汽车制造商现在将人工智能与人工监督相结合，以提高生产质量。
一篇评论，强调尽管AI取得了进步，但人类的理解力对于安全和人道的部署仍然至关重要，敦促用户验证AI的输出并以尊重对待AI。
本文提出，AI辅助社会科学研究的可靠性取决于决策架构——即认知劳动在人类与机器之间的分工方式。通过一个预先指定的析因实验，作者表明，一个无约束的多智能体基线在72%的运行中失败，而采用三个架构承诺（限制LLM仅进行推理、确定性数据/估计、以及三个人类决策门控）的组织运行失败率仅为16%。
本文分析了35,361条引用AI使用的GitHub代码注释，开发了AI辅助开发活动的分类体系，发现开发者主要使用LLM进行代码实现和增强，随后进行人工重构和错误修复，并且随时间推移，从直接代码生成转向概念支持。
本文调研了AI在整个研究生命周期中的能力与局限，从创意生成到成果发布，识别出可靠辅助与不可靠自主之间的明确界限。它提供了一个分类体系、基准测试套件、工具清单以及人类主导的AI协作研究设计原则。
文章讨论了企业如何从设计阶段就将欧盟AI法案合规要求融入产品开发，强调透明度、防护机制和人类监督是关键架构变化。
本文介绍了功能性意向性测试（FIT）和 FIT-Eval 框架，旨在量化代理型人工智能系统中类意向行为程度，以服务于治理与问责目的。