人类监督正在成为AI的下一个瓶颈吗？

许多技术似乎都会经历两个不同阶段。首先，其原始能力得到提升。然后，使用该能力所需的人类负担开始下降。计算机并不是仅仅依靠更快的处理器就变得广泛可用的。操作系统、图形界面和抽象层减少了用户所需的专业知识和注意力。互联网也不是仅仅依靠网络性能就普及的。浏览器、搜索引擎、共享标准和更简单的界面使其底层能力变得可用，而不需要每个人都了解基础设施。AI可能正在接近类似的转变。模型变得越来越有能力，但严肃的AI使用仍然将大量工作推回给人类： - 维护上下文 - 反复解释意图 - 检测静默错误 - 验证输出 - 从失败的运行中恢复 - 决定何时停止或重定向系统。AI已经减少了许多形式的工作。但更强的能力也可能带来新的监督成本，尤其是当系统在更长的任务或更复杂的工作流中运行时。随着模型能力的提升，限制因素可能逐渐从对模型的访问转向监督它所需要的人类能力。从历史上看，强大的技术之所以变得广泛有用，不仅是因为它们的最大性能提高了，更是因为普通用户不再需要自己承担那么多的操作负担。我们是否仍然将模型能力视为主要瓶颈，而人类监督能力可能已经变得同等重要？那么，与GUI等价的人工智能会是什么样子——不是让模型变得更聪明，而是让它的智能对人类来说控制成本更低？