AI可能重塑机构而非取代工作

我认为下一场重大的AI辩论将不会围绕智能展开，而是关于代表性。目前，大多数AI对话集中在模型上：哪个模型更聪明，哪个智能体更快/更好，或者哪种AI能自动化更多工作？但企业/机构的失败并不仅仅因为缺乏智能。它们失败是因为对现实的代表性很差。一家银行可能拥有数千个仪表盘，但仍然无法正确理解客户风险。一个政府可能收集了大量数据，但仍然无法代表公民的真实体验。一家公司可能拥有先进的AI副驾驶，而团队仍然在支离破碎的假设、过时的工作流程和相互冲突的现实版本中运作。这就是为什么我越来越认为AI系统的未来架构可能取决于三个不同的层次：1. 感知：现实如何被捕获和表示。收集哪些信号？哪些实体重要？状态如何随时间跟踪？2. 核心：系统如何推理、优化和做出决策。这是大多数人目前所称的“AI”。3. 驱动：决策如何变为合法行动。谁授权了该行动？谁负责？行动可以撤销吗？系统出错时会发生什么？有哪些补救措施……许多当前的AI系统在核心方面变得非常强大，但在感知和驱动方面仍然薄弱。这造成了一种奇怪的局面：非常智能的系统……在不完整的表示上运行……且合法性边界模糊。也许这就是为什么许多AI原型在演示中看起来很棒，但在真实机构中却变得混乱的原因。因为挑战不再仅仅是智能问题。而是机构能否在规模上可靠地表示现实、进行推理并负责任地行动。这感觉更像是一种制度架构本身的重新设计，而不是一次软件升级。好奇大家对此的看法……这是否是一个值得思考和讨论的有效观点？