耶鲁大学伦理学家温德尔·沃拉奇（Wendell Wallach）论为何AGI是错误目标，以及当前系统中已存在的问责缺口。

Reddit r/ArtificialInteligence 新闻
ai-governance ethics agi-critique accountability autonomous-weapons

摘要

耶鲁大学伦理学家温德尔·沃拉奇认为，与当前AI系统（特别是自主武器和分布式责任方面）亟需建立问责制相比，追求AGI（通用人工智能）是舍本逐末。

我最近与温德尔·沃拉奇进行了一次对话。他曾撰写《道德机器》（Moral Machines），并与斯图尔特·罗素（Stuart Russell）、杨立昆（Yann LeCun）以及丹尼尔·卡尼曼（Daniel Kahneman）合作，在哲学、技术与AI治理的交叉领域深耕25年。他的观点既非末日论，也非炒作，而是比二者都更令人不安。我们正在构建能力日益强大的系统，却缺乏有意义的问责机制。当出现问题时，责任分散在开发者、部署者、监管者和用户之间，导致最终无人真正承担责任。他认为，这一缺口比我们未来可能跨越的任何能力门槛都更加危险。他还直接挑战了AGI的叙事框架。一个系统可以拥有极高的智能，却完全没有道德推理能力。我们在优化能力，却未追问它究竟有能力做出什么决策。关于自主武器以及在军事背景下AI系统造成伤害时由谁承担责任的部分，是整段对话中最令人不安的内容。完整对话：https://youtube.com/watch?v=-usWHtI-cms&si=3iMmwj9vkbAFEzUQ
查看原文

相似文章

世界尚未为AI做好准备

Reddit r/artificial

文章指出，AI系统正在做出具有重大影响的决策，却缺乏透明度和问责制，呼吁制定硬性法律，强制要求披露、解释以及人类对AI决策承担责任。

AI智能体容易构建，但问责更难。

Reddit r/AI_Agents

一篇观点文章认为，对于小型企业中的AI智能体，真正的挑战在于治理和问责，而不仅仅是能力。它强调了有限行动、角色感知权威和清晰的人类监督的必要性。

AI的目标应该是什么？我认为应该是保护人类能动性。

Reddit r/ArtificialInteligence

本文认为，AI的主要目标应该是保护人类能动性，将能动性视为价值观、偏好和一致性对齐的基础基质。它探讨了能动性的削弱如何破坏有意义的评估和行动，并提出AI系统的合法性必须来自在局部层面可证明的能动性保护。