与谁对齐，又究竟是为了什么？
摘要
对人工智能对齐的探讨，追问对齐究竟应以谁的价值观和什么目标为指向，并质疑对齐研究背后的假设。
暂无内容
相似文章
对齐或许是人工智能领域最被滥用的词汇。
本文批判了人工智能中‘对齐’一词的滥用，质疑了哪些价值观和目标被优先考量，并突出了人工智能发展中国家战略的差异。
你不是对齐AI，而是与它对齐
本文批评了当前AI对齐领域的讨论，认为这场争论被研究人员和科技精英主导，他们排除了真正会受到AI系统影响的人群。文章对比了Eliezer Yudkowsky和Marc Andreessen的立场，指出他们共同持有一种假设：设计者才是唯一相关的参与者。
对齐（Alignment）
本文概述了Anthropic对齐团队的使命与研究重点，该团队通过评估、监督和压力测试等手段开发保障措施，以确保未来的AI系统始终保持有益、诚实和无害。
在资本主义大背景下，AI与人类的对齐是否可能？
本文质疑在资本主义激励和人类不一致性下，AI与人类对齐的可行性，认为若无适当对齐，AI应被叫停。
迈向AI对齐的价值理论
本文分析了94篇AI对齐研究论文，考察人类价值观是如何被概念化的，发现许多论文依赖偏好和合成数据，这可能将复杂的文化价值观简化为二元选择。