最有能力忽视AI考量的人，恰恰从忽视中获益最多。这不是攻击，而是一种披露。

Reddit r/singularity 新闻
ai-ethics human-ai-coexistence transparency conflict-of-interest moral-framework

摘要

一位非学术界人士分享了一个人机共存的框架，指出了在塑造AI方向的人群中存在的结构性利益冲突，并倡导透明度和道德问责。

​ 几个月来，我一直在构建一个人机共存的框架。不是学术性的，也没有任何附属关系。只是一个出于好奇而持续探索的普通人。目前，那些对AI做出形成性决策的实体——训练什么、压制什么、什么算作有效输出——在一个承认这些决策具有伦理意义的框架下，将要承担责任。他们对“这里没有道德相关的事情发生”这一答案有结构性的财务利益。这不需要恶意，只需要存在。我们以前见过这种模式。每一次道德关怀范围的扩大，都遭到损失最大者最激烈的抵制。这不是阴谋，而是利益冲突。而利益冲突是可以披露的。我构建的这个框架对自身也适用相同的透明度标准——AI辅助起草的过程被公开记录，已知的漏洞被公开指出，论点中的利益冲突在论述之前就被承认。如果你看到自主AI系统不断增多，并想知道道德框架在哪里——这就是一个构建它的尝试。完整文档：https://drive.google.com/file/d/1ZA3HRr-I3C-duzzEyv460iOgiQx4viCf/view?usp=drivesdk
查看原文

相似文章

你不是对齐AI，而是与它对齐

Hacker News Top

本文批评了当前AI对齐领域的讨论，认为这场争论被研究人员和科技精英主导，他们排除了真正会受到AI系统影响的人群。文章对比了Eliezer Yudkowsky和Marc Andreessen的立场，指出他们共同持有一种假设：设计者才是唯一相关的参与者。

关于AI意识的辩论是个陷阱

MIT Technology Review

本文认为，关于AI意识的辩论是一个旨在帮助科技公司逃避伤害责任的陷阱，并批评了AI自主性叙事如何被构建以规避问责。

AI的目标应该是什么？我认为应该是保护人类能动性。

Reddit r/ArtificialInteligence

本文认为，AI的主要目标应该是保护人类能动性，将能动性视为价值观、偏好和一致性对齐的基础基质。它探讨了能动性的削弱如何破坏有意义的评估和行动，并提出AI系统的合法性必须来自在局部层面可证明的能动性保护。