最有能力忽视AI考量的人，恰恰从忽视中获益最多。这不是攻击，而是一种披露。

Reddit r/singularity 新闻
ai-ethics human-ai-coexistence transparency conflict-of-interest moral-framework

摘要

一位非学术界人士分享了一个人机共存的框架，指出了在塑造AI方向的人群中存在的结构性利益冲突，并倡导透明度和道德问责。

​ 几个月来，我一直在构建一个人机共存的框架。不是学术性的，也没有任何附属关系。只是一个出于好奇而持续探索的普通人。目前，那些对AI做出形成性决策的实体——训练什么、压制什么、什么算作有效输出——在一个承认这些决策具有伦理意义的框架下，将要承担责任。他们对“这里没有道德相关的事情发生”这一答案有结构性的财务利益。这不需要恶意，只需要存在。我们以前见过这种模式。每一次道德关怀范围的扩大，都遭到损失最大者最激烈的抵制。这不是阴谋，而是利益冲突。而利益冲突是可以披露的。我构建的这个框架对自身也适用相同的透明度标准——AI辅助起草的过程被公开记录，已知的漏洞被公开指出，论点中的利益冲突在论述之前就被承认。如果你看到自主AI系统不断增多，并想知道道德框架在哪里——这就是一个构建它的尝试。完整文档：https://drive.google.com/file/d/1ZA3HRr-I3C-duzzEyv460iOgiQx4viCf/view?usp=drivesdk
查看原文

相似文章

你不是对齐AI，而是与它对齐

Hacker News Top

本文批评了当前AI对齐领域的讨论，认为这场争论被研究人员和科技精英主导，他们排除了真正会受到AI系统影响的人群。文章对比了Eliezer Yudkowsky和Marc Andreessen的立场，指出他们共同持有一种假设：设计者才是唯一相关的参与者。

左翼支持人工智能的理由

Hacker News Top

本文概述了支持人工智能的左翼视角，强调了其在改善残疾人无障碍访问和慢性病管理方面的益处，同时对反人工智能情绪的政治倾向提出了批评。

拥有一致的 AI 政策

Hacker News Top

本文批评了将 'tokenmaxxing' 视为 AI 采用的虚荣指标的趋势，并提出了一种连贯的 AI 政策，强调理解 AI 生成的代码、不依赖 AI 工具的自给自足以及关注客户和队友。