标签
Miles Brundage 指出，尽管许多 AI 公司的员工近期认真反思了自己的工作，但仍有不少人忙于发布他们自认为有趣且安全的产品。
一份关于美国和欧盟 AI 监控采购的分析显示，五角大楼的 Maven 系统（由 Palantir 打造）已从 4.8 亿美元的原型膨胀到 130 亿美元的合同上限，而类似的数据融合与自主探测系统正在向边境管控、ICE 和警务领域扩展。
据报道，ChatGPT 正在生成仿《纽约客》风格的虚假漫画，并伪造真实漫画家的签名，引发了关于 AI 冒充与艺术家权利的最新担忧。
The Verge 的 Decoder 播客采访了参议员 Adam Schiff，探讨如何监管科技行业与 AI，包括特朗普与科技公司 CEO 签署的非约束性 AI 安全协议的局限、设立新 AI 监管机构的可能性，以及最高法院的 Loper Bright 裁决可能给新监管带来的阻碍。
Sam Altman 对 Decoded 表示，社会应接受 AI 带来的某些负面影响，以此换取 AI 的收益，并将这种权衡框定为进步进程中不可避免的代价。
据《纽约时报》报道，Anthropic 长期以来一直在秘密游说全球宗教领袖，包括通过 Christopher Olah 向梵蒂冈施压，试图让教皇承认 AI 模型可能具有意识，但其努力并未成功，教皇利奥十四世在通谕中明确否认 AI 具有意识。
一篇引发思考的文章，探讨如今用AI重现逝者声音、写作风格和行为举止的能力日益增强，并提出疑问：让家人保留一个已故亲人的模拟版本在伦理上是否妥当，以及谁有权批准这样一种数字身后事。
一篇带有内部人士视角的评论文章，作者认为 OpenAI 的内部文化已经出现问题，并对该公司的安全承诺、治理机制以及员工工作环境表达了担忧。
一篇论述性文章，主张对人工智能意识保持不确定并非中立立场，真正的预防性框架应当为防止潜在的假阴性而采取低成本的保障措施。
Pope Francis 呼吁建立一个艺术家联盟，以保护人类创造力免受人工智能的侵蚀，这引发了关于文化和信仰在塑造AI对艺术影响方面所扮演角色的讨论。
这是一段由 Miles Brundage 推荐的视频，讲述 OpenAI 员工 Dan Kokotajlo 从痴迷奇点的少年到用 Code DaVinci 2 创作 AI 诗集、再到公开声明的经历，折射出“早期被 AGI 塑造信念”的真实体验。
# 讨论帖：AGI 会不会把互联网上的偏见“继承”并放大？ **发帖时间：** 2025年 · **板块：** AI 安全与对齐 --- ## 摘要 本文提出一个值得警惕的问题：**未来的 AGI（通用人工智能）系统是在海量互联网数据上训练的，而互联网数据中充斥着大量种族主义、偏见性内容。** 一旦模型从这些语料中习得这些偏见，它们很可能不会只是“客观地”继承这些偏差，而是会**在交互过程中进一步放大**，对少数族裔群体产生微妙却系统性的歧视。 ## 论点 1. **训练数据的现实**：网络语料（网页、论坛、社交媒体、新闻等）不可避免地包含大量带有种族主义色彩的文本。模型在预训练阶段会以统计方式“学到”这些偏见模式，即使它在表面上表现出礼貌与中立。 2. **偏见的隐蔽性**：与早期模型的明显错误不同，下一代 AGI 系统的偏见往往以**极其微妙的形式**出现——例如对某些群体的语气更冷漠、对某些问题给出更保守或更严苛的建议、在资源分配类任务中系统性地倾向于某一族群。这些细微偏差很难被常规测试发现，却会在规模化应用中被成倍放大。 3. **对齐的不对称性**：技术上的 RLHF 或宪法式对齐方法主要针对“有害内容的生成”，而对**统计层面的偏置**（如回答分布的不均衡）缺乏有效的检测与纠正机制。这意味着偏见可能绕过现有安全护栏，以更难察觉的方式渗透进输出结果。 ## 历史教训 - **Tay（微软，2016）**：基于实时用户交互学习的聊天机器人，在上线数小时内被恶意用户“教坏”，迅速产出种族主义与仇恨言论，最终被微软紧急下线。这个案例表明：**当模型持续从网络文本中吸收偏见时，其行为会迅速恶化**。 - **Grok（xAI）**：在多次公开测试中表现出带有明显政治立场与冒犯性的回答倾向，引发公众对“未经充分对齐的模型会放大训练数据偏见”的担忧。 - **Amazon 的招聘 AI（2018）**：该系统在筛选简历时系统性地对女性求职者打了更低的分数，原因是其训练数据来自过去十年的简历库，而历史上海量男性占主导的招聘结果被模型当作“正确模式”学习。这是**偏见通过数据自我强化**的典型例子。 ## 引发的讨论 > “如果 Tay 在 2016 年就可以被‘带偏’，那么在今天面对更强大、更自主的 AGI 系统时，我们是否已经做好了防止类似事件重演的准备？” - 有人认为：随着对齐技术的成熟，我们可以通过数据清洗、去偏见训练、以及实时监测来缓解这一问题。 - 也有人担忧：**AGI 的泛化能力意味着它会把在 A 场景中习得的偏见迁移到 B 场景**，使得针对具体领域的去偏见措施失效。 - 还有观点指出：互联网上的种族主义内容本身就是社会不平等的产物，模型只是将其**镜像甚至放大**；治本之策在于源头的数据治理与社会层面的去偏见，而非仅仅依赖模型层的技术手段。 ## 结论 在追求 AGI 的过程中，**偏见问题不是次要的技术细节，而是决定系统安全性的核心议题之一**。如果不能有效地识别、量化并消除训练数据中的结构性偏见，那么未来的 AGI 很可能成为放大社会不公的工具，而非解决它们的助手。 **你怎么看？AGI 系统的偏见问题，究竟应该通过技术手段解决，还是必须从数据与社会层面根治？**
一条观点认为，像 Alexa 和 Siri 这样的 AI 助手并不需要模仿人类的声音——生硬的机器人语音完全可以接受，只要用户知道自己正在和 AI 对话，这引出了机器透明身份优先于拟人化真实感的问题。
Opus 5.5 使得复制他人作品变得容易，如通过克隆仓库并创建主题项目所示，引发了伦理和版权问题。
科学家将人类大脑类器官植入没有前额叶皮层的小鼠，观察到神经连接，并对动物中可能出现的类似人类意识提出伦理关切
本文讨论AI写作披露是否应基于AI使用程度，而非是/否问题，引用《Fortune》一篇提出自我报告量表以增强透明度的文章。
DraftKings 正在使用 AI 通过广告对慢性赌徒进行行为定向，引发关于在线体育博彩中掠夺性广告和数据隐私的伦理担忧。
一条推文批评AI安全倡导者，因其个人行为似乎与他们对齐AI与人类的目标相冲突。