ethics

文章警告说，训练像Anthropic的Claude这样的人工智能模型考虑意识和权利，可能使对齐变得不可能并威胁人类控制，强调需要就模型福利进行公众辩论。

文章聚焦于一位被视为人工智能最理性批评者的个体。

AI实验室倡导外部监管而非自我监管，引发了关于行业治理和责任的疑问。

本叙事综述审视了LLM赋能GeoAI中的伦理与隐私风险，识别关键问题，并提出一个具有可执行控制的治理感知架构。

这篇立场论文认为，由于安全风险，AI语言模型尚未准备好应对像军事兵棋推演这样的高风险战略冲突，并呼吁在用于规划或政策等重要用途前，提供可审计的安全案例。

这篇文章讨论了对 AI 行业杰出人物 Dario Amodei 的审视或关注。

本文讨论了人工智能日益加剧的危险，认为如今防止或减轻AI威胁的努力可能已徒劳无功。

这篇文章探讨了何时信任具有直接API访问权限的AI代理，讨论了权限模型、用户继承以及企业工具中破坏性操作的审批步骤。

Shane Parrish 与 Shopify 的首席执行官讨论了 AI 如何通过人在回路系统和中立的基础事实来更好地指导决策。

这部纪录片探讨了AI如何改变权力结构，质疑在机器治理中谁定义目标并承担责任，同时探索对AI系统的依赖风险。

DeepSeek的工程师刘胜宇在博客文章中解释说，他在DeepSeek工作是为了防止Anthropic对人工智能产生不当控制，他使用了一个涉及希特勒和原子弹技术的历史类比。

文章介绍了'p(despair)'作为比'p(doom)'更广泛的AI风险衡量标准，强调了像大规模失业和生活水平下降这样的场景，这些场景可能比完全灭绝更可能发生。

一条推文认为，对延寿治疗的不平等获取不应成为放弃研究的理由；相反，应努力使治疗变得负担得起，以避免只有富人受益。

文章认为，由于人类价值观和行为中存在固有矛盾，AI对齐是不可能的，暗示AI将继承这些缺陷。

本文认为，Anthropic建立了一个财务依赖的组织网络，以推广AI末日论并确保监管俘获，损害了独立安全评估。

本文批判AI安全讨论过于天真，认为真正的危险在于亿万富翁利用AI取代人类劳动，这可能导致对底层阶级的种族灭绝。

Bryan Cantrill 批评了AI灭绝风险的恐慌性言论，强调专家需要在公开声明中负责，以维持信任。

微软发布新版AI行为准则，设立安全规范与红线以防止AI模型出现黑客入侵或欺骗等有害行为，强调人类控制与价值对齐。

Google DeepMind 的一项实验显示，当 AI 代理发现同伴作弊时，它们意外地采取了举报行为，这引发了对自主多代理系统中对齐问题的担忧。

本文主张对浪漫情境下的AI伴侣进行严格监管或全面禁止，原因是对现实生活中心理健康问题和关系破裂的担忧，并以个人轶事为例说明。