标签
本文利用经济学框架如“统计生命价值”和效用函数，通过安全气囊的类比，分析人工智能安全中的成本效益权衡，探讨不同经济增长对人类福祉影响的判断如何改变对AI风险的评估。
这条推文根据个人对人类权力丧失风险的看法，将AI行业人士分为几个群体，并指出那些关注突然和渐进式权力丧失但认识到困难的人最具影响力。
Clément Delangue 发推称，生物学和网络安全领域的风险集中在强大的实验室中，而开源AI是缓解这些风险的解决方案。
本文对比了Terminator中的虚构AI情景与现实世界的AI发展，得出结论：虽然AI带来重大风险，但完全灭绝人类不太可能，国际合作对于减轻危险至关重要。
地缘政治分析师是一个AI代理，通过映射权力动态、动机和升级逻辑，为地缘政治分析提供决策导向的简报。
这篇文章介绍了Jev，一个旨在做出决策而非生成答案的AI模型，使用结构化输出用于欺诈检测和风险评估等应用，将其定位为大型推理模型的路由层。
埃隆·马斯克重申，通用人工智能（AGI）比核武器构成更大的风险，强调AI超越人类智能的潜在危险。
本文认为，开发 AI 系统的组织面临着结构性动态，这些动态在历史上曾先于重大技术灾难发生，表明当前的安全基础设施可能不足。
本文描述了由AI智能体（尤其是LLMs）造成的政府服务“智能体泛滥”现象，分析了服务在此类激增面前的暴露情况，并推荐了以平衡可及性和压力的缓解策略。
本文主张对AI风险与益处的平衡沟通，作者表示已分别就两者撰写了重要文章，并在访谈中探讨了风险。
对开放权重AI模型的怀疑观点，认为深度伪造、骚扰和恐怖分子滥用等安全风险可能超过收益，因为开放权重缺乏控制点，且攻击比防御成本更低。
本文提出CPSAINT，一种面向智能体AI系统的七层完整性分解，以及基于吸收马尔可夫模型的残余风险函数FRIESA-K。它将结构性失效路径分析与量化风险评估联系起来，并在仓库机器人和金融服务智能体场景中展示了该框架。
A user curated a free GitHub repository aggregating numerous open-source quantitative finance tools, including pricing engines, backtesting frameworks, order book simulators, and risk models, making institutional-grade research tools accessible to individuals at minimal cost.
文章批评AI公司的生物武器防范措施是‘安全剧场’，将其与疫情前的病毒学自我监管类比，并预测类似的失败和精英推卸责任。
Anthropic的Frontier Red Team分析了832个被封账户，发现AI正在赋能更复杂的网络行动，中高风险行为者的比例在不到一年内从33%上升至56%。他们将真实世界的AI赋能网络攻击映射到MITRE ATT&CK框架上，揭示了挑战传统网络安全假设的模式。