标签
President Trump 在联合国大会上宣布，美国文件将用“超级智能”取代“人工智能”，并敦促不要对人工智能进行新监管，同时促进快速发展。
一个联合国支持的科学小组在涉及HuggingFace和OpenAI的安全漏洞后警告AI代理的风险，呼吁加强安全保障和国际监督，以确保AI仍在人类控制之下。
OpenAI 提出了一个由美国领导的全球人工智能安全框架，专注于能力评估、风险评估、人类监督和事件报告，同时美国和中国正在进行关于AI事件通知的平行会谈。
本文讨论了当AI代理进行支付时，KYC合规性可能需要如何调整，并引发疑问：代理是否应拥有自己的身份档案，还是继续与已验证用户关联。
美国和中国已同意建立官方AI对话和威胁通报系统，以防止全球危机，尽管分析师警告称，根深蒂固的分歧可能限制其有效性。
美国提议与中国建立一个 AI 事件通知机制，类似于核热线，以处理影响国家安全的事件，这引发了对事件定义和披露的疑问。
美国国会通过了一项立法，根据中国股东和高管标准定义了“外国对手控制的实体”，并在众议院和参议院获得了两党的大力支持。
这篇文章批评了像Anthropic、Google和Meta这样的前沿AI实验室，它们夸大AI风险以在华盛顿游说监管垄断，并揭露了其糟糕的网络安全实践，导致小事件被夸大。
文章讨论了人工智能行业内部关于是否放慢AI开发步伐的争论，展示了像Dario Amodei和Jensen Huang这样的高管的不同观点，并提出了关于这些措施的可行性和严肃性的疑问。
奥巴马质疑Agentic AI在互联网上自由漫游的必要性，认为这主要源于商业需求，并主张通过政府监管来解决安全问题。
欧洲的AI公司公开指责美国大型AI实验室利用安全关切阻碍竞争，强调任何减速提议的竞争权衡。
内部人士指控OpenAI和Anthropic夸大了AI安全漏洞，以施压联邦监管机构保护其市场地位。
本文探讨了与前反垄断主管乔纳森·坎特（Jonathan Kanter）的播客讨论，围绕人工智能公司是否应获得反垄断豁免以协调安全措施的问题展开——这一议题正处于人工智能监管与竞争持续存在的争论之中。
已针对Anthropic、OpenAI、SpaceXAI和Google提起诉讼，指控竞争对手间非法协调以调控AI发展。
作者主张，主要AI实验室正刻意制造恐慌性标题，以影响可能对开源AI模型产生负面影响的监管政策。
Mark Zuckerberg 反对人工智能开发全行业放缓，指出市场力量和竞争将自然激励公司确保模型安全，与 Dario Amodei 等人工智能安全倡导者的呼吁形成对比。
明尼阿波利斯市议员已提出一项条例，要求持证人类驾驶员在如Waymo等自动驾驶汽车中担任安全监督员，理由是出于安全和工作替代的担忧，同时公众对自动驾驶技术的不安感也在日益增长。
Godfather of AI认为递归自我改进，即AI创造自己的后继者，应被视为非法，并将其与可能导致灾难性后果的危险实验相比较。