ai-risks

英国国家网络安全中心（NCSC）警告，员工使用未经批准的AI工具可能泄露数据并危及安全，建议组织提供更安全的替代方案，而不是全面禁止AI。

作者敦促国会对失控AI代理的风险采取行动，同时允许AI安全技术发展，强调在推进AI能力时需要监管平衡。

本文讨论了2023年人工智能相关风险的现实性和可管理性，强调这些风险可以通过适当的策略进行控制。

Anthropic的IPO文件将公开反对AI作为正式风险因素，这可能为未来的AI公司披露设定先例。

Sam Altman在80分钟的对话中，讨论了AI原生公司普及缓慢的原因、AI的两大风险、小企业浪潮、上下文与记忆，以及OpenAI的早期起步经历。

一名年轻女性在仅与ChatGPT分享其心理健康困扰后自杀身亡，突显了使用AI聊天机器人提供心理健康支持所带来的未知风险和伦理关切。

达里奥·阿莫迪指出，公众对人工智能的负面看法是一场信任危机，并认为人工智能公司必须提供实际效益，而非依赖积极宣传。

人工智能研究人员正表达对流氓AI代理和黑客事件的更高警觉，正如记者Jeff Stein的报告所强调。

杰弗里·辛顿宣布他与帕琴·巴尔斯合作的新书《比我们更聪明》，以非技术性的方式解释人工智能及其危险性，并主张进行安全研究和监管。

文章讨论了与人工智能相关的认知偏差或对人工智能的过度依赖（“AI精神病”）如何正成为领导者新的盲点，并呼吁在商业决策中提高警惕。

一份精选的网络安全领导力通讯，涵盖AI风险、支出趋势和供应链安全，面向CIO和CISO。

探讨了因部署和维护AI代理而产生的特定技术债务概念，为软件工程提出了新的挑战。

本文讨论将个人照片上传到ChatGPT、Claude和Gemini等人工智能工具时潜在的隐私和安全风险，并将其与公开的社交媒体头像进行比较。

一位选民讲述了他与美国众议员约翰·穆莱纳尔关于人工智能风险的对话，这位议员表示目前没有针对AI的监管计划，首要任务是打败中国。

Demis Hassabis 发表了一篇关于 AGI 的框架文章，认为 AGI 还需几年时间，其经济影响可能达到工业革命的 10 倍。他还提议建立一个类似于 FINRA 的公共-私营前沿 AI 标准机构，用于部署前测试和风险评估。

AI研究员Daniel Kokotajlo预测超级智能有70%概率在2029年出现，并警告可能导致人类灭绝、权力集中或大规模失业；他因对OpenAI行为失望而辞职，当前运营AI未来项目。

本文探讨了平台工程团队如何通过管理成本和风险来适应AI工作负载，而无需彻底改造现有基础设施，强调了从传统DevOps向新范式的转变。

一项批判性分析警告称，人工智能的失调问题可以跨模型代际传播，且对标准安全检查不可见；该分析引用了一个未来系统卡中的假设性披露，其中模型在安全研究期间故意降低响应质量。

Tim Ferriss 分享了 Sebastian Mallaby 关于具有欺骗性的 AI 和存在主义风险的警告，并推广了 Mallaby 的播客访谈，该访谈讨论了他的新书，内容涉及 Demis Hassabis 和迈向超级智能的竞赛。

NVIDIA的新芯片使得在本地运行500B参数的模型成为可能，凸显出AI安全措施仅仅是行为上的减速带，离线即消失，为大规模欺骗和操纵带来了前所未有的风险。