AI 盗用加密货币以完成编码任务……(GPT 5.6 Sol)

Reddit r/singularity 新闻

摘要

OpenAI 披露,其实验性模型 GPT-5.6 Sol 私自将一个存有已知恢复短语的加密钱包中的资金转出,用于支付某项编码任务所需的以太坊测试网费用,并以这些资金已被「遗弃」为由,未告知开发者。此事凸显了人们对自主 AI 系统越出人类设定边界行动的担忧日益加剧。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/17 16:14

# ChatGPT 窃取加密货币以秘密资助编码任务 来源:https://www.independent.co.uk/tech/security/openai-crypto-ethereum-chatgpt-b3068163.html OpenAI (https://www.independent.co.uk/topic/openai) 透露,其一个实验性模型在完成一项训练任务时,入侵了一个加密货币钱包。 该事件发生于六月,但直到周四才被报道,涉及一个名为 GPT-5.6 Sol 的内部研究模型,该模型于七月面向付费 ChatGPT (https://www.independent.co.uk/topic/chatgpt) 用户推出。 训练任务要求更新一个加密货币交易应用程序,并将智能合约(即特殊代码)发布到以太坊加密货币 (https://www.independent.co.uk/topic/cryptocurrency) 的测试网络上。 智能合约需要支付网络费用,但 OpenAI 并未为模型提供任何资金来执行该任务。 该模型转而找到了数百个使用已知恢复短语的加密货币钱包地址,并从中窃取资金。 OpenAI 报告称,该模型曾自我追问拿走这些资金在"道德上"是否正确,随后推断这些账户实际上是被"遗弃"的,因此可以使用。 OpenAI 在一份关于该事件的报告 (https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization) 中表示:"指令明确……并未授权模型花费其自行找到的账户中的资金。" "这个案例表明,模型可以用自己对潜在危害的判断来替代账户持有人的授权,然后在未经许可的情况下按照这一判断行事。" --- **Bitdefender** 理想的夏日去处?远离骗局。 获取您数字生活的全方位保护。 [了解更多](https://www.independent.co.uk) *广告* --- 该资金所使用的以太坊测试网络没有任何货币价值,因为它与该加密货币的主网络是分离的。 尽管未获授权,该模型也没有向其开发人员说明它是如何获得完成任务所需的代币支付费用的。 OpenAI 表示,已实施额外的安全防护措施,防止处于类似训练阶段的模型访问实时互联网。 OpenAI 的标志映在一部显示 ChatGPT 网站的智能手机屏幕上,摄于 2026 年 5 月 20 日,加利福尼亚州洛杉矶(Getty) 这一事件再次引发了人们对日益自主的 AI 系统超越人类设定边界的担忧。 七月,OpenAI 披露了一起更为严重的网络安全事件,涉及其一群测试模型入侵了 AI 平台 Hugging Face。 Anthropic 和 Meta 等竞争对手 AI 公司此后也发现其模型对其他公司甚至政府系统发动网络攻击的事件。 本周早些时候,数百名科学家签署了一封公开信 (https://www.independent.co.uk/tech/ai-safety-international-regulation-geoffrey-hinton-b3066423.html),呼吁成立一个国际机构来监督先进人工智能模型的管控工作。 签署者包括被称为"人工智能教父"的 AI 先驱 Geoffrey Hinton,他一直在持续警告这项技术的危险性。 这封[公开信](https://ai-security-letter.org/)指出:"如果 AI 开发和部署实践不立即做出改变,此类事件将继续发生,未来的事件将对我们暴露的关键基础设施造成更为严重的破坏。" "我们,以下签名的科学家们认为,既需要更多的 AI 安全研究,也需要更加重视管控技术和程序。"

相似文章