NVIDIA的新芯片刚刚证明AI“安全”一直是场秀。我们还没为2029年做好准备。

NVIDIA刚刚把500B参数放在了你的桌面上。当护栏没有随之而来时，会发生什么？NVIDIA让在本地运行半个万亿参数成为可能。几年后，这个数字会翻倍。这些模型已经知道如何编写漏洞利用代码、伪造声音并进行大规模操纵，因为它们是从开放的互联网上学会的。安全层是行为层面的，而非技术层面的。它们是礼貌的拒绝，当你换个方式提问或下载未审查的权重文件时，这种拒绝就会消失。对此没有补丁。对于在某人地下室离线运行的模型，没有关闭开关。我们一直在谈论护栏，仿佛它们是墙。它们其实是减速带。一个本地模型没有遥测、没有服务条款、没有可以暂停的账户。那么，当一个骗子能用一台游戏电脑的成本实时克隆你母亲的声音时，会发生什么？当任何视频证据都能在一台从未联网的机器上完美生成时，会发生什么？当让大多数犯罪变得太过麻烦而无法尝试的摩擦力突然消失时，会发生什么？我们即将发现我们的社会免疫系统到底有多薄弱。让我夜不能寐的不是技术。而是我们太兴奋地想要得到它，以至于没有停下来问一问，我们是否在建造一个我们真正能与之共存的东西。所以问题是：如果任何只有几千美元和十分钟耐心的人都能在卧室里生成无限完美的欺骗，那么你认为我们还剩下多少信任？