软件对抗软件的时代正式宣告终结 [D]

Reddit r/MachineLearning 新闻
generative-ai bot-detection sybil-resistance biometrics captchas dead-internet-theory hardware-verification

摘要

一篇反思性评论，探讨生成式AI如何使传统的机器人检测手段过时，并推动转向像Orb设备这样的生物特征硬件验证来抵御女巫攻击。

我感觉我们已经跨越了一个怪异的门槛，在生成式AI领域，针对僵尸网络的军备竞赛已经结束了，而且机器人赢了。我最近读到一篇采访，Reddit的CEO提出用Face ID和Touch ID来验证评论者是否为真人。这真的让我意识到事情已经变得多么荒谬。传统的启发式方法和行为分析现在对现代LLM完全无效，而视觉模型解验证码的速度比我还快。网络僵尸理论基本上已成为我们日常工程现实。我们现在所处的阶段是，唯一能可靠证明你不是自动化脚本的方法，就是将自己的数字身份锚定到物理生物学特征上。从纯粹的技术角度看，看到向硬件验证的转变令人着迷。比如研究那个Orb设备背后的工程：在定制硬件上做局部生物虹膜哈希，仅为了输出一个零知识证明来证明你是人类。真是疯狂，我们现在竟然需要专门的物理设备来强制执行“一人一账号”的概念。平台推动这一点完全合理，因为试图构建软件防火墙来对抗无限扩展的AI代理是一场必败之战。但这感觉像是互联网运作方式的一次巨大、永久的转变。不知道，还有别人现在在研究女巫攻击防御吗？我们是不是都集体接受了生物特征硬件门禁是拯救互联网免于99%合成噪音的唯一方式？
查看原文

相似文章

@saranormous: https://x.com/saranormous/status/2064510215056400652

X AI KOLs Following

尽管以Devin为代表的AI编程助手取得了快速进展，显著提升了代码编写和交付的速度，但本文认为，软件工程中最有价值的部分仍难以通过基准测试衡量，并且需要人类的判断和组织协调，这些是无法轻易自动化的。

为人类准备的软件

Lobsters Hottest

ClankerFree 是一个资源库，收录经认证未使用生成式AI或大语言模型技术的软件项目，倡导由人类编写的软件。