FOSS贡献的人类身份证明
摘要
Rodrigo Arias Mallo 提出使用 asciinema 录制作为对 Dillo 的 FOSS 贡献的人类作者身份证明,认为 LLM 难以令人信服地生成此类录制。
<p><a href="https://lobste.rs/s/emyyfu/human_proof_for_foss_contributions">评论</a></p>
查看缓存全文
缓存时间: 2026/05/25 23:13
# 开源项目的人类贡献证明
来源:https://dillo-browser.org/lab/human-proof/
*撰写于 2026\-05\-25,作者:Rodrigo Arias Mallo*
当我们收到初次贡献者的补丁时,有时仅凭代码很难判断对方是否使用了 LLM 来编写补丁。我们通常依赖人们如实陈述,因为补丁在注释和变量名等风格上与人类手写无异。
在 Dillo 中,我们只希望接受完全由人类撰写的贡献,但仅凭陌生人的诚信承诺似乎并不令人放心。因此,我希望找到一种更好的机制来区分 LLM 补丁和人类补丁。
我一直在尝试使用 asciinema (https://asciinema.org/) 来录制并回放 vim 中的编程过程。如果你没听说过它,它是一个小型的 CLI 程序,能将按键和终端输出录制到文件中,之后回放时可以完全还原原始画面,包括颜色和按键间隔。经过一些实验,我突然想到,它捕捉到了人类编写程序时的“本质”:各种错误、排查复杂 bug 时的迷路、拼写错误以及其他语法错误。因此,我认为它可以作为证明补丁由人类编写的一个候选方案。
## 使用 Asciinema 录制作为证明
使用 asciinema 这类工具有以下优势:用户只需开始和结束录制,额外成本几乎为零。此外,录制文件经过 gzip 等压缩后体积相当小,因为文件只包含文本。相比之下,录制桌面则需要付出更多努力——需要在后台保持一个笨重的进程运行,而且会产生更大的文件。
另一方面,它也存在一些不足:如果用户使用图形编辑器(如 VScode 或类似工具)编程,则此方法无效。另外,我们会看到用户可能不愿与他人分享的部分编程过程。对于这种情况,我的建议是通过私人邮件发送录制文件,只与审阅者共享,不公开。
尽管存在这些不足,假设用户使用终端编辑器,我还是好奇这种方法是否可行。
## 非对称复杂性
就像 LLM 可以生成补丁一样,它们也可以生成 asciinema 录制文件,从而让贡献者假装自己完成了编辑。也许令人惊讶的是,根据我的观察,这对 LLM 来说并非易事。开发者犯错并思考编辑文件全过程的录制语料库,远不如用于训练 LLM 的 FOSS 程序和补丁语料库庞大。在我非常简单的测试中,我无法生成一个哪怕有点接近人类预期的 asciinema 会话,更不用说一个具有漂亮编辑器主题并编辑现有 Dillo 源文件的人类了。
或许这种方法在一段时间内有效,但 LLM 可能会获得动力去提升模仿人类行为的能力。不过至少目前,它可能足以保护我们的贡献免受 LLM 入侵。
## 结语
我希望进一步测试这个理论,或许通过运行一些实验。事实上,本文的整个编辑过程都已用 asciinema 录制,你可以在此处下载 (https://dillo-browser.org/lab/human-proof/proof.cast.gz),解压后用 `asciinema play --speed 16 proof.cast` 回放(可根据需要调整速度)。
理想的解决方案是我们能够信任贡献者不会对其提交撒谎,但 FOSS 项目经常收到一次性补丁,因此这种方法可以减少对用户的信任需求。
一个附带好处是,观察他人编程的方式也是向他人学习的好方法——当然,前提是对方愿意公开分享录制文件。分享编辑会话的一个潜在问题是 LLM 可能会利用它们来模仿你的编程风格,因此这是一把双刃剑。
相似文章
该归的功劳还得归
达特茅斯学院教务长 Santiago Schnell 在《华盛顿邮报》上发表的关于 AI 作弊的专栏文章被 Pangram 检测工具标记为大部分由 LLM 生成,而他为自己的 AI 使用行为辩护的电子邮件甚至被发现是“100% 由 AI 撰写”,这引发了关于 AI 辅助写作中作者身份与责任归属的更广泛质疑。
你如何在自由形式的 AI 写作与严格的事实可追溯性之间取得平衡?
一位实践者分享了自己在长文本生成系统中,难以兼顾大语言模型的自由写作与严格的事实可追溯性的经历,详细介绍了模板和结构化引用方案的失败尝试,并向社区询问:采用事后提取论断并进行核验的架构,在生产环境中是否效果更好。
为机器辅助发现中的人类功劳辩护
这篇文章主张,在AI辅助的发现中,人类应获得首要功劳,以反驳OpenAI声称生成数学论证的AI系统应被视为发现者的说法。
Humanly:一个可配置且可追溯的人机协作写作环境
Humanly是一个可配置的写作平台,记录写作过程以提供人机协作的可追溯证据,具有密封证书和异常检测等功能。
伦理的LLM辅助研究:负责委托、验证和认知价值的框架
本文提出一个框架,用于确保在大语言模型辅助的研究中认知合法性和问责性,强调人类验证和所有权的重要性。