Ask HN: 为AI生成的文章添加标记

# 问HN：添加对AI生成文章的标记功能 来源：https://news.ycombinator.com/item?id=48886741 https://news.ycombinator.com/vote?id=48887149&how=up&goto=item%3Fid%3D48886741 我们在HN上不允许生成式AI文本——参见https://news.ycombinator.com/newsguidelines.html#generated 和 https://news.ycombinator.com/item?id=47340079。至于如何执行，当然是另一个问题，但规则是存在的。 关于文章内容，我们目前还没有类似的规则，但我的感觉是，社区大多不想阅读它——或者更保守地说，会打折扣。这就是为什么我们看到了这么多"直接把提示词给我看"的回复，以及诸如此类的回复：https://news.ycombinator.com/genai-pushback。我建立了那个列表，这样当用户发邮件询问为什么他们的genai文章被标记时，我有东西可以回复。 目前是一场迷人的军备竞赛：AI正在向人类学习，但人类群体智能也在向AI学习。读者正在对听起来像是LLM产生的语言产生过敏反应。AI会适应这一点，但人类也会相应地适应。最终走向何方，谁也说不准。我有一个乐观的看法，但我在这个问题上已经错了很多次，所以我对它信心不足。 在使用genai的写作（和作者）与不使用genai的写作之间，正在出现一种新兴的阶级区分。一旦"这听起来像LLM"的过敏反应发作，这篇文章在读者心目中立刻就被归入低地位类别。这并不意味着它不会被看到——但它现在带有污名。 （我原本对此颇为得意，直到想起pg已经在https://paulgraham.com/writes.html 中提出了"写作者和非写作者"的概念。唉，关键是观点本身。） 这有一个令人高兴的副作用：任何希望读者将其文章归类为高地位而非低地位的人，都可以采用柔道式的策略——直接自己写。 现在我需要补充免责声明：这一切并不是对LLM技术本身的否定。我们严重依赖它，它无疑是有用的。问题在于*如何*使用它（又是pg：https://x.com/paulg/status/2058871512451412457），以及是否应该将其用于发布给其他人类阅读的写作。 回到原帖提问者的问题： > *HN是否应该添加标记文章为AI生成的功能？[...] 它可以仅仅作为一个指示器显示* 仅仅作为指示器的标记就是标签化，我们一直抵制在HN上添加标签功能，但我不会排除这种可能性。 我认为我们*最终*会添加的是一个"请说明你标记此帖子的原因"的步骤，而"因为我认为它是genai"将作为几个选项之一（垃圾内容、偏离主题、恶意言论等）。 > *为什么常规的投票系统不够用？* 常规的投票系统从来都不够用。https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang > *HN是否应该因gen AI时代而改变？* 对此，我忍不住想回复 https://news.ycombinator.com/item?id=48887149 以向 https://news.ycombinator.com/item?id=3742902 致敬。 https://news.ycombinator.com/vote?id=48888422&how=up&goto=item%3Fid%3D48886741 我认为将其归类为过敏或地位问题有点过于轻率。我保守估计，在工作中阅读和审查了数百份AI生成的文档，也"撰写"/委托了大量此类文档。我最大的问题是，与AI撰写的文档进行互动和反馈是不可能的，因为你无法知道误解或空白是因为作者对材料理解不够深入，还是作者理解深入但AI不理解，而作者又没有仔细校对。或者，如果出现一个令人惊讶的想法——这是作者的真知灼见吗？他们能展开阐述吗？它来自哪里？等等。 Hackernews当然不是工作场所，但"无法更深入地与材料互动，因为作者并不真正存在"对于一个*讨论网站*来说是个问题。如果人类合著者付出了足够的努力，他们可以确保文档真正反映他们的观点和理解，但根据我的经验，这种情况要少得多。 https://news.ycombinator.com/vote?id=48888731&how=up&goto=item%3Fid%3D48886741 > 我最大的问题是，无法与AI撰写的文档进行互动和反馈，因为你无法知道误解或空白是因为作者对材料理解不够深入，还是作者理解但AI不理解而作者没有仔细校对。 说句题外话，在我需要处理的PR或PoC中也存在同样的问题；现在我的第一个问题是："你知道这种行为吗？" 获取一个像样的规格说明的第一步，被推迟到第一版实现已经推送之后…… https://news.ycombinator.com/vote?id=48888456&how=up&goto=item%3Fid%3D48886741 这很有意思，谢谢！我唯一的反驳意见是，我关于"过敏"和"地位"的论述是针对这里的受众反应，而您似乎是在一个略有不同的层面上讨论问题。 https://news.ycombinator.com/vote?id=48888595&how=up&goto=item%3Fid%3D48886741 当然。我只是想说，根据我的经验（我假设许多其他评论者也是如此），围绕一份不完美的AI撰写文档的讨论和参与质量，要比同样内容由人类撰写的文档差得多。在工作中这一点最为明显……因为其中许多是我非常关心要交付的系统的设计文档，但我在其他地方也注意到了同样的情况。 https://news.ycombinator.com/vote?id=48887886&how=up&goto=item%3Fid%3D48886741 > *我认为我们最终会添加一个"请说明你标记此帖子的原因"的步骤，而"因为我认为它是genai"将作为几个选项之一* 这是否意味着AI生成的文章是一种可标记的违规行为？我们现在是否应该标记疑似AI生成的文章，还是应该等待标记系统先支持原因说明？ https://news.ycombinator.com/vote?id=48887907&how=up&goto=item%3Fid%3D48886741 你们这些人问的问题真好，直指模糊地带！ 我还不能完全确定。但你说得对，这确实会是我所说内容的逻辑推论。 我所知道的是，用户应该标记他们认为不适合HN的文章。但这应该基于他们对 https://news.ycombinator.com/newsguidelines.html 的解读，而不仅仅是基于喜欢/不喜欢的反应。也就是说，用户应该标记他们认为违反网站指南的文章，而不是仅仅因为他们不喜欢的文章。 https://news.ycombinator.com/vote?id=48888062&how=up&goto=item%3Fid%3D48886741 我一直在劝阻人们标记"他们认为不适合HN的文章"，因为你已经多次剥夺了我这样做的能力。在与你的私下交流中，你确认过，如果我标记/担保你们版主不同意的东西，即使我真心认为某篇帖子超出了指南范围，我也会失去这个权限。 所以，要么我解读你的心思，要么最好只在某事明显、毫不含糊地违反指南时才进行标记。 我一直对标记机制及其周围的政治感到恼火，而且我敢说是虚伪的。 https://news.ycombinator.com/vote?id=48888131&how=up&goto=item%3Fid%3D48886741 > *在与你的私下交流中，你确认过，如果我标记/担保你们版主不同意的东西，即使我真心认为某篇帖子超出了指南范围，我也会失去这个权限。* 人们喜欢根据我们据称说过的话做出这种模糊的指责。你为什么不直接引用我具体说了什么，好让读者自行判断？ 抱歉，如果这有点急躁（好吧，确实是急躁），但我数不清有多少次不满的用户在HN帖子中虚假发言，以发泄他们对版主的残余不满。 https://news.ycombinator.com/vote?id=48888240&how=up&goto=item%3Fid%3D48886741 当然可以，引用你个人发给我的多封邮件中的段落： > "恐怕我们取消了您账户的担保权限，因为您担保了太多不充实和/或煽动性和/或以其他方式违反网站指南的评论" > "如果您想在一段时间内只担保好评论并建立记录，然后发邮件给我们以便我们查看最近的担保记录" 想知道如何判断什么是您心目中的"好"： > "对了，如果您对某个案例不确定，您可以随时向我们确认。我知道边缘案例并不总是容易判断。" --- 换句话说，按照dang本人的做法去做，否则就会受到惩罚。我可不想去读心术。 这是好几年前的事了。我相当确定最近我标记/担保的都是我真心认为没问题的东西，尽管你手头有所有数据，可以轻易用"啊，但你在这一天担保了一条坏评论！抓到你啦！"来打击我，所以到最后这总是一场必败之战。 无论如何，我的问题在于你对我说的话，我引用一下："用户应该标记**他们认为**不适合HN的文章"。重点是我加的。不，事情比这更微妙。 https://news.ycombinator.com/vote?id=48888476&how=up&goto=item%3Fid%3D48886741 你完全按照我的要求回复了，点赞！这本身就很少见，尤其是我在烦躁的时候。非常敬佩。 我能看出使用"好"这个词会造成混淆，但我只是指与"不充实和/或煽动性和/或以其他方式违反网站指南的评论"相反的意思。归根结底就是：是否符合指南。 > "想知道如何判断什么是您心目中的'好'" 既然你无法读取我的心思（至少我假设你不能，如果能的话你也不会有这个问题），那这就是不可行的。你能做的是根据自己对网站指南的理解来评估事物。如果你吸收了 https://news.ycombinator.com/newsguidelines.html 的内容，并基于此而非仅仅基于喜欢/不喜欢来评估评论，那么我猜想你最终不会与版主的位置相去甚远，因为那也是我们试图去做的。 我相信总会有个别案例我们存在分歧——即使Tomhow和我在个别案例上也有分歧——但它们应该是少数。 如果有具体案例你认为我们搞错了，我很乐意看到链接，我们始终愿意听取相反的意见。 https://news.ycombinator.com/vote?id=48888513&how=up&goto=item%3Fid%3D48886741 你是如何受到惩罚的？仅仅是失去了标记能力吗？ 如果你发现你标记事物的方式与他们希望的方式不一致，那么剥夺你的这个能力是合理的。除非还有更多的惩罚，否则这似乎非常合理，不管你多么真心地相信那些事情。 https://news.ycombinator.com/vote?id=48888153&how=up&goto=item%3Fid%3D48886741 我喜欢遵守网站指南并想按预期使用HN的人。这并不意味着我不喜欢不这样做的人，但这一面更加……微妙。 https://news.ycombinator.com/vote?id=48888413&how=up&goto=item%3Fid%3D48886741 他不知道我是谁。 私下里，当我刚来时，他礼貌且乐于助人。（试图有礼貌，得到了回报。） /供读者参考的单个轶事 https://news.ycombinator.com/vote?id=48888364&how=up&goto=item%3Fid%3D48886741 > 用户应该标记他们认为违反网站指南的文章 我越来越觉得这个链接实际上对网站弊大于利。它可以用来攻击任何事物，也可以用作剑或盾。 看看关于政治的部分。这里越来越多的美国国内政治帖子（我实际上一直在标记），但当话题出现时，人们会说："黑客们应该在世界燃烧时背过身去吗？"所以基本上只要符合叙事，什么都可以。 而在我看来，最糟糕的是关于Reddit的最后一部分。因为我确实*非常同意*HN越来越像Reddit，甚至已经就是如此。这个帖子本身及其评论，每个人都在要求一个踩按钮，就是一个完美的例子。 https://news.ycombinator.com/vote?id=48888290&how=up&goto=item%3Fid%3D48886741 *我所知道的是，用户应该标记他们认为不适合HN的文章* 如果这是真的，那么这个声明应该被添加到指南中。很多次我看到一个提交，心想"天哪，这是我这辈子读过的最愚蠢的东西，几乎每个事实性陈述都是错的"，但我没有标记它，因为"不要发布胡言乱语"并不在指南中。 https://news.ycombinator.com/vote?id=48888587&how=up&goto=item%3Fid%3D48886741 你认为标记是用来做什么的？（真诚提问） 确实，我们没有精确地说明，但这是因为不可能完全精确地说明。如果你开始精确化，在哪里停下来？ https://news.ycombinator.com/vote?id=48888979&how=up&goto=item%3Fid%3D48886741 *你认为标记是用来做什么的？（真诚提问）* 和其他网站一样：垃圾内容和/或机器人、滥用和/或侮辱及其他人身攻击，特别是指南中这一点：*请不要将Hacker News用于政治或意识形态斗争。它会扼杀好奇心。* 以及 *偏离主题：大多数关于政治、犯罪、体育或名人的故事，除非它们是某些有趣新现象的证据。如果电视新闻会报道，那很可能就是偏离主题的。* 并不是说我的标记能起什么作用，这里来自主流媒体的美国国内政治文章太多了，我常常怀疑自己是否误解了指南，但毕竟，我只是个欧洲穷鬼 /s https://news.ycombinator.com/vote?id=48888020&how=up&goto=item%3Fid%3D48886741 总的来说，HN现在似乎有更多的问题，人们只是路过式地踩某些东西，因为他们不喜欢某人的观点。 我知道你讨厌所谓的"菜鸟评论"，正如你多年来所说，也正如指南中所述，即HN是不是在变成Reddit，但对我来说，作为一个长期读者，这方面的HN让我无法区分——不管你作为长期版主是否接受这一点。 因为HN的版规允许人们仅仅因为不喜欢某样东西就踩或标记它，所以它永远会像Reddit。没有其他区分特征。 一个能改变这一点的方法是，强制用户在踩或标记某物时说明原因。 编辑：如果你花很多年对人说"不，不，这不是真的"，你只是在捂耳朵。无风不起浪。 https://news.ycombinator.com/vote?id=48888286&how=up&goto=item%3Fid%3D48886741 不一定是不真实——投票者最常见的问题是它*就是不有趣或不独特*。 https://news.ycombinator.com/vote?id=48888332&how=up&goto=item%3Fid%3D48886741 难道你的账户不需要一定数量的赞才能使用踩按钮吗？我记得好像有这回事，现在变了吗？ 你不能刚创建账户登录就开始踩，这已经是比Reddit的巨大改进。 https://news.ycombinator.com/vote?id=48887221&how=up&goto=item%3Fid%3D48886741 我希望HN不要介入对文章政治的审核。 我可以看到一个阴暗的未来（现在？），"AI生成"变成一种侮辱，无论是否有理，在一个人类被训练得像AI和AI伪装成人类越来越难以区分的世界里，一些隐秘的集团在做出判断。 这与HN作为一个供人类评论文章的地方的立场是完全不同的。