AI在现实世界中的部署
摘要
Reddit已部署AI/LLM实时分析所有帖子和评论中的仇恨言论与有害内容，能在几秒内自动封禁用户，这与Instagram和Facebook形成对比，后两者并未如此严格地应用此类分析。
Reddit已大规模部署AI/LLM来分析帖子和评论。这一过程实时进行，相比旧的仇恨言论/有害内容分类器性能显著提升。你写的每条评论在被展示到帖子之前都会经过分析，甚至可能在发布后几秒内就导致被Reddit自动封禁。然而，Instagram和Facebook的情况并非如此，那里仍存在大量仇恨言论和暴力呼吁。为什么Instagram和Facebook不像Reddit那样使用AI来分析每条帖子和评论中的仇恨言论与煽动暴力内容呢？
相似文章
AI战争已经来临
本文探讨了人工智能如何深入融入军事行动，从Maven项目到当前关于自主武器和红线的辩论，突显了从假设的杀人机器人向现实世界中AI赋能战争的转变。
关于破坏欺骗性AI使用的最新进展
OpenAI 发布了一份威胁情报报告，详细说明了在全球范围内破坏20多起欺骗性AI行动的工作，重点关注与国家相关的行为者和影响力运动，考虑到全球选举，这些问题特别令人担忧。
这是一个AI胡说检测器：我每天使用它，它能捕捉到你独自发现不了的问题
一款名为Lighthouse的工具，由一位AI治理工程师构建，利用运行时验证来检测AI输出和写作中的认知漂移以及听起来自信的胡说八道。
破坏隐蔽影响力行动对AI的欺骗性使用
OpenAI 报告破坏了五个试图滥用其 AI 模型进行欺骗性宣传的隐蔽影响力行动，研究结果表明安全设计的模型阻止了威胁行为者生成所需内容。该公司正在发布趋势分析，并与行业、民间社会和政府合作打击 AI 驱动的信息操纵。
公司利用Reddit操纵ChatGPT和Google AI搜索
公司利用Reddit垃圾信息操纵ChatGPT和Google的AI搜索结果，导致r/Biohackers子版块因AEO（AI引擎优化）策略导致内容质量下降，而禁止肽类和HRT帖子。