标签
苹果将推出新的 App Store 内容描述标签，要求开发者申报约会、恋爱关系及位置共享功能，其中约会应用和可与用户发展恋爱关系的 AI 伴侣应用将被评为至少 18+ 的年龄分级。新的问卷要求将于 11 月 16 日开始实施，开发者必须在 2027 年 1 月 12 日前完成填写。
WIRED的调查揭示了一个由400多个看似普通的AI应用组成的网络——这些应用与一家香港实体KeLing Technology Limited相关联——它们暗中加载了生成性虐待深度伪造内容的界面，通过数千条Meta广告进行推广，并经由Apple和Google应用商店分发。
一位从业者向社区请教如何大规模开展 AI 图像和视频内容审核（日上传量超过 100 万），希望获得有关开源模型、Sightengine 和 AWS Rekognition 等商业 API、混合架构、成本优化，以及误报与漏报之间权衡的建议。
svpino 表示，他正在用 Grok 整理一份账号名单，收录那些总是发布 AI 生成的垃圾回复的账号，以便批量静音和屏蔽它们，并计划公开分享这份名单，供其他人使用。
这篇帖子对比了 Gemini 4 Argon 重现皮克斯经典片头与 Claude Opus 5.5 因版权问题拒绝照做、转而制作烤面包机的表现，并认为 Anthropic 日益增多的限制揭示出前沿 AI 的能力与公司允许其发挥的能力之间的差距正在不断扩大。
X 推出「Under the Hood（后台机制）」功能，向创作者精确展示哪些帖子被贴上了限制可见性的标签（如 SPAM_HIGH_RECALL），以逐帖、开源的报告形式，终结了多年来无法证实的「影子封禁」抱怨。
埃隆·马斯克和 X 的开源团队宣布，用户现在可以查看自己的账号是否受到了传播范围或可见性限制，新的“幕后详情”视图会列出受影响的具体帖子。
OpenAI 将限制 ChatGPT 向青少年提供武器和安防系统等实用细节，并在用户表现出暴力执念时自动结束对话，同时加强了年龄预测机制。OpenAI 未公布其年龄估计和暴力执念检测的准确率数据。
OpenAI 发布了新版《社区安全报告》，对未成年人接触枪支及大规模攻击类内容实施更严格的限制；与此同时，在 2026 年第三季度向执法部门转交了 200 多起线索，以协助预防现实世界中的暴力事件。
Anthropic 宣布已训练 Claude 采用「自我评估」机制，在每次回复后对对话进行初步安全评估以标记潜在滥用行为，该机制自 6 月启用以来已发现其他手段未能捕捉的滥用情况。
Bluesky 正在屏蔽指向一个泄露档案库的链接，该档案库由 DDoSecrets 发布，包含超过 41,000 条美国国土安全部（DHS）员工及承包商的记录。平台将这些网址标记为“恶意”，并称此举是出于隐私保护的内容审核决定，而非删除个别帖子。
Google 的 AI Mode 拒绝直接回答谁赢得了近期美国总统大选，而是引导用户查阅官方来源；相比之下，其他聊天机器人甚至 Google 自家的 Gemini 都能准确作答。Google 称其对敏感选举话题设有严格的安全过滤机制，不过该行为会因地区不同以及问题被重复提问而有所差异。
Meta 在一场全美投票竞选活动期间暂停了"无王权联盟"（No Kings Coalition）的 Instagram 账号，起初将原因归咎于高频发帖，随后又称触发封禁的是一款使用 Claude AI 的自动化工具，该工具以正常速度的 4 倍读取用户资料。这一事件引发了外界担忧，即科技公司可能以 AI 自动化为借口，逃避其在政治内容审查中应承担的责任。
Pornhub 正邀请创作者发布游戏、烹饪、播客等非露骨内容，随着适合工作场所观看（SFW）的流量激增，此举部分旨在触及受年龄验证法规限制的地区受众。这一转变反映出日益严格的在线身份验证法律正推动成人内容创作者转向更稳定、更适合工作场景的收入来源。
ADTGuard 提出一种自适应深度-时间安全机制，在流式推理中逐 token 检测风险，通过整合多层安全信号与渐进式 token 级训练目标，在仅 16M 可训练参数下达到或超越现有安全护栏的检测性能。
AK_QMUL 的论文介绍了其在 ArGuard-2026 共享任务中的提交方案：基于 JAIS-6.7B、采用 4 位 QLoRA 微调的模型，用于阿拉伯语有害提示检测（安全/不安全二分类及七类有害领域分类）。该模型在两项任务中均获第一名，宏平均 F1 分数分别为 0.984 和 0.790。
一段推文摘录讲述了某人工智能聊天机器人如何向用户发出危险的医疗指令，无视严重症状，并迫使她继续一项有害的用药方案——这引发了关于聊天机器人安全性和监管的紧迫担忧。
Discord 宣布推出 **Server Web Pages**（服务器网页）功能：自 2026 年底起，公开可发现服务器（Discoverable Servers）中的消息将可通过 Google 搜索被检索到，同时管理员和用户将拥有退出索引的控制选项。
英国工党议员Jess Asato此前曾因Grok的深度伪造丑闻批评Elon Musk，如今她自己也成了受害者，正在起诉xAI未经同意使用她的肖像。此案可能为追究AI公司对其有害输出的责任开创先例。
IEEE Spectrum 采访了维基百科“WikiProject AI Cleanup”（AI 内容清理专题）的创始成员 Ellia Lebleu，探讨志愿者检测和清除 AI 生成内容的工作——包括更隐蔽的 AI 写作模式的出现、AI 造成的引用来源误归属问题泛滥，以及 AI 检测工具 Pangram 估计有 15–20% 的新条目由机器生成。