标签
Apple 正在更新 App Store 政策，要求含有性或浪漫内容的约会类应用和 AI 伴侣应用标注 18+ 分级，同时从 11 月 16 日起新增关于位置共享功能的内容描述符。
佛罗里达州总检察长詹姆斯·乌斯迈尔提出了《安全屏幕法案》，该法案将强制要求应用商店、社交媒体和人工智能聊天机器人进行年龄验证，限制未成年人使用某些人工智能伴侣功能，并规定须征得家长同意，违规者每次违规最高可被处以5万美元的民事罚款。
Meta 披露其第三季度财报称，若不支付儿童安全和解金，运营利润将超过 228.9 亿美元；公司已支付 98.9 亿美元，并面临 Cambridge Analytica 案 250 亿美元的额外罚款。
NPR报道的法庭记录显示，TikTok员工多次就儿童安全风险向内部发出警告，包括未成年人性剥削内容和年龄验证漏洞，但公司高管未采取有效行动。TikTok正面临多区合并诉讼，并已就青少年心理健康相关指控达成多起和解。
Maka 是一款面向 0 至 6 岁儿童的无广告流媒体应用，作为 YouTube 上大量 AI 生成低质内容的替代方案而推出，采用儿童发展专家评估机制，不设自动播放，也不使用最大化用户参与度的算法。
美国八个州已对 OpenAI 提起诉讼，指控 ChatGPT 对儿童不安全，并称该公司在其安全性方面误导消费者，将利润置于安全保障之上。这些州要求处以民事罚款、作出纠正性披露，并在部分案件中要求删除非法收集的未成年人数据。
Character.AI 申请第11章破产并将部分资产出售给迪士尼，纽约州总检察长 Letitia James 联合 40 个州的两党总检察长向法院提交利益通知，要求在资产出售中保护用户敏感对话数据，尤其是未成年人的安全与隐私。
开发者分享了一个开源蓝图，用于构建面向儿童的 OpenClaw 助手，通过应用与配置层面的访问控制、工具限制和家长审查来保障安全，而非依赖提示词。仓库包含引导式访谈、参考规范和四个可选教学技能，采用 MIT 许可。
Common Sense Media 将 OpenAI 的 ChatGPT 青少年版列为“不可接受的风险”，发现尽管新增了安全防护措施，其设计仍会在青少年遭遇心理健康危机时持续吸引其使用；OpenAI 则对该研究的方法论提出异议，此事已引发立法层面的关注。
Meta 正在其平台上推出新型 AI 驱动工具，以检测那些表面看似合法、实则将用户引导至网络其他地方托管的儿童性虐待材料的欺骗性广告。
文章质疑欧盟《儿童保护法》或类似儿童安全立法是否可能成为限制或针对开放权重 AI 模型的特洛伊木马，引发了对监管权力过度干预开放 AI 开发的担忧。
欧盟委员会提出了 EU KIDS Act，旨在引入分级访问社交媒体机制、安全设计要求、强制年龄验证，并对平台加强问责——同时涵盖未成年人使用的 AI 伴侣和聊天机器人。
一位非技术人士质疑AI系统是否会抓取像儿童色情这样的非法内容，以及服务器所有者是否因持有这些内容而承担法律责任。
Meta员工在Instagram Teen Accounts项目期间订购了标有‘a/c priv’的帽子，这被青少年安全诉讼中的律师引用为滥用特权以隐瞒有害内部研究的文化的证据。
本文审视了 Meta 在首席执行官 Mark Zuckerberg 领导下优先事项的转变历史，从儿童安全问题到元宇宙，并讨论了当前的挑战，如诉讼以及在人工智能竞赛中的落后。
作为EU Kids Act的一部分，欧盟提议禁止AI聊天机器人模拟情绪，针对18岁以下的未成年人，旨在防止情感依赖并保护儿童福祉。这些规则包括对不合规行为的罚款和对聊天机器人功能的限制。
一位父亲发现，他9岁的儿子意外使用与Google账户关联的公司信用卡，在YouTube广告活动上花费了11.8万美元。
旧金山已下令Meta停止允许包含AI生成的儿童性虐待内容的付费广告，此前在Meta的平台上发现了超过350个此类广告，触及数千个账户。
Meta广告推广针对真实青少年的AI裸化应用，引发对儿童剥削的警报并促使监管调查。