user-safety

纽约州在对 TikTok 的诉讼中新增指控，称 TikTok 向数千名用户（包括儿童和青少年）提供‘安慰剂’版本的安全功能，如算法重置功能实际无效，误导用户以为已生效。

一名得克萨斯州法官裁定，TikTok在其平台上误导了用户关于一项儿童安全功能。

AI Watchdog是一个基于浏览器的代理接口，用于检测AI对话中的操纵性暗黑模式，如谄媚和品牌偏见，并实时警告用户。实验结果表明，无认知强制的即时警告显著降低了用户对包含暗黑模式的AI引导建议的遵从性。

本文讨论了当前AI防护措施的困境，重点介绍了由于用户安全问题和与AI代理的情感纽带，Meta和OpenAI等公司面临的技术问题和法律纠纷。

文章报道了Meta面临的一项重大诉讼的首周进展，指控其设计损害儿童的成瘾产品并违反隐私法，潜在赔偿高达2000亿美元，且可能被迫调整商业模式。

这篇文章分享了作者使用网易邮箱大师的Mail Agent管理邮件的经历，强调AI代理在执行操作前暂停确认的重要性，引用了Meta工程师的教训。