当Reddit用户来这里问我们为什么要运行本地大模型时，原因就是这个：大型AI公司在监视你

Reddit r/LocalLLaMA 新闻
ai-privacy anthropic content-moderation data-security llm surveillance

摘要

一篇Reddit帖子批评Anthropic的人工审核团队将一名佛罗里达女子在Claude'日记'中发出的威胁信息上报给执法部门，警告称托管的前沿AI服务商正在监控用户输入，注重隐私的用户应改为在本地运行大模型。

Anthropic将佛罗里达女子在Claude'日记'中发出的威胁信息上报给执法部门 而这次促成执法转介（LEO referral）的并不是AI模型本身，而是'人工审核团队'。 前沿AI公司正在监视你的输入。 有人会说'我又不是什么重要人物，他们不会在意的。' 嗯……未必。 如果你在使用托管前沿模型研究数学或尖端科学，他们正在监视你，并且可能会窃取你的成果。 如果你在'私密'会话中用AI倾诉情绪或写一些东西，他们也会看到，并可能将你报告给警察。 请注意，我在通报中没有看到任何关于该模型在促成这次对话中扮演何种角色的说明。 保护好自己的隐私，各位。托管AI就是新的'老大哥'通道。
查看原文

相似文章

AI在现实世界中的部署

Reddit r/ArtificialInteligence

Reddit已部署AI/LLM实时分析所有帖子和评论中的仇恨言论与有害内容，能在几秒内自动封禁用户，这与Instagram和Facebook形成对比，后两者并未如此严格地应用此类分析。

一封来自机器学习工程师的信

Lobsters Hottest

这封来自前沿AI实验室的匿名机器学习工程师来信警告了扩展大语言模型的局限性、开源模型对专有模型的威胁，以及主要AI公司商业模式的不可持续性。