谁来决定AI告诉你什么？前Meta新闻主管坎贝尔·布朗有话要说

# 谁来决定AI告诉你什么？坎贝尔·布朗，曾是Meta新闻主管，有话说 | TechCrunch 来源：https://techcrunch.com/2026/05/13/who-decides-what-ai-tells-you-campbell-brown-once-metas-news-chief-has-thoughts/ 坎贝尔·布朗（Campbell Brown）的职业生涯一直致力于追求准确信息，先是作为一名知名电视记者，后来担任Facebook的第一位也是唯一一位专职新闻主管。如今，看着AI重塑人们获取信息的方式，她感觉历史可能重演。这一次，她不打算等别人来解决。 她的公司Forum AI（https://byforum.com/），最近在旧金山的一场StrictlyVC晚会上与TechCrunch的蒂姆·费恩霍尔兹（Tim Fernholz）进行了讨论，该公司评估基础模型在她所谓的“高风险话题”上的表现——地缘政治、心理健康、金融、招聘，这些话题“没有明确的肯定或否定答案，模糊、微妙且复杂。” 其想法是找到全球最顶尖的专家，由他们设计基准，然后训练AI评委来大规模评估模型。在Forum AI的地缘政治工作中，布朗招募了尼尔·弗格森（Niall Ferguson）、法里德·扎卡里亚（Fareed Zakaria）、前国务卿托尼·布林肯（Tony Blinken）、前众议院议长凯文·麦卡锡（Kevin McCarthy）以及曾在奥巴马政府领导网络安全的安妮·纽伯格（Anne Neuberger）。目标是让AI评委与这些人类专家达到大约90%的共识，布朗表示Forum AI已经能够达到这个阈值。 布朗将Forum AI的起源（17个月前在纽约创立）追溯到一个特定时刻。“ChatGPT首次公开发布时我在Meta，”她回忆道，“我记得很快意识到这将成为所有信息流动的漏斗。而且它并不太好。”这对于她自己的孩子们的影响让这个时刻几乎带有了存在主义的意味。“如果我们不设法解决这个问题，我的孩子们会变得非常愚蠢，”她回忆当时这样想。 最让她沮丧的是，准确性似乎不是任何人的优先事项。她说，基础模型公司“非常专注于编码和数学”，而新闻和信息更难。但她认为，更难并不意味着可以忽略不计。 事实上，当Forum AI开始评估主流模型时，研究结果并不令人鼓舞。她提到Gemini从中国共产党网站上抓取“与无关中国的故事”，并指出几乎所有模型都存在偏左的政治偏见。她说，更微妙的失败也很多，包括遗漏背景、遗漏观点、未加说明地建立稻草人论点。“还有很长的路要走，”她说。“但我也认为有一些非常简单的修复方法，可以大大改善结果。” 布朗在Facebook多年，目睹了当平台为错误的事情进行优化时会发生什么。“我们尝试的很多事情都失败了，”她告诉费恩霍尔兹。她建立的事实核查项目已不复存在。教训是，即使社交媒体对此视而不见，优化参与度对社会来说很糟糕，让许多人了解的信息更少。 她的希望是AI能够打破这种循环。“现在两种可能性都有，”她说。公司可以给用户他们想要的东西，或者可以“给人们真实、诚实和真实的东西。”她承认，理想化的版本——AI为真理优化——听起来可能天真。但她认为企业可能是一个意外的盟友。使用AI进行信贷决策、贷款、保险和招聘的企业关心责任问题，“他们会希望你优化以获得正确结果。” 这种企业需求也是Forum AI押注其业务的地方，尽管将合规兴趣转化为稳定的收入仍然是一个挑战，尤其是考虑到当前市场的大部分仍然满足于复选框审计和标准化基准，而布朗认为这些是不够的。 她说，合规现状是“一个笑话”。当纽约市通过第一部要求AI审计的招聘偏见法时，州审计长发现超过一半的违规行为未被发现。她说，真正的评估需要领域专业知识，不仅要处理已知场景，还要处理那些“可能让你陷入人们未考虑到的麻烦”的边缘情况。而这项工作需要时间。“聪明的通才是不够的。” 布朗的公司——去年秋天筹集了300万美元（https://medium.com/lerer-hippeau-ventures/please-welcome-forum-ai-the-company-bringing-human-expert-judgment-to-ai-93943fc7dfab），由Lerer Hippeau领投——表示Forum AI处于独特的位置来描述AI行业自我形象与大多数用户现实之间的脱节。“你会听到大型科技公司的领导人说，‘这项技术将改变世界’，‘它将让你失业’，‘它将治愈癌症，’”她说。“但随后对于一个只是用聊天机器人问基本问题的普通人来说，他们仍然得到大量垃圾信息和错误答案。” *当您通过我们文章中的链接购买商品时，我们可能会赚取少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*