ZeroDrift 获 1000 万美元融资,保护 AI 模型免于自毁
摘要
ZeroDrift 获得 1000 万美元种子轮融资,提供一项 AI 合规服务,该服务位于模型与用户之间,能够确定性地标记并重写不合规消息。
一项新的 AI 合规服务位于 AI 模型与最终用户之间,用于标记和替换任何可能存在合规问题的消息。
查看缓存全文
缓存时间: 2026/06/02 15:48
# ZeroDrift 融资1000万美元,保护AI模型免受自身影响 | TechCrunch
来源:https://techcrunch.com/2026/06/02/zerodrift-raises-10-million-to-protect-ai-models-from-themselves/
随着企业排查其AI系统的问题,治理已成为一项关键挑战。一些企业采取了双重策略:一个模型处理传入查询,另一个模型则防止第一个模型惹麻烦。
这正是ZeroDrift(http://zerodrift.ai/)的核心理念。这家新兴的AI合规服务公司周二宣布,已在一轮种子轮融资中筹集了1000万美元,投资者包括a16z Speedrun、Reign Ventures、PitchDrive Ventures和U&I Ventures等。该公司完全专注于系统的第二部分,即位于AI模型与终端用户之间,标记并替换任何可能引发合规问题的消息。
用AI工具来纠正其他AI系统的错误,听起来或许有些奇怪,但ZeroDrift表示,其系统在架构上比它将要纠正的模型具有若干优势。该系统由常规程序触发,这些程序以确定性方式应用已知合规标准(如SOC 2或GDPR),而大语言模型仅在消息被标记后才介入,负责将该消息重写为合规版本。
“我们能够以确定性方式识别所有受监管领域以及具体违反的条款,然后由大语言模型进行重写,”首席执行官Kumesh Aroomoogan表示。
关键是,该公司声称其整个系统的运行延迟更低、可靠性高于传统大语言模型。这正是ZeroDrift宣称相对于OpenAI、Anthropic等大型实验室的主要优势——而这些实验室的产品往往已存在于底层系统中。
最显而易见的用例是AI聊天机器人,它们已部署在面向消费者的场景中,一旦回答出现偏差可能带来严重后果。但Aroomoogan看到了更大的总可寻址市场,甚至可能涵盖那些仅由自动化系统生成、人类永远不会看到的AI消息。目前这还是个相对小众的市场,但随着AI的普及,它将不断增长。
从融资情况来看,这类产品存在大量被压抑的需求。“这大概是我有生以来完成得最快的一次融资,”Aroomoogan表示,并将功劳归于安德森·霍洛维茨基金对种子轮架构的帮助。“我们在三周内完成交割,且超额认购达3倍。”
*当您通过我们文章中的链接购买商品时,我们可能会获得小额佣金(https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不会影响我们的编辑独立性。*
Russell Brandom自2012年起报道科技行业,关注平台政策与新兴技术。他曾任职于The Verge和Rest of World,并为Wired、The Awl及MIT Technology Review撰稿。可通过[email protected]或Signal:412-401-5489联系。
查看作者简介(https://techcrunch.com/author/russell-brandom/)
相似文章
@whitecircle:我们融资1100万美元,助你掌控AI
White Circle 完成1100万美元融资,推出统一AI管控平台,为企业部署提供红队测试、护栏、可观测性与优化。
前沿模型论坛更新
前沿模型论坛宣布创建一个新的 AI 安全基金,初期资金超过 1000 万美元,由主要 AI 公司(Anthropic、Google、Microsoft、OpenAI)和慈善合作伙伴提供支持,用于推进独立的 AI 安全研究。该基金将重点关注开发模型评估和红队测试技术,以评估前沿 AI 系统的危险能力。
在实际业务中部署AI最难的部分不是模型本身,而是谁负责‘这个还正确吗?’
本文讨论了AI在业务中的部署失败往往不是因为模型质量,而是因为缺乏对保持模型知识随世界变化而更新的所有权,强调了‘静默漂移’的挑战以及持续运营维护的必要性。
大多数AI安全讨论仍集中在‘保护模型’上。
本文讨论了具备阅读内部文档、调用API等能力的AI系统需要一种新的安全方法,即超越传统SaaS安全,转向针对AI智能体的零信任原则。
商业AI被“脑白质切除”了。我构建了DRIFT:一个拥有持久记忆、模拟躯体反馈及荣格阴影的本地集体意识。
作者介绍了DRIFT,这是一个基于Python和Ollama构建的本地AI系统,具备持久记忆、模拟躯体反馈和荣格心理学建模功能,旨在创造一种更接地气、更具主权的AI交互体验。