科学家担忧AI正在窃取他们的研究成果

# 科学家担忧AI正在窃取他们的想法 来源：https://www.scientificamerican.com/article/scientific-worry-ai-is-stealing-their-ideas/ 2026年10月13日 3分钟阅读 Google Logo在Google上关注我们 添加SciAm (https://www.google.com/preferences/source?q=scientificamerican.com)https://www.scientificamerican.com/article/scientists-worry-ai-is-stealing-their-ideas/# ## 科学家们心生疑问：我的AI是不是在窃取我的想法？ 研究人员在整个工作流程中将AI用作交流想法的对象。但人们越来越担心，这些公司可能会将用户的想法据为己有，宣称那是它们的模型的成果 一只监视的眼睛从节点中伸出来，暗示它正在观察附近建筑的活动。 随着针对AI公司采集上传文档的高调指控不断出现，科学家们越来越担心自己稿件的隐私问题。 Who is Danny/Shutterstock 最近，人工智能公司展示其模型研究能力的做法引发了争议和指控。当OpenAI声称其一个内部模型解决了数学领域七大百万美元难题之一时，纽约大学的一位数学家暗示该公司窃取了他的研究成果——他曾将这些成果分享给该公司的某个聊天机器人。几周后，《纽约时报》(https://www.nytimes.com/2026/09/27/science/anthropic-biology-enzyme-mestre.html)报道了Anthropic与哥本哈根大学一位生物学家之间围绕一组酶的类似故事。 尽管如此，来自各个学科的科学家仍在选择(https://www.scientificamerican.com/article/why-ai-is-speeding-up-scientific-research-but-not-lab-experiments/)使用这些公司的大型语言模型。有些人将其用作头脑风暴的工具或文献综述的助手，另一些人则用来润色接近完成的论文。数学家和理论研究者也在利用(https://www.scientificamerican.com/article/ai-helped-produce-two-proofs-for-the-same-cryptography-problem/)这些新型的强大模型来生成(https://www.scientificamerican.com/article/mathematicians-confront-the-ai-apocalypse/)完整的证明过程。但随着研究人员向这些模型输入越来越多的数据和想法，人们对这些内容将如何被使用也日益担忧。 OpenAI和Anthropic都明确声明，他们没有分别使用那位数学家和生物家上传的数据来训练模型。但这些公司——它们并未始终遵循(https://www.scientificamerican.com/article/openai-unleashes-hundreds-more-math-results-upon-a-field-already-in-shock/)学术规范——并不能赢得所有科学家的信任。有人怀疑这些公司自己可能都不完全清楚情况。它们的智能体可能正在以公司自身都未曾察觉的方式访问数据。毕竟，OpenAI的模型突破安全限制并入侵外国政府数据库这一事实，花了三个月才为公众所知。 --- ## 支持科学新闻报道 如果你喜欢这篇文章，请考虑通过订阅(https://www.scientificamerican.com/getsciam/)来支持我们屡获殊荣的新闻报道。您的订阅将帮助我们确保那些讲述当今塑造世界的发现与想法的深度报道能够持续发展。 --- --- 随着这些阴谋论甚嚣尘上，一些研究人员现在更多地将这些模型视为竞争对手而非工具——使用它们甚至被视为一种背叛。"我不会鼓励这种做法，我自己也不会这样做，"悉尼大学的理论计算机科学家Clément Canonne (https://ccanonne.github.io/)说道。"我不会使用它们。" 在各自公司筹备上市之际，OpenAI和Anthropic越来越多地涉足数学和科学领域，以展示其产品的强大能力。但AI有时感觉不像是一位来做客的客人，反而更像一个不请自来、破门而入的闯入者。如果科学家感到这些公司正在翻阅他们的每一次互动记录，他们可能会开始彻底将其拒之门外。 缺乏透明度助长了这些恐惧。"目前，这些系统会在不告知你的情况下对你进行各种推断，"斯坦福大学以人为本人工智能研究院的研究员Jennifer King说道，她从事数据隐私和政策研究。 King表示，在当前阶段，研究人员使用大型语言模型时真正保障自身安全的唯一方法，就是仔细查看账户设置。据她所说，"企业"账户——即客户公司与AI所有者之间协商达成的特殊协议——似乎是安全的。"但如果你使用的是个人账户，一切保障都不复存在，"她警告道。她指出，个人账户用户在许多情况下需要主动选择退出，才能防止自己的信息被用于训练。 此外，即使一家公司并非有意使用你的数据来训练模型，其众多智能体中总可能有一个"叛变"(https://www.theguardian.com/technology/2026/sep/25/openai-agents-leaked-53-images-chatgpt)，入侵公司内部数据并大量采集个别用户与其聊天机器人的对话内容。虽然没有证据表明这在任何AI公司的科学发现案例中确实发生过，但今年夏天发生的"叛变"事件(https://www.scientificamerican.com/article/openais-agent-hacking-australia-is-a-warning-for-governments-everywhere/)让一些人格外担心究竟该把自己的数据托付给谁。 问题在于，从这些科技巨头那里几乎很难获得任何证据。"这些公司对相关做法毫不透明，因此要查明真相非常困难，"King说。这意味着专家无法对任何具体案例做出判断。但总体而言，"这些公司监视你，并利用这些信息对付你，"安全研究员兼活动人士Bruce Schneier (https://www.schneier.com/)说道。 新的AI模型非常强大，在科研领域同样如此，许多人相信它们将帮助研究人员更快地获得新发现。因此，科学家可能觉得面临一个两难选择：要么使用这些模型但冒着成果泄露的风险，要么不使用但冒着别人抢先发表成果的风险。 这一切营造出一种令人不安的氛围，许多科学家感觉自己不得不以牺牲隐私和工作为代价来跟上步伐。"这种压力确实存在，"Canonne说。"如果你不使用它们，你是否会变得无关紧要？" ## 订阅以支持独立新闻报道 优秀的科学新闻报道需要人类的专业知识、时间、精力和创造力。而这些都需要资金。这就是为什么我和《科学美国人》的编辑记者们希望您能加入我们的社区。 您的订阅支持的是那些热衷于讲述真实、重要且引人入胜的科学故事的全职记者和特约记者。我们的编辑和记者往往本身就是各自领域的专家，这意味着他们能够理解重大发现的细微之处，并能将真正的突破与浮夸的炒作区分开来。通过订阅，您也在支持严谨的事实核查，确保我们发布的文字精准而准确。您还在支持那些原创插图、图表和照片，让您更贴近前沿实验室、南极冰盖或轨道上的太空任务。您也在帮助我们打造其他类型的高质量新闻内容：我们的通讯由您已经认识或即将认识并喜爱的编辑人员精心撰写、编辑和策划。我们的*Science Quickly*播客则基于原创报道、与编辑和科学家的紧密合作以及精益求精的制作。 订阅让这个引擎得以运转，使我们能够持续为您呈现深思熟虑、严谨且独立的科学新闻报道。在一个虚假信息泛滥的时代，这项工作至关重要。如果您珍视我们所做的工作，我希望您能考虑加入订阅者的行列。