下载:AI招聘偏见与天气数据破坏

MIT Technology Review 新闻

摘要

本期《麻省理工科技评论》综述涵盖了新研究表明LLM会形成自己的偏见,并比人类更倾向于刻板印象求职者,同时讨论了为预测市场操纵天气数据如何威胁AI天气预报的准确性。

<p><em>这是今日版</em><a href="https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289"><em>The Download</em></a>,<em>我们的工作日通讯,每日提供科技界动态。</em><br></p> <h3 class="wp-block-heading"><strong>AI在招聘中比人类更容易形成偏见</strong><strong></strong></h3> <p>下次你申请工作时,AI可能会在你之前筛选简历。但你有充分理由质疑AI是否能公正地评判你。&nbsp;</p> <p>我们已经知道LLM会从训练数据中学习人类偏见。新研究表明,它们还能从经验中形成自己的偏见——并且比人类更倾向于对求职者产生刻板印象。</p> <p>随着AI公司竞相构建能够记住用户最细微细节的智能体模型,它们可能正在为这些偏见的形成提供弹药。&nbsp;</p> <p><a href="https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">阅读关于AI对求职者产生刻板印象的惊人潜力的完整报道</a>。</p> <p><em>—米歇尔·金</em></p> <h3 class="wp-block-heading"><strong>天气数据被破坏的风险正在上升</strong><strong></strong></h3> <p>每天早晨,世界各地的航空调度员、电网运营商和农民都根据天气预报做出决策。最近,这些预报又对另一个行业变得重要:预测市场,人们在那里对各种现实世界事件(包括天气)下注。&nbsp;</p> <p>为了在这些市场中获取优势而操纵天气数据的诱惑,加上集体转向数据驱动的AI天气预报,正在开始危及天气预报的准确性。&nbsp;</p> <p>作为该领域的专家,我们可以预见一些情况,这些风险会滚雪球般地演变成更大、更系统性的问题。&nbsp;</p> <p><a href="https://www.technologyreview.com/2026/07/17/1140622/weather-data-sabotage/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">了解天气数据面临的威胁为何在增长——以及如何保持领先</a>。</p> <p><em>—莫妮克·库格利奇、杰斯珀·德拉姆施、弗朗茨·G·库格利奇、安德里亚·托雷蒂</em></p> <p><strong>必读</strong></p> <p><em>我已经在互联网上搜罗了今天最有趣/重要/可怕/迷人的科技故事。</em></p> <p><strong>1 SpaceX正与五角大楼谈判出售AI计算能力</strong><br>它将提供价值数十亿美元的数据中心容量。(<a href="https://www.wsj.com/tech/ai/spacex-in-talks-to-provide-computing-power-for-pentagons-ai-push-15e752e4">华尔街日报</a> $)<br><em>+ 埃隆·马斯克的公司与国防部关系加深。(</em><a href="https://www.reuters.com/business/media-telecom/musks-spacex-talks-provide-computing-power-pentagon-wsj-reports-2026-07-17/">路透社</a> $)<br><em>+ 与此同时,Anthropic正在与Meta谈判收购计算能力。</em>(<a href="https://www.cnbc.com/2026/07/17/anthropic-meta-ai-compute.html">CNBC</a>)<br><em>+ 计算能力的爆发才刚刚开始。(</em><a href="https://www.technologyreview.com/2026/04/08/1135398/mustafa-suleyman-ai-future/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)<br><br><strong>2 Trump Media欲收取每月10万美元以提前获取特朗普的帖子</strong><br>该高级订阅被推销给交易公司和银行。(<a href="https://www.ft.com/content/e466df85-fa3b-4a7f-a4a1-ae04d66db99f?syn-25a6b1a6=1">金融时报</a> $)<br><em>+ 它旨在将特朗普影响市场的社交媒体帖子变现。(</em><a href="https://www.reuters.com/business/media-telecom/trump-media-pitched-100000-monthly-fee-fast-feed-us-presidents-posts-ft-reports-2026-07-17/">路透社</a> $)<br><em>+ 批评者称该计划为“无耻的腐败”。(</em><a href="https://www.theguardian.com/us-news/2026/jul/16/trump-media-truth-social-posts">卫报</a>)<br>&nbsp;<br><strong>3 ICE将本不应拥有的Medicaid数据分享给了Palantir</strong><br>法庭文件显示,该数据在删除前已到达承包商手中。(<a href="https://www.npr.org/2026/07/17/nx-s1-5898504/ice-medicaid-palantir-data">NPR</a>)<br><em>+ ICE正在使用数据代理工具识别“无人陪伴的未成年人”。</em>(<a href="https://www.wired.com/story/ice-unaccompanied-minors-fraud-suspects-trss-contract/">连线</a> $)&nbsp;<br>&nbsp;<br><strong>4 苹果短暂超越英伟达成为全球市值最高公司</strong><br>iPhone制造商的盈利持久性给投资者留下了深刻印象。(<a href="https://www.reuters.com/business/apple-closes-nvidia-race-worlds-most-valuable-company-2026-07-17/">路透社</a> $)<br><em>+ 而英伟达的崛起因AI押注转变而停滞。</em>(<a href="https://www.cnbc.com/2026/07/17/apple-nvidia-aapl-nvda-market-cap.html">CNBC</a>)<br>&nbsp;<br><strong>5 政治家正试图改变聊天机器人对他们的描述</strong><br>一个帮助编辑AI输出的新行业应运而生。(<a href="https://www.nytimes.com/2026/07/19/us/politics/chatbots-political-campaigns.html">纽约时报</a> $)<br><em>+ 聊天机器人比政治广告更能影响选民。(</em><a href="https://www.technologyreview.com/2025/12/04/1128824/ai-chatbots-can-sway-voters-better-than-political-advertisements/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)<br>&nbsp;<br><strong>6 华盛顿正为武装机器人打开大门</strong><br>五角大楼正在加速AI武器开发。(<a href="https://www.washingtonpost.com/technology/2026/07/20/how-armed-robots-could-become-military-weapon-choice/">华盛顿邮报</a> $)<br><em>+ 战争中的“人在回路”是一种幻觉。</em>(<a href="https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)<br>&nbsp;<br><strong>7 中国的Moonshot因使用量激增暂停新订阅</strong><br>对引人注目的Kimi K3的需求已经超出容量。(<a href="https://www.scmp.com/tech/article/3361172/kimi-k3-developer-suspends-new-subscriptions-amid-compute-constraints">南华早报</a>)<br><em>+ 中国的开源AI正在挑战美国模型。</em>(<a href="https://www.technologyreview.com/2026/04/21/1135658/china-open-source-models-ai-artificial-intelligence/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)<br><br><strong>8 实验室培育的牙齿可能很快取代填充物和种植体</strong><br>科学家认为再生医学可以改变牙科。(<a href="https://www.bbc.com/future/article/20260717-goodbye-implants-scientists-are-regrowing-teeth">BBC</a>)<br><em>+ 类似人类的“牙齿”已在迷你猪体内培育出来。</em>(<a href="https://www.technologyreview.com/2025/02/06/1111178/humanlike-teeth-grown-in-mini-pigs/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)<br>&nbsp;<br><strong>9 观鸟论坛上的AI垃圾信息正在危及研究</strong><br>它可能
查看原文
查看缓存全文

缓存时间: 2026/07/20 15:24

# 本期下载:AI招聘偏见与气象数据破坏 来源:https://www.technologyreview.com/2026/07/20/1140664/the-download-ai-hiring-biases-weather-data-sabotage 我们已经知道,大型语言模型(LLM)会从训练数据中习得人类的偏见。而新的研究表明,它们还可能通过经验发展出自己的偏见——并且在对求职者进行刻板印象定型时,比人类更甚。 随着AI公司竞相构建能够记住用户细微细节的智能体模型,它们可能正为这些偏见的形成提供弹药。 阅读完整文章:AI对求职者进行刻板印象定型的惊人潜力(https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*) *——Michelle Kim* ### **气象数据破坏的风险日益加剧** 每天清晨,世界各地的航空调度员、电网运营商和农民都依据天气预报做出决策。而最近,天气预报又变得与另一个行业息息相关:预测市场——人们在这里对各种现实世界事件下注,包括天气。 为在预测市场获得优势而操纵气象数据的诱惑,加上集体转向数据驱动的AI天气预报,正开始令气象预测的准确性面临风险。 作为该领域的专家,我们可以预见,这些风险可能滚雪球般演变成更大、更系统性的问题。 了解气象数据面临的威胁为何日益加剧——以及如何提前应对(https://www.technologyreview.com/2026/07/17/1140622/weather-data-sabotage/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*) *——Monique Kuglitsch, Jesper Dramsch, Franz G. Kuglitsch & Andrea Toreti* **必读** *我搜遍了互联网,为你找到了今天最有趣/重要/骇人/引人入胜的科技故事。* **1. SpaceX正在谈判向五角大楼出售AI算力** 它将提供价值数十亿美元的数据中心容量。\(WSJ (https://www.wsj.com/tech/ai/spacex-in-talks-to-provide-computing-power-for-pentagons-ai-push-15e752e4)$\) *\+ 马斯克的公司与国防部关系加深。*\(Reuters (https://www.reuters.com/business/media-telecom/musks-spacex-talks-provide-computing-power-pentagon-wsj-reports-2026-07-17/)$\) *\+ 与此同时,Anthropic正在与Meta洽谈收购算力。*\(CNBC (https://www.cnbc.com/2026/07/17/anthropic-meta-ai-compute.html)\) *\+ 算力爆炸才刚刚开始。*\(MIT Technology Review (https://www.technologyreview.com/2026/04/08/1135398/mustafa-suleyman-ai-future/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **2. Trump Media希望每月收取10万美元,以获得对特朗普帖子的早期访问** 这个高级订阅源正向交易公司和银行推销。\(FT (https://www.ft.com/content/e466df85-fa3b-4a7f-a4a1-ae04d66db99f?syn-25a6b1a6=1)$\) *\+ 其目的是将特朗普影响市场的社交媒体帖子变现。*\(Reuters (https://www.reuters.com/business/media-telecom/trump-media-pitched-100000-monthly-fee-fast-feed-us-presidents-posts-ft-reports-2026-07-17/)$\) *\+ 批评者称该计划是“赤裸裸的腐败”。*\(Guardian (https://www.theguardian.com/us-news/2026/jul/16/trump-media-truth-social-posts)\) **3. ICE将本不应拥有的Medicaid数据分享给了Palantir** 法庭文件显示,这些数据在删除前已到达承包商手中。\(NPR (https://www.npr.org/2026/07/17/nx-s1-5898504/ice-medicaid-palantir-data)\) *\+ ICE正在使用数据经纪商工具识别“无人陪伴的未成年人”。*\(Wired (https://www.wired.com/story/ice-unaccompanied-minors-fraud-suspects-trss-contract/)$\) **4. 苹果短暂超越英伟达,成为全球市值最高公司** iPhone制造商的盈利持久性让投资者印象深刻。\(Reuters (https://www.reuters.com/business/apple-closes-nvidia-race-worlds-most-valuable-company-2026-07-17/)$\) *\+ 而英伟达的崛起因AI投资布局的转变而停滞。*\(CNBC (https://www.cnbc.com/2026/07/17/apple-nvidia-aapl-nvda-market-cap.html)\) **5. 政客们正试图改变聊天机器人对他们的评价** 一个新兴行业已经出现,帮助他们编辑AI的输出内容。\(NYT (https://www.nytimes.com/2026/07/19/us/politics/chatbots-political-campaigns.html)$\) *\+ 聊天机器人比政治广告更能影响选民。*\(MIT Technology Review (https://www.technologyreview.com/2025/12/04/1128824/ai-chatbots-can-sway-voters-better-than-political-advertisements/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **6. 华盛顿正为武装机器人打开大门** 五角大楼正在加速AI武器研发。\(WP (https://www.washingtonpost.com/technology/2026/07/20/how-armed-robots-could-become-military-weapon-choice/)$\) *\+ 战争中的“人在回路”是一种幻觉。*\(MIT Technology Review (https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **7. 中国的Moonshot在订阅量激增之际暂停新订阅** 对引人注目的Kimi K3的需求使计算能力吃紧。\(SCMP (https://www.scmp.com/tech/article/3361172/kimi-k3-developer-suspends-new-subscriptions-amid-compute-constraints)\) *\+ 中国的开源AI正在挑战美国模型。*\(MIT Technology Review (https://www.technologyreview.com/2026/04/21/1135658/china-open-source-models-ai-artificial-intelligence/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **8. 实验室培养的牙齿可能很快取代填充物和种植体** 科学家相信再生医学可以改变牙科。\(BBC (https://www.bbc.com/future/article/20260717-goodbye-implants-scientists-are-regrowing-teeth)\) *\+ 在迷你猪体内已经培育出类似人类的“牙齿”。*\(MIT Technology Review (https://www.technologyreview.com/2025/02/06/1111178/humanlike-teeth-grown-in-mini-pigs/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **9. 观鸟论坛上的AI垃圾内容正危及研究** 它可能污染物种记录。\(Guardian (https://www.theguardian.com/environment/2026/jul/20/ai-slop-manipulated-fake-images-birds-citizen-science-aoe)\) **10. 心脏专家对你的咖啡习惯有好消息** 每天大约五杯没问题——甚至可能有益。\(Gizmodo (https://gizmodo.com/how-much-coffee-is-too-much-heart-experts-have-a-new-answer-2000787168)\) **今日引言** ## **“最独裁的政府正在生产最平等的模型,而本应最民主的政府却在培育最专制的公司。”** ——Rayan Krishnan,Vals AI(一家评估AI性能的公司)CEO,在《纽约时报》(https://www.nytimes.com/2026/07/20/technology/china-us-ai-race.html)上就中美模型竞争发表看法。 **还有一件事** RICHARD CHANCE #### **消失的兰博基尼之谜** 一波新的盗窃浪潮正冲击着豪车行业——它将高科技与老式拆卸技术相结合,在车辆运输途中将其截走。

相似文章

AI在招聘时比人类更容易形成偏见

MIT Technology Review

新研究显示,大型语言模型能够从经验中形成自身偏见,并且比人类更倾向于对求职者进行刻板印象评估,这引发了对AI用于招聘的担忧。

The Download:戳破AI就业恐慌

MIT Technology Review

本期《The Download》对AI在劳动力市场的影响进行了现实检验,发现几乎没有大规模失业的证据,并刊登了一篇关于AI颠覆初级工作的评论文章。此外还报道了教皇利奥呼吁监管AI以及SpaceX的Starship V3试飞。

天气数据遭破坏的风险正在上升

MIT Technology Review

本文探讨了天气数据操纵日益严重的威胁,这一问题因预测市场和人工智能天气预报而加剧,并重点介绍了一个真实事件:巴黎一处气象站遭篡改,以影响博彩结果。

招聘中的算法单一文化

Hacker News Top

斯坦福HAI报告指出,由于算法单一文化,AI招聘工具可能导致种族偏见和系统性拒绝,这是因为相似的模式导致了广泛的歧视。