AI认知风险：新兴机制与证据 [R]

**人工智能将如何影响我们独立思考和判断的能力？** 我们这篇由30位专家合著的新论文探讨了**认知风险**—即人工智能对我们集体准确形成信念、良好推理和维护健康信息环境的能力所构成的威胁。 我们考察了人工智能如何通过以下机制导致危害： * **说服与操纵：** 人工智能系统极具说服力，为政治/经济操纵、煽动和激进化以及其他滥用行为打开了大门，同时也带来了非故意伤害，如AI谄媚和心理健康风险。 * **认知卸载：** 我们可能正在以前所未有的深度将思考委托给人工智能，这可能导致个人和社会认知韧性的长期退化。 * **反馈循环：** 人类与人工智能以及人工智能之间的交互正在缩小人类和人工智能所利用的认知空间。这已经导致了同质化，并可能进一步导致碎片化和“锁定”（一种难以逆转的自指状态）。 虽然我们相信人工智能*可能*成为改善人类知识处理方式的史无前例的杠杆，但我们不应默认这种情况会发生。 我们概述了改变这一轨迹的有希望的方向，涵盖人工智能系统的构建方式、人机交互设计、机构和个人适应以及信息市场激励。 认知风险是自我延续的。 由于它们可能削弱识别、优先处理和治理其他威胁（包括人工智能本身的风险）所需的个人认知和社会基础，现在就是采取行动的时候了，以免我们自身应对能力丧失。 作者：Mick Yang, Stephen Casper, Jonathan Stray, Jasmine Li, Cameron Jones, Anna Gausen, Natasha Jaques, Brian Christian, Bálint Gyevnár, Hannah Rose Kirk, Zhonghao He, Dan Zhao, Siao Si Looi, Joshua Levy, Kobi Hackenburg, Elizabeth Seger, Matt Kowal, Michelle Malonza, Luke Hewitt, Hause Lin, Maarten Sap, Dylan Hadfield-Menell, Thomas H. Costello, Reihaneh Rabbany, Jean-François Godbout, David G. Rand, Atoosa Kasirzadeh, Gordon Pennycook, Yoshua Bengio, Kellin Pelrine 论文：[https://papers.ssrn.com/sol3/papers.cfm?abstract\\_id=6873005](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6873005)