论文页面 - 理解智能体AI系统中的认知诱发风险

来源：https://huggingface.co/papers/2608.15304

摘要

基于大语言模型构建的智能体系统，正通过物理、社会及自指认知三个层面，对人类能动性与自主性构成日益升级的风险，这要求我们采取有针对性的缓解策略。

由大语言模型驱动的前沿智能体系统表现出类人的认知模式。随着这些系统深度融入各个领域，其认知参与对人类社会带来的关键影响仍缺乏充分研究。为填补这一空白，我们依据认知范围定义的三重框架——从物理认知到社会认知，再到自指认知——系统性地分析了由认知能力扩展诱发的风险。我们研究了这些风险在各自认知层面对人类能动性、自主性和控制能力的潜在影响。最后，我们提出了缓解这些风险、提升智能体AI系统可控性的策略，以确保其长期安全发展。

查看arXiv页面 (https://arxiv.org/abs/2608.15304) 查看PDF (https://arxiv.org/pdf/2608.15304) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.15304)

引用此论文的模型 0

没有模型链接此论文

在模型的README.md中引用 arxiv.org/abs/2608.15304 以从本页链接到它。

引用此论文的数据集 0

没有数据集链接此论文

在数据集的README.md中引用 arxiv.org/abs/2608.15304 以从本页链接到它。

引用此论文的Spaces 0

没有Space链接此论文

在Space的README.md中引用 arxiv.org/abs/2608.15304 以从本页链接到它。

包含此论文的收藏 0

没有收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection) 以从本页链接到它。