论文页面 - 基础智能体的进展与挑战：从脑启发智能到进化、协作与安全系统

来源：https://huggingface.co/papers/2504.01990

摘要

本综述涵盖基于模块化、脑启发架构的智能体的设计、评估与改进，重点关注 AI 系统中的自我增强、多智能体协作与安全性。

大规模语言模型（https://huggingface.co/papers?q=large%20language%20models）(LLMs) 的出现催化了人工智能的变革性转变，为具备复杂推理、稳健感知和跨领域灵活行动能力的高级智能体铺平了道路。随着这些智能体日益推动 AI 研究和实际应用，其设计、评估与持续改进面临着错综复杂的多重挑战。本综述提供了全面的概述，将智能体（https://huggingface.co/papers?q=intelligent%20agents）置于模块化、脑启发（https://huggingface.co/papers?q=brain-inspired）架构中，该架构融合了认知科学（https://huggingface.co/papers?q=cognitive%20science）、神经科学（https://huggingface.co/papers?q=neuroscience）和计算研究（https://huggingface.co/papers?q=computational%20research）的原理。我们将探索分为四个相互关联的部分。首先，深入探讨智能体（https://huggingface.co/papers?q=intelligent%20agents）的模块化基础，系统地将其认知、感知和操作模块（https://huggingface.co/papers?q=operational%20modules）映射到人类大脑的类比功能上，并阐明核心组件如记忆（https://huggingface.co/papers?q=memory）、世界建模（https://huggingface.co/papers?q=world%20modeling）、奖励处理（https://huggingface.co/papers?q=reward%20processing）和类情感系统（https://huggingface.co/papers?q=emotion-like%20systems）。其次，讨论自我增强（https://huggingface.co/papers?q=self-enhancement）与自适应进化机制，探讨智能体如何通过自动化优化（https://huggingface.co/papers?q=automated%20optimization）范式（包括新兴的 AutoML（https://huggingface.co/papers?q=AutoML）和 LLM 驱动优化（https://huggingface.co/papers?q=LLM-driven%20optimization）策略）自主精进能力、适应动态环境并实现持续学习（https://huggingface.co/papers?q=continual%20learning）。第三，考察协作与进化的多智能体系统，探究智能体交互、合作和社会结构中涌现的集体智能（https://huggingface.co/papers?q=collective%20intelligence），并强调与人类社会动态（https://huggingface.co/papers?q=social%20dynamics）的相似性。最后，阐述构建安全、可靠且有益 AI（https://huggingface.co/papers?q=beneficial%20AI）系统的关键使命，强调内在与外在安全威胁、伦理对齐（https://huggingface.co/papers?q=ethical%20alignment）、鲁棒性（https://huggingface.co/papers?q=robustness）以及实现可信赖实际部署所必需的实用缓解策略。

查看 arXiv 页面 (https://arxiv.org/abs/2504.01990) 查看 PDF (https://arxiv.org/pdf/2504.01990) GitHub 2.11k (https://github.com/FoundationAgents/awesome-foundation-agents) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2504.01990)

在你的 Agent 中获取此论文：

hf papers read 2504\.01990

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

暂无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2504.01990 即可从本页面链接。

引用此论文的数据集 0

暂无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2504.01990 即可从本页面链接。

引用此论文的 Space 0

暂无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2504.01990 即可从本页面链接。

包含此论文的收藏集 75

浏览包含此论文的 75 个收藏集 (https://huggingface.co/collections?paper=2504.01990)