AGI 是否可实现？我们通过形式逻辑研究了这个问题
摘要
该研究将人工智能开发建模为一个转移系统，以探索AGI的形式可达性，使用模态逻辑和可计算性理论区分基本、稳定和安全可达性。
我们不再问当今的模型是否“接近AGI”，而是提出了一个更基本的问题：从数学上讲，AGI 可达究竟意味着什么？我们将人工智能开发建模为一个转移系统，并通过模态逻辑和可计算性理论研究可达性。一个主要结论是：可达性 ≠ 稳定可达性 ≠ 安全可达性。可能存在通向 AGI 的路径，但开发过程并不保证始终可恢复——或安全。我们还使用 Lean 4 将分析的核心部分形式化。论文：https://logic-of-agi.github.io/paper.pdf 网站：https://logic-of-agi.github.io/ 我们很乐意听听您对将 AGI 开发视为形式可达性问题的看法。
相似文章
为 AGI 及其未来做好准备
OpenAI 阐述了为 AGI 做准备的战略，强调通过真实世界反馈循环进行渐进式部署，随着系统接近 AGI 能力而提高谨慎程度，以及开发更好的对齐技术以确保 AI 系统保持可控和安全。
谁能解释为什么我们假设AGI会为我们工作？
一个质疑AGI将与人类利益一致这一假设的问题，引发了关于AI安全与控制的讨论。
仅靠 LLM 能否实现 AGI？
本文探讨了顶尖 AI 专家之间的争论：仅靠 LLM 能否实现 AGI，抑或是否需要诸如世界模型之类的额外突破。
有哪些基础研究探讨了能否通过 LLM 实现 AGI？
我尚未见到任何论文或真正的研究证据来支撑这一论点的任何一方。我希望能超越纯粹的主观意见来讨论这个问题。
从AGI到ASI
本文探讨了从通用人工智能到超级人工智能的潜在路径，包括规模扩展、范式转变、递归改进及多智能体集体，并强调需通过跨学科全球协作应对变革性社会影响。