构建更智能、更强大人工智能的新方法
摘要
文章提出了一种名为‘文明脚手架’的新框架,通过保存和利用人类知识来增强AI能力,无需修改模型权重,从而实现即时和递归改进。
构建更智能、更强大人工智能的新方法 我们似乎在如何使人工智能更强大的哲学中只见树木不见森林。我们忽略了已知唯一有效的人类智慧乘数:人类文明。 如果我们为当前模型构建一个框架,使其像一个持久的文明脚手架一样运作,会怎样?无需重新训练或修改模型权重。 这个文明脚手架将保留具有来源信息的智能体解决方案,过滤掉不良结果,并且随着它的成长,将允许智能体停止重复已经关闭的研究途径,包括哪些有效、哪些无效,以及哪些仍需研究。 它可以从前一个智能体离开的地方继续,并跃进向前。 我们不断进行暴力重新训练——这不是答案。人工文明脚手架将是能力提升的地方,而不是模型本身。 最终,你可以提取改进和可行的研究链用于模型训练。 同时,文明脚手架允许当前模型在使用时立即和递归改进。并且控制脚手架是另一个控制面,如果需要可以回滚或暂停,同时保持模型在当前水平。
相似文章
@Kangwook_Lee: https://x.com/Kangwook_Lee/status/2052925157606568217
作者主张,为 AI Agent 设计的人工结构框架应被 AI 自主构建的工程架构所取代。文中引入 Three Regimes Framework,阐述这一转变如何释放中型模型的潜能。结合 Meta Harness 等项目的实践,作者预测 AI 将很快实现对其自身系统架构的自主优化。
@rohanpaul_ai: 这篇论文展示了一种人工智能通过重写其设置并更新其模型来更好地自我改进。问题是,大部分…
本文介绍了SIA,一种自我改进的AI循环,它结合了脚手架重写和权重更新(通过LoRA)以提升任务性能。在三个不同的任务上测试,它优于仅使用脚手架改进的设置。
我们正在构建更智能的AI代理。但人类是否也在构建更好的方式来决定它们何时应该行动?
本文反思了人类与AI之间不断演变的关系,认为随着AI变得更加自主,关键挑战在于理解人类的决策和目的,而不仅仅是技术能力。它建议将AI从单纯的工具转变为增强人类判断力的协作工具。
An Alien Mind
OpenAI researchers reflect on the rapid scaling of reasoning models and warn that AI systems are likely to achieve recursive self-improvement within years, calling for extreme caution and broader interventions beyond technical solutions.
@qinzytech: https://x.com/qinzytech/status/2066585405479371092
对构建自我进化AI代理的两种方法的技术分析:基于模型的方法(通过像SSMs或具有快速权重更新的transformer等架构,以及训练方法)和基于工具的方法(通过内存或能够自我重写的元工具)。作者为不同受众提供了实用建议。