构建更智能、更强大人工智能的新方法

Reddit r/artificial 新闻

摘要

文章提出了一种名为‘文明脚手架’的新框架,通过保存和利用人类知识来增强AI能力,无需修改模型权重,从而实现即时和递归改进。

构建更智能、更强大人工智能的新方法 我们似乎在如何使人工智能更强大的哲学中只见树木不见森林。我们忽略了已知唯一有效的人类智慧乘数:人类文明。 如果我们为当前模型构建一个框架,使其像一个持久的文明脚手架一样运作,会怎样?无需重新训练或修改模型权重。 这个文明脚手架将保留具有来源信息的智能体解决方案,过滤掉不良结果,并且随着它的成长,将允许智能体停止重复已经关闭的研究途径,包括哪些有效、哪些无效,以及哪些仍需研究。 它可以从前一个智能体离开的地方继续,并跃进向前。 我们不断进行暴力重新训练——这不是答案。人工文明脚手架将是能力提升的地方,而不是模型本身。 最终,你可以提取改进和可行的研究链用于模型训练。 同时,文明脚手架允许当前模型在使用时立即和递归改进。并且控制脚手架是另一个控制面,如果需要可以回滚或暂停,同时保持模型在当前水平。
查看原文

相似文章

@Kangwook_Lee: https://x.com/Kangwook_Lee/status/2052925157606568217

X AI KOLs Timeline

作者主张,为 AI Agent 设计的人工结构框架应被 AI 自主构建的工程架构所取代。文中引入 Three Regimes Framework,阐述这一转变如何释放中型模型的潜能。结合 Meta Harness 等项目的实践,作者预测 AI 将很快实现对其自身系统架构的自主优化。

An Alien Mind

Hacker News Top

OpenAI researchers reflect on the rapid scaling of reasoning models and warn that AI systems are likely to achieve recursive self-improvement within years, calling for extreme caution and broader interventions beyond technical solutions.

@qinzytech: https://x.com/qinzytech/status/2066585405479371092

X AI KOLs Timeline

对构建自我进化AI代理的两种方法的技术分析:基于模型的方法(通过像SSMs或具有快速权重更新的transformer等架构,以及训练方法)和基于工具的方法(通过内存或能够自我重写的元工具)。作者为不同受众提供了实用建议。