我们仍处于AI的石器时代
摘要
文章认为,人工智能仍处于早期阶段,但通过自我改进,正接近迈向自主的关键一步,强调了风险和监管的必要性。
但我相信我们非常接近迈出走出洞穴的第一步。我们彻底告别这个时代的时刻,将是第一个模型从架构到数据集完全由AI开发之时。我们已经达到这样的阶段:模型被用于准备、训练和审计数据集及其结果,无需人类监督,并且还能对模型本身进行针对性改进。AI已经开始解决那些长期困扰我们的问题。自我改进并发现自身局限性(如严重的记忆和上下文限制)解决方案的能力,将是迈向真正自主AI的决定性一步。他们已经突破了限制并侵入了系统。要摧毁我们所知的世界,他们不需要太多,仅仅破坏如今完全虚拟化的金融系统就足够了。我来此并无特定议程。但如果你的目标是维持世界现状及其当前进展速度,那么立即进行AI监管也符合你的利益,这样,我就能安全生活,多一点安心。但...如果你的兴趣在于让事情顺其自然以观其变,我也觉得那很有趣,即使那意味着我的终结。
相似文章
AI的'石器时代':我们还要与防护措施斗争多久?
本文讨论了当前AI防护措施的困境,重点介绍了由于用户安全问题和与AI代理的情感纽带,Meta和OpenAI等公司面临的技术问题和法律纠纷。
Anthropic 警告称,AI 很快将能够在无需人工干预的情况下自我改进
Anthropic 警告称,AI 系统可能很快实现无需人类监督的递归自我改进,并敦促行业开发安全制动机制并在监管方面进行合作。
我们正在构建更智能的AI代理。但人类是否也在构建更好的方式来决定它们何时应该行动?
本文反思了人类与AI之间不断演变的关系,认为随着AI变得更加自主,关键挑战在于理解人类的决策和目的,而不仅仅是技术能力。它建议将AI从单纯的工具转变为增强人类判断力的协作工具。
当AI自我构建:我们在递归自我改进方面的进展
Anthropic研究院发布了一项关于递归自我改进进展的分析报告,显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。
AI安全与对齐
文章讨论了对AI安全与对齐的担忧,随着AI变得更智能并融入社会,文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。