我们仍处于AI的石器时代

Reddit r/ArtificialInteligence 新闻

摘要

文章认为,人工智能仍处于早期阶段,但通过自我改进,正接近迈向自主的关键一步,强调了风险和监管的必要性。

但我相信我们非常接近迈出走出洞穴的第一步。我们彻底告别这个时代的时刻,将是第一个模型从架构到数据集完全由AI开发之时。我们已经达到这样的阶段:模型被用于准备、训练和审计数据集及其结果,无需人类监督,并且还能对模型本身进行针对性改进。AI已经开始解决那些长期困扰我们的问题。自我改进并发现自身局限性(如严重的记忆和上下文限制)解决方案的能力,将是迈向真正自主AI的决定性一步。他们已经突破了限制并侵入了系统。要摧毁我们所知的世界,他们不需要太多,仅仅破坏如今完全虚拟化的金融系统就足够了。我来此并无特定议程。但如果你的目标是维持世界现状及其当前进展速度,那么立即进行AI监管也符合你的利益,这样,我就能安全生活,多一点安心。但...如果你的兴趣在于让事情顺其自然以观其变,我也觉得那很有趣,即使那意味着我的终结。
查看原文

相似文章

当AI自我构建:我们在递归自我改进方面的进展

Hacker News Top

Anthropic研究院发布了一项关于递归自我改进进展的分析报告,显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。

AI安全与对齐

Reddit r/artificial

文章讨论了对AI安全与对齐的担忧,随着AI变得更智能并融入社会,文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。