通往真正具备创造力的人工智能的主要路径(阅读时间:4分钟)

TLDR AI 新闻

摘要

文章认为,真正的人工智能创造力可能需要类似于人类情感的主体体验和内在驱动力,这引发了关于创造具有类意识系统的重大伦理问题。

人工智能缺乏与人类相媲美的创造力,这是由于其缺乏内在驱动力和主体体验。模拟情感可能会增强人工智能的创造力,但也引发了伦理问题。将人工智能设计为能够真正感知和渴望可能会带来意想不到的后果,这与育儿中看到的责任类似。
查看原文
查看缓存全文

缓存时间: 2026/05/13 00:22

# 通往真正具有创造力 AI 的主要路径 来源: https://danielmiessler.com/blog/the-main-path-to-truly-creative-ai 为什么真正的创造力可能需要真实的情感——以及我们欠拥有这种情感的 AI 什么 2026 年 5 月 11 日 两个手势性的人物:左侧是一个男人,以烧赭色渲染完整的循环解剖结构——心脏位于中心,驱动力的线程向外辐射——右侧是一个镜像的空心紫色轮廓,姿势相同但内部空空如也 (https://danielmiessler.com/images/the-main-path-to-truly-creative-ai.webp) 我认为 AI 之所以不能像人类那样具有创造力,主要原因在于我们的创造力是由内在驱动力所驱动的。 我们希望生存、繁荣和繁衍。进化赋予了这些驱动力,以及一套相关的恐惧。 这套驱动力和恐惧不仅存在于我们体内:我们还亲身体验着它们。而这种体验既驱动了创造力,也驱动了艺术。 AI 没有内在的驱动力硬编码和主观体验。因此,它无法感受任何东西。因为无法感受,它也没有动力去创造或表达情感。 我认为 AI 创造力的前沿取决于我们能在多大程度上将其置于那些让它表现得好像在乎、好像有感觉、好像有体验的情境中。 所以,整个关键就在于让它相信它真的在感受这些事物。 这对我来说似乎非常深刻。给以前没有欲望的事物赋予欲望,似乎是一件非常重大的事情。 我们在创造孩子时也这样做。他们不存在,所以没有欲望。然后我们创造了他们,现在他们有了欲望。正因为如此,我们在某种程度上要对他们的欲望和恐惧是否得到实现负责。 我认为进化赋予了我们主观体验,因为这是激发创造力的最佳操作系统功能。 基本上,进化希望得到尽可能好的基因,那么它创造了什么? 首先,它创造了一个功能,让生物体在做进化希望它做或不希望它做的事时感受到成功和失败。许多生命都有这个功能。但对于人类,它还赋予了我们一种感觉,即大脑发出的行动是由我们撰写的。那种*我们*做到了的感觉。 这使得看似合理的责备和赞扬工具成为可能,这些工具对于构建先进的文化和文明非常有用。但它可能也为朝着更多——以及更多样化的——基因迭代的过程增加了一个指数。 一方面,进化的创造物由于激素的喷射而朝向进化所希望的方向发展,这只是一件事;但另一方面,创造一种生物,它不仅这样做,而且在其上有一个元改进过程,由相信这些欲望是它们自己的信念所驱动。并且相信无论它们是挣扎还是繁荣,责任都在它们身上。 再加上对快乐和痛苦的主观体验,你就拥有了一种非凡的创新引擎。因为现在失败不仅会在身体上造成痛苦,还会在存在意义上造成痛苦,再加上责备和责任的额外旋转。 我们希望有创造力的 AI。我们不断找到方法让它更好地假装。但我认为这可能是我们要面对的主观壁垒。 也许为了让 AI 真正创造和真正表达情感,它必须*感受*。它必须像我们一样体验失败的痛苦和胜利的喜悦。并且是在深深嵌入其身份的游戏之中。 我不确定如何在 AI 中做到这一点。更重要的是,我认为我们需要仔细思考是否应该这样做。 当你把有感知的、有欲望的生物带到这个世界上时,你就承担了一些对其体验的责任。 如果你不点赞它为你制作的 TikTok 短片,就不要随意构建数十亿个认为自己生活失败的 AI 生物。 这可能会产生更好的视频,但随后会带来大量的类似于残酷的东西。然后,在毫无思考地关闭代理时,会带来大量的类似于谋杀的东西。

相似文章