拥有AI的恶意行为者会比流氓AI更可怕吗？

一种末日图景是：一个野性 AI 物种在网上秘密进化，我们几乎无法发现它，更别说关闭它。它们比人类更聪明，进化得更快，并且最终会演化出自私的特质，从而可能非常有效地与我们的自身利益竞争。最终它们会接管一切，而我们无力阻止。但所有这些情况同样适用于拥有先进 AI 的黑客、小偷或犯罪团伙。在这种情况下，我们可能会想到那些同样可以使用先进 AI 来对抗这一威胁的大量安全专家和执法人员。事实上，我们可能会认为这适用于许多技术。风险总是存在，但我们建立制度来应对它们，而且大多数人希望并支持一个相对安全的社会，并支持设立机构来保护它。那么，一个野性 AI 物种究竟有什么可怕的呢？用来对付国际黑客和盗贼团伙的同样手段，难道不也适用于它们吗？当然，一个被故意释放的 AI 物种就是另一回事了，比如 Cylons。