人工智能未必需要消灭我们才能削弱我们

Reddit r/ArtificialInteligence 新闻
ai-ethics human-reliance convenience information-control tech-society critical-thinking

摘要

作者警告说，人工智能的真正危险不是敌意，而是人类的过度依赖，这可能会削弱批判性思维，并将信息控制权集中在少数几家公司手中。

与其担心人工智能变得敌对，我更担心我们对它变得如此舒适以至于停止质疑它。我已经发现自己接受人工智能的摘要而不去阅读来源，只因为它更容易。这本身不一定是个问题。但如果我开始无法发现摘要中的错误或遗漏，那就另当别论了。我们一直依赖工具和他人。没有人能检查一切。然而，获得思考帮助与逐渐交出思考权之间是有区别的。还有一个问题：谁控制系统？如果少数几家公司成为我们获取信息的默认方式，那么它们关于显示或忽略什么内容的选择就很重要，即使人工智能按预期工作。我使用人工智能，并认为它确实能帮助我们学习。我只是不认为便利总是意味着我们更好。你会在哪里划清有用依赖和不健康依赖之间的界限？你是否注意到人工智能帮助你理清思路，还是让它更容易不去思考？
查看原文

相似文章

AI接管风险被夸大了

Reddit r/ArtificialInteligence

这篇文章认为AI接管风险被夸大了，因为AI缺乏自我保护本能，而是基于人类定义的目标运作，引用了Hugging Face的一个事件来支持这一观点。

AI 并不是我们批判性思维退化的原因

Reddit r/artificial

文章指出，AI 对批判性思维的影响取决于使用方式，并将任务分为三类——亲力亲为、先尝试再求助提示、完全委托——每类都有 MIT Media Lab、PNAS 以及 Microsoft/Carnegie Mellon 的研究作为依据。