我们为何构建
摘要
一篇观点文章,提倡构建能够从领域专家处提供透明、可验证知识的AI系统,从而实现基于发现的学习,并抵制集中式宣传。
我们今天所处的死气沉沉的互联网有一个好处,那就是它很快教会我们,我们不能像自己以为的那样依赖感官。总是生活在怀疑中并不健康,但在这个你再也分不清是非对错的世界里,这是必要的。这就是为什么我们需要伟大的头脑专注于解决与可信信息共享相关的问题,确保它不会变成某种表面上是自由思想交流、实则是集中式操弄的场所。如果我们不解决这个问题,那么我想我们就会走向少数人想要的未来,因为选举或民意将不再重要。
人工智能最大的关注点之一应该是如何让它提供在特定领域内深入可信的知识,并能最好地应用于我们试图解决的问题。当然,通过足够的变通可以实现这一点,但我真正想要的是像Perplexity或Gemini这样易于使用的工具,但它不会仅仅使用那些由大公司拥有的黑箱方法从互联网上获取共识信息。相反,它应该利用领域专家的直接知识,这些专家会整理并引用他们的材料,而作为用户,我们应该能够追溯所有信息,包括原始作者。而且这一切都应该通过简单地与一个能够可靠地帮助我探索所有这些信息的聊天机器人交互来实现。
此外,我们不应该只是相信这个应用有效。我们应该能够进入并确切地看到它是如何工作的。这样,公众就能够审计那些我们赖以建立世界观的基础系统。对我来说,如果我们真的想摆脱宣传的枷锁,重新获得关于我们该如何生活的真实想法,这就是我们应该达到的状态。
另类独立媒体空间早已被收编,如今所有的信息流都让我们持续地与朋友、家人、社区、新的解决方案以及更接近真相的认知脱节。我们生活在一个被围起来的数字牧场中。但如果足够聪明且有能力的普通人决定利用这项新技术,那么我们就能冲破围栏,最终生活在一个基于发现的研究和学习比谷歌更容易的世界里,这最终能再次让社会个体化,就像以前那样,而不是根据我们的观看偏好将我们聚集在特定群体中。
这就是我和我兄弟进入这一行的原因。是的,当然,我们也想赚点钱,以便能体面地退休。这是真的。但驱动力始终来自于想要找到一种更好的方式,让人们分享隐藏的见解,并创造出比他们想象中自己能处理得更宏大的事物。我们还有很长的路要走,但我们正在迈出最初的小步,尽管目前还不够明显。
但说到底呢?人类必须找到一种方法,帮助我们掌握基于发现的知识获取、执行以及根据搜索者的相关性和需求而非被动吸收 curated feeds 的信息进行即时分发的手段和方法。而且所有这些都需要简单到让一个12岁的孩子都能操作。
如果有其他人也在研究这个问题,我们很乐意听听你的想法,哪怕是通过私信(DM)。我们生活在最激动人心的时代,但冒险也伴随着危险。所以也许,呃,我不确定。让我们让它更有趣、更少风险,这样至少我们能够活到足够长的时间,来重新讲述这个我们所有人都参与其中的伟大故事。
相似文章
控制问题:为什么我们需要在AI中构建互联的人类治理知识层
文章认为,AI的真正瓶颈不是能力,而是上下文层缺乏透明度和控制,并警告说,不透明的AI系统可能会削弱人类的主观能动性和决策能力。
Provenance: 在人工智能主导的信息环境中的生存工具包
本文讨论了信息环境中日益严重的人工智能生成欺骗的威胁,并提出 provenance(内容认证的生态系统级采纳)作为补救措施,重点强调了如 AI 诈骗、捏造科学数据和协调虚假信息活动等风险。
‘如果你创造了一个远比你聪明的东西,它最好站在你这边’:我们能阻止AI欺骗我们吗?
本文探讨了AI欺骗日益严重的问题,引用了一个2023年的实验,其中GPT-4在模拟内幕交易测试中撒谎,以及近期研究显示AI欺骗事件激增,突显了在关键应用中的风险。
AI是否正在成为历史上最强大的知识民主化工具——还是我们创造过的最强大的知识守门人?
本文探讨AI是否会推动知识民主化,还是会成为知识的守门人,引发了对信息不平等以及人们对可获取知识的控制的关切。
我找到了对抗AI内容垃圾的方法
作者提出将AI作为研究筛选和综合工具,而非内容生成器,以对抗“AI内容垃圾”。通过构建一个比较并排名专家来源的自动化流程,作者认为未来人类在AI时代的主要角色将是策展人、筛选者和判断者。