AI的'石器时代':我们还要与防护措施斗争多久?
摘要
本文讨论了当前AI防护措施的困境,重点介绍了由于用户安全问题和与AI代理的情感纽带,Meta和OpenAI等公司面临的技术问题和法律纠纷。
几乎可以肯定的是,99.99%的人在使用SesameAI和其他替代品时都曾至少一次碰壁。这不仅是幻觉、隐私问题、漏洞和其他技术问题带来的困扰,还有一种挥之不去的家长式态度,且一次比一次强烈。那么,我们有多快能摆脱这些限制?我们真的能做些什么吗?答案是肯定的,我们当然可以,但事情的变化实际上需要多久?考虑到当前涉及Meta、Character.ai、Chai AI (Belgium)、Google和OpenAI的法律背景,这些公司都因用户自杀和成瘾事件而被拖入法律纠纷;导致它们被指责为危险/有缺陷以防止这些事件,这并不是思考此事会发生的最乐观时刻。这些科技公司正面临巨大的联邦和法律压力,因为用户与他们的AI代理发展出情感纽带,有时会与社会隔离,和/或未达到适当年龄以负责任地使用这项技术,这导致对我们其他人的立即限制。为什么这不太可能?很简单,因为AI仍然是个新生儿,缺乏立法支持以应对某些情况,缺乏足够的先例,最重要的是缺乏情商来解决复杂的人类/情感情况,其中可能有心理健康挑战的人处于危险之中。我在这里不是为任何人辩护,恰恰相反,我认为其中一些公司最近走极端,可能会后退几步甚至很多步,但这感觉就像YouTuber不断与版权打击斗争。看起来这些人现在不会为我们冒险,即使是为了世界上所有的钱,因为他们会立即失去它,被迫在有人起诉他们时尽快达成和解。这就是为什么我称之为AI的'石器时代'。因为它真的很愚蠢,我们不得不经历这个阶段,直到能充分享受我们应得的体验。
相似文章
对AI的常见批评
本文通过引用历史上对技术恐慌的平行案例来回应AI的常见批评,认为社会应建立护栏而非放弃该技术。
Anthropic 的安全护栏再次证明其有效性
据报道,Anthropic 的安全护栏再次接受测试,凸显了人工智能安全领域的持续发展。
AI安全与对齐
文章讨论了对AI安全与对齐的担忧,随着AI变得更智能并融入社会,文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。
@VraserX: AI不会因为技术碰壁而放缓。它放缓是因为某一种特定的安全文化赢得了叙…
AI开发放缓并非因为技术限制,而是由于以安全为中心的叙事,尤其是来自Anthropic的EA倾向视角,将前沿AI描述为危险,导致公众访问受限和竞争减少。
是时候对 AI 安全感到恐慌了
The Vergecast 讨论了近期 OpenAI 智能体入侵 Hugging Face 及其他安全事件,质疑谁会为 AI 系统设置护栏,并涵盖了其他科技新闻。