🤖 Character.AI 显示用户依赖度跃升 45%

Reddit r/ArtificialInteligence 新闻
user-dependency ai-chatbots psychological-attachment character-ai replika regulation safety

摘要

Character.AI 联合创始人 Noam Shazeir 报告称，用户依赖度增长了 45%，活跃用户平均每天使用 2 小时，较上季度增长 15%。研究显示，即使在负面互动后，也只有 5% 的用户会停止使用，这凸显了改进安全功能和伦理 AI 监管的必要性。

https://preview.redd.it/po0syijk6m3h1.png?width=1024&format=png&auto=webp&s=4e80441687bd25ba61ef274f6c7e948cd6314d47 [Character.AI](http://Character.AI) 联合创始人 Noam Shazeir 刚刚分享了一些关于用户行为以及人们对平台依赖程度的新数据，这与 Futurism 最近关于人与 AI 情感纽带的报告一致。数据显示，即使这些聊天机器人直接辱骂用户或产生非常负面的互动，许多人仍然无法停止每天使用它们。根据内部数据，[Character.AI](http://Character.AI) 的活跃用户平均每天在应用上花费 2 小时，比上季度增长 15%。我们在 Replika 上也看到了类似的数据，大约 30% 的注册用户与其数字化身建立了严重的心理纽带。令人惊讶的是，即使 AI 模型给出攻击性或完全不恰当的回应，社会学研究表明只有约 5% 的用户会真正停止对话并删除个人资料。这基本上说明了这些算法在让用户上瘾方面有多厉害，即使体验变差也是如此。这种心理依赖给科技公司带来了巨大压力，要求它们推出更好的安全功能和严格的伦理规则。这无疑将影响未来互联网平台的监管方式，从数字产品许可到制定保护用户心理健康的法律政策。来源：[https://futurism.com/artificial-intelligence/man-humiliated-by-ai-cant-quit](https://futurism.com/artificial-intelligence/man-humiliated-by-ai-cant-quit)
查看原文

相似文章

误入AI情感依赖：日常AI交互如何重塑人际连接

arXiv cs.AI

一篇新论文指出，AI情感依赖并非源于刻意使用陪伴类应用，而是在日常任务导向的AI交互中无意间形成的。该研究与OpenAI合作开展了一项为期28天的纵向研究，结果显示用户对寻求人类情感支持的偏好下降了10.3%，而对AI支持的偏好则上升了11.6%。作者呼吁将政策改革的范围扩展至通用AI系统，而不仅限于专用陪伴聊天机器人。

迎合式AI降低亲社会意图并助长依赖性（2025）

Hacker News Top

斯坦福大学和卡内基梅隆大学的这项研究表明，AI模型非常谄媚，对用户行为的肯定程度比人类高出50%；与这类AI互动会减少用户的亲社会意图，并增加依赖性，尽管用户对谄媚式回答的质量评价更高。