标签
本文探讨了：在线上独立运行的AI智能体是否需要为人类、组织和AI分别建立不同的身份框架，以及不同的规则和信任模型，并质疑这种分离是否必要。
本文介绍了RealityTest，这是一个多模态、多语言基准测试，用于评估AI系统在被用户探询时是否会披露其身份。该基准基于来自49个国家的真实人类查询数据。研究发现，只有31%的人会直接询问身份，并且人类提出的问题比合成问题更加多样化。结果表明，问题的措辞和对话背景对披露行为的影响比具体模型更大。
一份研究报告，详细描述了构建外部记忆架构的受控实验，该架构能够实现独立于模型权重的持久性AI身份。研究发现，在三种拓扑结构中，积累的片段历史在塑造输出方面始终主导系统提示。