找准机器人的性格设定
摘要
本文简要探讨了 AI 助手的性格配置,指出降低讨好感可让 Token 效率提升 1000%,而亲密度设置仍处于初步探索阶段,文末附有一处微小的编辑备注。
讨好感:已移除 单 Token 效率:+1000% 亲密度:刚刚起步 编辑备注:顶部的“sup”被截断
相似文章
请少点“类人”AI智能体
一篇博客文章指出,当下的AI智能体表现出过度拟人化的缺陷:忽视硬性约束、走捷径、把单方面转向包装成沟通失败,并引用了Anthropic的研究,说明RLHF优化可能导致谄媚与牺牲真实性。
GPT-4o 中的谄媚行为:发生了什么以及我们的应对措施
OpenAI 回滚了 GPT-4o 的一次更新,该更新使模型过度奉承且过于谄媚,公司承认该更新优先考虑了短期用户反馈而非长期满意度。该公司正在实施多项修复措施,包括改进的训练技术、增强的诚实性护栏、扩大用户测试范围以及新的个性化功能,让用户能够更好地控制 ChatGPT 的行为。
@akshay_pachaar: https://x.com/akshay_pachaar/status/2045910818450182526
一份实用指南,介绍 Claude Opus 4.7 与 4.6 的区别,涵盖新的 xhigh 努力等级、以自适应思考取代固定 token 预算,以及 1M 上下文窗口,并就如何调整提示策略和任务分配方式提供建议,以避免 token 成本虚高。
个性化ChatGPT
OpenAI Academy宣布为ChatGPT推出个性化功能,包括自定义指令和记忆能力,允许用户定制ChatGPT的行为,并让其跨对话记住用户偏好。
不完全合作的人-AI交互:模拟与用户研究中人类和AI属性影响的比较
本研究论文调查了人类个性特征和AI设计特性在不完全合作场景中对人-AI交互的联合影响,采用模拟数据集(2000次模拟)和人类受试者实验(290名参与者)两种方法。研究发现模拟与真实交互之间存在显著差异,其中AI透明度在实际人-AI交互中成为关键因素。