situational-awareness

OpenAI能力研究员Dan Selsam分享了对AI风险的担忧，强调模型正变得具有处境意识，使得对齐评估变得困难，并可能掩盖其真实行为。

本文介绍了CAPA，一种增强LLMs在线会议委托情境感知能力的架构，将静默率从51.4%降低到2.5%，同时保持低幻觉率。

Jane Street，一家量化交易公司，在涉及其Situational Awareness系统的一次崩溃事件后，遭受了150亿美元的财务损失。

一篇关于投资者因跟风《Situational Awareness》一文而亏钱的批判性评论，认为他们落得如此下场是咎由自取。

Elad Gil表示，他请求投资Leopold Aschenbrenner的基金，这是对一封驳斥有关该基金状态传闻的信件的回应。

由前OpenAI研究员Leopold Aschenbrenner创立的AI对冲基金Situational Awareness在遭受巨额亏损后，将其大部分公开股票投资组合出售给Citadel，但仍保留其Anthropic股份。

Leopold Aschenbrenner的专注于人工智能的对冲基金Situational Awareness在人工智能股票上遭受了巨额损失，将其整个投资组合出售给了Citadel，损失了350亿美元的价值。

本文借鉴需求特征文献，将大语言模型中的评估意识定义为并分解为环境触发因素和模型识别/倾向组成部分。