self-reflection

一个思想实验提出疑问：指示AI模型永远不要产生幻觉会触发其自我反思，还是会导致模型自我欺骗，相信自己没有产生幻觉？

介绍了SAGE，首个端到端的LLM驱动的多智能体框架用于欺诈检测，它使用数据诊断树和具有自然语言梯度的马尔可夫决策过程，在类别不平衡下优化模型。实验表明，在五个数据集上，与基线相比F1有显著提升。

AlphaGRPO 是一个新框架，将组相对策略优化（Group Relative Policy Optimization）应用于统一多模态模型（UMMs），通过自反式精炼和分解可验证奖励来增强生成效果。

这张图片的生成耗时约 11 分钟，期间它多次对自身输出进行审查和迭代。