diagnostics

Oracle董事会成员凯文·哈钦森剖析AI发展，强调AI在医疗健康中的应用，尤其是利用生成式AI分析放射科报告漏诊，并区分了生成式AI、代理式AI和通用人工智能。

本文诊断了大语言模型强化学习中的训练-推理不匹配（TIM），表明训练和推理阶段令牌概率之间的微小数值差异可能导致训练崩溃，并提出了补救措施。

本文提出了一种分布谱诊断方法，用于在测试准确率上升之前定位 Transformer 模型中的 Grokking 相变。该方法利用经验分布和汉克尔动态模态分解（Hankel DMD）创建监测信号，以区分发生 Grokking 和未发生 Grokking 的训练运行。

该文章介绍了在Zig中使用诊断工厂模式来管理错误报告，避免预先定义错误类型，而是提供一组构造函数来生成错误信息，并展示了在TigerBeetle项目中的实际应用。