标签
本文介绍了 Sebastian Raschka 在 YouTube 上发布的视频集,探讨 AI 推理技术,特别是对数概率评分和自我优化方法,以改善模型性能,无需重新训练。
此推文讨论了用于语言模型的OPD、OPSD、RLSD和OPD^2蒸馏技术,强调了使用对数概率差异来隔离训练后的改进。