可解释的教学示例

# 可解释且具有教学性的例子 来源：https://openai.com/index/interpretable-and-pedagogical-examples/ ## 摘要 教师会有意地挑选最具信息量的例子来向学生展示。然而，如果教师和学生都是神经网络，教师网络学到的例子虽然能够有效地教导学生，但通常是不可解释的。我们展示了通过迭代训练学生和教师网络，而不是联合训练，可以产生可解释的教学策略。我们通过以下方式评估可解释性：（1）测量教师产生的策略与每个领域中直观策略的相似性，（2）进行人类实验来评估教师的策略在教导人类方面的有效性。我们证明了教师网络能够学习选择或生成可解释的、具有教学性的例子，来教导基于规则、概率、布尔和分层概念。