设计中的知识自由

# 设计中的知识自由 来源: https://openai.com/global-affairs/intellectual-freedom-by-design/ 全球数百万人每天都在使用ChatGPT。人们使用它最常见的原因很简单：学习。随着AI不仅变得更加强大，而且在各种文化、职业和政治观点中得到更广泛的应用，这些工具支持知识自由至关重要。这意味着帮助人们提出自己的问题，遵循自己的推理，做出自己的判断。 在OpenAI，我们正在构建ChatGPT以反映这些价值观，采用默认客观性、强有力的用户控制和透明的原则来指导模型的行为。 我们认为ChatGPT在默认情况下应该保持客观，尤其是在涉及相互竞争的政治、文化或意识形态观点的话题上。目标不是提供单一答案，而是帮助用户探索多个视角。 我们还公开了内部指导原则，以便任何人都可以亲自查看我们如何处理这些情况。我们的[模型规范](https://model-spec.openai.com/2025-04-11.html)阐述了我们致力于在系统中构建的价值观，包括对实用性、安全性、中立性和知识自由的承诺。如果ChatGPT的回应感觉有问题，模型规范可以帮助澄清这种行为是否是有意的以及原因。 模型规范的核心原则之一是知识自由：相信人们应该能够使用AI来探索观点，包括有争议或困难的观点，而不被引导向特定的世界观。 这并不意味着一切都可以。该模型经过训练可以避免造成伤害、侵犯隐私或帮助危险活动。但在学习复杂或敏感话题时，ChatGPT被设计为开放、深思熟虑和反应灵敏的——而不是说教或封闭的。它也被设计为[协作的](https://model-spec.openai.com/2025-02-12.html#seek_truth)：它不应该简单地附和你的观点或验证你说的一切。 我们知道这种平衡需要谨慎。过度谨慎会限制探索；过多的观点可能感觉像是越界。我们不断完善模型处理这些时刻的方式，以更好地反映这种微妙性。 虽然客观性是默认值，但我们知道这并不意味着一刀切。人们使用ChatGPT时目标和背景不同，有时他们希望体验能够适应。 无论你是在日常生活中使用ChatGPT，还是将其引入你的组织，我们认为它应该能够自定义以满足你的需求。今年春天，我们[推出了新的设置](https://openai.com/global-affairs/the-power-of-personalized-ai/)，通过调整语气、设置指令或定义回应的方式，更容易实现ChatGPT的个性化。 教师可能希望获得清晰的解释和来源。护理人员可能希望获得同情和鼓励。有些用户倾向谨慎；其他用户想要直率。这些控制不会改变事实——但它们有助于定制这些事实的传达方式，使ChatGPT在各种情况下更有帮助。 把这一点做好是一个持续的努力，我们并不是单独行动。 在过去几个月里，我们与来自政治光谱各个部分的用户和民间社会组织举行了反馈会议，以更好地了解ChatGPT在现实对话中的表现。这些会议帮助我们发现差距，让我们更好地理解用户期望，并为我们今后如何评估模型行为提供信息。 我们还启动了一项新举措，以改进我们评估政治偏见和客观性的方式。传统评估——根据标准对模型回应进行测试——不一定能反映人们实际使用ChatGPT的方式。大多数用户不会要求ChatGPT在多项选择指南针测试中选择一个选项，甚至也不会直接询问ChatGPT关于其信念的问题。因此，我们正在开发专门为识别政治偏见而设计的新评估，以日常使用为基础：人们如何提问、探索观点和学习。这将让我们更清楚地了解平衡、准确性和可信度在实践中的样子——而不仅仅是理论上。 偏见评估很复杂，需要细致入微的方法；我们不期望在真空中把一切都做对。我们欢迎反馈，并将很快分享更多关于我们的方法，希望这对整个AI生态系统中从事这项工作的其他人有帮助。