AI的民主参与

# AI的民主投入 来源：https://openai.com/index/democratic-inputs-to-ai/ AI将产生重大的、深远的经济和社会影响。技术塑造了个人的生活、我们彼此的互动方式，以及整个社会的演变。我们相信关于AI行为方式的决策应该由代表公众利益的多元观点来指导。 法律编码了价值观和规范来规范行为。除了法律框架外，AI就像社会一样，需要更复杂、更自适应的行为准则。例如：在什么条件下AI系统应该谴责或批评公众人物，考虑到不同群体对这些人物的不同看法？如何在AI输出中表现有争议的观点？AI默认应该反映世界上中位数个人的角色、用户所在国家的角色、用户人口统计学特征的角色，还是完全不同的东西？没有任何单一个人、公司，甚至国家应该独自决定这些问题。 AGI（https://openai.com/charter/）应该造福全人类，并被塑造得尽可能包容。我们启动这个资助项目来向这个方向迈出第一步。我们寻求来自世界各地的团队开发民主流程的概念验证，以回答关于AI系统应该遵循什么规则的问题。我们希望从这些实验中学习，并将其作为今后更全球化、更雄心勃勃流程的基础。虽然这些初期实验目前还不（至少目前不）打算对决策具有约束力，但我们希望它们能够探索与决策相关的问题，并构建新颖的民主工具，可以在未来更直接地为决策提供信息。 最强大系统的治理（https://openai.com/index/governance-of-superintelligence/），以及关于其部署的决策，必须受到强有力的公众监督。这项资助代表了为AGI监督建立民主流程的一步，最终也是为超级智能监督建立民主流程的一步。它将由OpenAI非营利组织提供，研究结果将被免费获取。 多个问题可能破坏民主流程，例如未能充分代表少数群体或多数群体、特殊利益集团的操纵、参与者信息不足，或参与（在新窗口打开）（https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4266250）洗白（在新窗口打开）（https://arxiv.org/abs/2007.02423）。我们在寻找主动解决这些失效模式的团队，并展现出对各种方法的潜在缺陷和缺点的认识。最终，设计真正的民主流程是一个很高的门槛，我们将我们的努力视为对AI政府监管的补充而非替代；该项目鼓励涉及协商和广泛公众参与、最好的努力、民主精神的流程作为垫脚石。