标签
OpenAI启动了一项集体对齐计划，收集公众对AI模型行为的意见，从全球1000多人中汇集反馈，以推动Model Spec的更新。该公司还在HuggingFace上发布了公众意见数据集，以推动AI对齐研究的进展。
OpenAI通过三个支柱阐述了其AI系统行为方案:改进默认行为、在社会界限内允许用户自定义,以及在默认设置和硬性限制上纳入公众意见。该公司强调避免权力集中,并计划试点更广泛的公众咨询,涉及系统行为和部署政策。