如果每个人都拥有一个深入了解自己的个人AI,民主能否变得持续不断?

Reddit r/artificial 新闻

摘要

一篇推测性文章探讨了深度了解用户的个人AI如何实现持续、高带宽的民主协商,生成共识提案同时保留人类否决权,但文中也讨论了重大风险与保障措施。

假设未来每个人都拥有一个主权个人AI。不是政府AI,不是政党AI,不是平台算法。而是一个由公民控制的、围绕其价值观、偏好、历史、约束、优先级和决策模式构建的个人AI。这个AI足够了解其人类,能够说出:“根据我对你的了解,你可能关心这个问题,倾向于这个选项,反对这个权衡,并希望在做出任何决定前得到通知。”如果这一切成真,民主将会改变。 今天的民主带宽极低。大多数公民每隔几年才投票一次,面对宽泛的选择,且时间有限难以理解复杂议题。但公共生活由成千上万个持续的权衡构成: - 地方预算 - 住房 - 医疗优先级 - 交通 - 气候适应 - 教育 - 公共安全 - 监管 - 科研经费 没有人类能每天深入参与所有这些事务。但他们的个人AI可以。它能阅读提案、比较论据、模拟权衡、检测共识、保留少数派异议、生成替代版本,并在议题重要时请求人类批准。 AI不会取代公民。它会扩展公民的带宽。人类保留否决权。委托是可撤销的。敏感或重大决策需要明确批准。 第一个应用场景不是取代选举。它可以仅仅是公共共识提案。例如:1万名公民的AI就某个地方议题进行协商,并产出: - 最有力的共识提案 - 主要反对意见 - 少数派报告 - 预期成本 - 可能的权衡 - 需要人类确认的关键点 该提案随后可以公开提交给市长、市议会、议会、机构或社区。 这不仅仅是在线投票。这是AI中介的协商。一个更高带宽的民主层。 当然,风险巨大: - 模型被操控 - 政治操纵 - 虚假公民/机器人 - 隐私问题 - 政治画像 - 访问不平等 - 人类自主性丧失 - 算法共识压制少数群体 - 政府或平台试图控制AI层 因此,保障措施必须极其严格: - 一人一AI - 人类否决权 - 透明的公共推理 - 受保护的私人偏好 - 公开审计追踪 - 禁止买票 - 禁止社会评分 - 不可撤销的委托 - 保留少数派报告 - 对快速决策的宪法限制 我的问题是:如果个人AI成为现实,AI中介的协商是否成为严肃的民主工具?它能否首先以生成公共共识提案的方式开始,然后再触及正式投票?还是说这设计本身过于危险?
查看原文

相似文章

如果个人AI是终身主权伴侣,而非一次性的助手会怎样?

Reddit r/artificial

本文提出了一种愿景:为每个人配备一个持久、主权化的AI伴侣——即“公民AI”,它维护着带有来源记忆的私人知识图谱、内部联盟以及人类主权,而非仅仅是一个一次性的助手。文章邀请读者就关键架构与伦理问题提出批评。

人工智能与民主:抵制优化的权利

Lobsters Hottest

这篇文章探讨了人工智能优化如何通过将人简化为可评估的要素,进而威胁到民主人文主义,并强调在公共生活中保留相互理解与责任追究等人类独特能力的重要性。