power-concentration

本文讨论了AGI如何通过自动化和监控集中权力，侵蚀公众影响力从而威胁民主，并提倡将AI基础设施公有化作为解决方案。

作者认为，在人工智能发展中，协调的放缓也应适用于内部能力，以防止权力集中，即像GPT-7这样的高级模型在内部使用，而公众只能获得过时的版本。

Sam Altman 强调了 AI 进展中的两个主要风险：控制权丧失和权力过度集中，并强调了前沿实验室在对齐、安全和负责任的 AI 发展方面的重要性。

OpenAI 推出'Intelligence Age'博客与战略未来团队，探讨自由社会如何适应变革性人工智能，同时减轻权力集中风险并维护个人权利。

Yann LeCun呼应了关于AI权力集中是最大危险的担忧，可能导致少数实体控制信息获取。

AI能力每六到七个月翻倍，作者指出一小群人正试图通过自动化让人类过时，呼吁人们认识并阻止这一趋势。