@patio11: 我觉得政府/非政府组织的互联网审查机制范围被AI安全关注者大大低估了,尤其是它如何与呼吁中立第三方针对被审查的政治倾向人群的行为相匹配。
摘要
这篇推文指出,AI安全倡导者低估了政府和非政府组织的互联网审查程度,并解释了这种审查模式如何与针对特定政治团体同时倡导中立性的行为相一致。
我觉得政府/非政府组织的互联网审查机制范围被AI安全关注者大大低估了,尤其是它如何与呼吁中立第三方针对被审查的政治倾向人群的行为相匹配。
相似文章
@DavidSacks: 这就是Trust & Safety 2.0。上次我们遇到类似这种媒体制造的恐慌(涉及Russiagate和Covid),社交媒…
本文批评了AI公司中'Trust & Safety 2.0'的出现,其中嵌入非政府组织和有效利他主义倡导者以控制言论,并与过去的社交媒体审查进行类比。
立场:对齐社区无意中正在构建审查工具包
本文认为,现代AI对齐技术尽管旨在防止有害输出,但属于双重用途技术,可能被滥用于审查和操纵,并敦促社区正视这一风险。
@VraserX: 我可以接受一些AI能力需要限制。但是如果公众得到较弱的模型,而企业和政府得到更强的模型……
这条推文认为,AI限制不应导致公众获得较弱的模型,而企业和政府获得强大的模型,呼吁提供超越安全性的更好解释,并强调了访问权限的政治性质。
@ylecun:确实。多年来我一直在传播类似的观点。AI领域的权力集中和控制欲…
Yann LeCun呼应了关于AI权力集中是最大危险的担忧,可能导致少数实体控制信息获取。
AI安全对话已变得难以置信
本文讨论了关于AI安全的病毒式传播对话,重点提及Andrew Yang关于AI污染网络的言论,以及Noam Brown关于低估AI能力和气隙系统潜在突破风险的警告。