@rohanpaul_ai: 确实是一个公平的观点,来自@naval:如果AI公司(Anthropic/OpenAI)在开放网络上训练数据,或许它们应该被要求…
摘要
Naval Ravikant建议,基于开放网络数据训练的AI公司应在一定期限后开放其模型,以防止垄断控制并确保公平访问。
查看缓存全文
缓存时间: 2026/08/17 04:13
来自 @naval 的精彩观点:
如果AI公司(如Anthropic/OpenAI)基于开放网络数据进行训练,或许应被要求在特定时间后开源其模型。
“而Anthropic,正是你们整天渲染危机论,却亲手缔造‘神明’——但你们又不愿将‘神’束缚于自身,Dario。”
“若由政府推行此政策,可以这样规定:‘凡是利用开放网络及公开数据训练的AI模型,必须在12个月后开源。’”
“这听起来相当公允。我们总不能让某个‘祭司’永远控制‘神’,并垄断对‘圣经’的诠释权。”
(节选自 “Naval and Nivi” YouTube频道,完整视频链接见评论区)
相似文章
@TheAhmadOsman: 这就是原因:
@TheAhmadOsman 的一条推文倡导开源人工智能,认为人工智能必须保持可及性和社区治理,以避免依赖封闭的企业系统。
@rohanpaul_ai: Anthropic CEO Dario Amodei 谈开源AI模型。"我认为开源在AI领域的作用方式与在其他领域不同……
Anthropic CEO Dario Amodei 认为开源AI是一个障眼法,他指出模型质量比开放性更重要,因为大型模型需要云端推理,并不像传统开源软件那样真正免费或易于获取。
@rohanpaul_ai: 这是来自一位前Meta产品经理。
Xiaoyin Qu 认为,美欧企业将抛弃OpenAI和Anthropic,转而选择中国模型,因为这些模型可以托管在自己的GPU上,并用专有数据进行微调,从而提供更多控制力和合规性。
@levie: 只有一小部分有用数据存在于开放网络上,可供所有模型用于训练或供代理使用…
Aaron Levie 认为,最有价值的数据存在于组织内部,而非开放网络。如何将这些数据有效传递给AI代理,将决定未来的竞争优势。
是否应该因担心恶意行为者而禁止公众访问极其强大的模型?开源是否鲁莽?
本文探讨了是否应限制对强大AI模型的访问以防止恶意行为者滥用,或将其开源以实现公平访问,权衡了权力集中与社会危害的风险。它建议采取折中方案,引用了Anthropic设置护栏的方法,但也承认了其局限性和权衡。