@LRudL_: 我认为完全有可能在开发既开放又安全的模型方面取得重大进展!前者将变得更加……
摘要
一条推文讨论了推进既开放又安全的AI模型的潜力,强调了开源对于防止中心化和确保安全的重要性,因为当前存在挑战。
我认为完全有可能在开发既开放又安全的模型方面取得重大进展!
前者对于避免中心化和传播益处将变得更加重要,后者随着*示意当前情况*也会变得更加重要。
查看缓存全文
缓存时间: 2026/09/02 09:54
我认为朝着既开放又安全的模型方向取得重大进展是有可能的!前者将变得愈发重要,以避免垄断并普及效益;而后者将随着当下现状变得更为关键。
Alex Robey (@AlexRobey23): 我们正在@thinkymachines招聘安全研究员!🦺
我们的团队专注于整个模型开发流程的安全——包括预训练数据过滤、有害能力评估、安全后训练、红队测试以及消融/恶意微调。
我们尤其期待
相似文章
是否应该因担心恶意行为者而禁止公众访问极其强大的模型?开源是否鲁莽?
本文探讨了是否应限制对强大AI模型的访问以防止恶意行为者滥用,或将其开源以实现公平访问,权衡了权力集中与社会危害的风险。它建议采取折中方案,引用了Anthropic设置护栏的方法,但也承认了其局限性和权衡。
@levie: 在一个存在强大开源替代方案且仅略逊于前沿模型的世界里,你让你的……
一篇评论文章指出,限制对前沿AI模型的访问而偏向闭源替代方案适得其反,因为强大的开源模型正在缩小差距,而外国生态系统则从开放性中受益。
@johnschulman2:我们热爱开放权重,并计划继续发布开放权重模型和微调工具。但我们不是绝对主义者;滥…
约翰·舒尔曼讨论了开放权重AI模型的平衡方法,承认滥用风险是真实存在的,同时承诺继续发布模型,并呼吁对安全访问进行协作研究。
@MTSlive:我们询问了HuggingFace首席执行官@ClementDelangue关于发布强大开源模型的风险。他表示…
HuggingFace首席执行官Clément Delangue认为,限制开源AI模型带来的风险比开放更大。他以GPT-2和Mythos等历史例子为例,支持他的观点:开放能改善网络安全和整体安全性。
@TheAhmadOsman: 这就是原因:
@TheAhmadOsman 的一条推文倡导开源人工智能,认为人工智能必须保持可及性和社区治理,以避免依赖封闭的企业系统。