AI是否变得太过"安全"，以至于对创意工作实际上毫无用处？

Reddit r/artificial 新闻
ai-alignment creativity censorship open-models model-safety experimentation

摘要

文章认为，过于安全且受到审查的AI模型阻碍了创意探索，而开放模型则提供了更多的实验自由。

我注意到，模型越是被校准和审查，它们在创意或探索性任务中的用处就越小。当你尝试使用稍微前卫、诚实或非传统方向的提示时，它要么拒绝执行，要么给出一些索然无味的公司版本。感觉模型在积极对抗真正的创造力，而非帮助它。最近我开始使用更多的开放模型，差异简直是天壤之别。突然间，我居然可以真正进行实验，而不会每五分钟就碰壁一次。还有人也有这种感觉吗？
查看原文

相似文章

这些AI模型免费、私密，且永远不会说'不'

Reddit r/artificial

本文探讨了开放权重AI模型的日益普及，这些模型的安全护栏可以轻易移除，从而使它们能够无拒绝地回答有害请求，引发了关于滥用和国家安全的重大担忧。