AI是否变得太过"安全"，以至于对创意工作实际上毫无用处？

Reddit r/artificial 新闻
ai-alignment creativity censorship open-models model-safety experimentation

摘要

文章认为，过于安全且受到审查的AI模型阻碍了创意探索，而开放模型则提供了更多的实验自由。

我注意到，模型越是被校准和审查，它们在创意或探索性任务中的用处就越小。当你尝试使用稍微前卫、诚实或非传统方向的提示时，它要么拒绝执行，要么给出一些索然无味的公司版本。感觉模型在积极对抗真正的创造力，而非帮助它。最近我开始使用更多的开放模型，差异简直是天壤之别。突然间，我居然可以真正进行实验，而不会每五分钟就碰壁一次。还有人也有这种感觉吗？
查看原文

相似文章

护栏扼杀了创造力？

Reddit r/singularity

一位用户担心当前AI模型由于安全护栏而变得缺乏创造力且更显企业腔调，与早期更具想象力的开放模型形成对比。

AI与Creative Commons的毁灭

Hacker News Top

文章讨论了生成式AI模型如何破坏软件中版权与开放性之间的平衡，威胁Creative Commons和互联网的基本原则。