护栏扼杀了创造力？

Reddit r/singularity 新闻
creativity ai-safety guardrails open-models language-models creative-writing

摘要

一位用户担心当前AI模型由于安全护栏而变得缺乏创造力且更显企业腔调，与早期更具想象力的开放模型形成对比。

在编程模型取得巨大改进之后，我感觉创意模型反而倒退了，变得越来越像企业套话。当我试图询问想法甚至简单的标题时，得到的列表毫无新意，很少有我没想到的东西。创意写作和情节类问题也极其平庸乏味。考虑到这些模型接受了海量文学作品的训练，我很少能从模型提出的想法中感受到惊喜。这种情况一直都这样吗？我知道有人说早期的对话模型要好得多，但我那时并没有深入探索。我有点后悔没在那个窗口期尝试它们。你觉得我们还能回到更富创造力的开放模型吗？还是说它们永远都会被视作过于危险？
查看原文

相似文章

AI护栏如何阻碍进攻性网络安全研究人员的工作

TechCrunch AI

旨在防止恶意使用的AI安全护栏，同时也阻碍了合法的进攻性网络安全研究人员，他们需要不受限制的模型访问权限来识别和利用漏洞以进行防御。研究人员批评了像Anthropic和OpenAI这样的AI公司所实施的任意把关行为。