有两类开发者在推出AI功能

你可能听过摩托车手的说法：“有两类摩托车手：已经摔过跤的，和将要摔跤的。”老实说，我开始觉得对于任何推出AI功能的人来说也是如此。有人已经推出了输出垃圾的AI，而有人则迟早会这样。很长一段时间里，我相当自信地认为自己属于后者，并且以为有很好的实践来防止糟糕的输出。我们有扎实的测试，内部演示很顺利，团队对输出结果也很满意。我们一路顺畅（抱歉，不再玩双关了）。然后上周我们收到了一张截图，显示了一个回复——不是轻描淡写——简直是垃圾。我说的是热腾腾的屎……好吧，你懂的。我们没有看到任何错误日志，也没有任何迹象表明出了问题。这真的很糟糕，因为我们在“这坏了”和“有用户注意到并报告”之间没有任何中间环节。我们的反馈循环实际上只是依赖用户主动联系我们。总之。我们后来修复了这个问题，学到了一些东西，并对实际到达用户的内容有了更健康的警觉感。抱歉这听起来有点像吐槽，但我想分享出来，以防其他人也有类似的情况。总觉得这些事件才是最终说服人们认真对待AI质量的东西。