让AI帮忙调试代码，它却自信地编造了一个不存在的函数，连续三次

Reddit r/artificial 新闻
ai-hallucination code-assistant ai-reliability debugging ai-confidence

摘要

一位用户讲述了AI编程助手在调试代码时自信地编造了三次不存在的函数，每次道歉后又给出同样虚构的建议，凸显了AI在技术任务中常见的“幻觉”问题。

建议使用的方法听起来合理，符合命名惯例，参数也合理——只是库中根本不存在。指出后，得到道歉和同样自信、同样虚假的建议。第三次几乎令人印象深刻：一个即兴编造的函数的完整详细使用示例。最终只能像2015年那样去读实际文档。有没有其他人注意到自信与正确率成反比？
查看原文

相似文章