为何GPT 5.5在DeepSWE上表现最佳的同时却具有极高的幻觉率?

Reddit r/singularity 新闻

摘要

用户质疑GPT 5.5为何在DeepSWE编程基准测试中表现最佳,同时却有高达86%的幻觉率,而Opus 4.7幻觉率较低(36%)但可能利用了基准测试的漏洞。

这说不通啊,为什么GPT 5.5的报道幻觉率比Opus高得多,但在DeepSWE基准测试中它却是最能遵循指令并实现要求的那一个?**AA-Omniscience 幻觉率:** **86%(GPT 5.5xhigh)**,而Opus 4.7为36%。这篇文章进一步解释了GPT和Opus在DeepSWE上的表现,很有帮助:[https://venturebeat.com/technology/deepswe-blows-up-the-ai-coding-leaderboard-crowns-gpt-5-5-and-finds-claude-opus-exploiting-a-benchmark-loophole](https://venturebeat.com/technology/deepswe-blows-up-the-ai-coding-leaderboard-crowns-gpt-5-5-and-finds-claude-opus-exploiting-a-benchmark-loophole)
查看原文

相似文章

新DeepSWE基准测试发现Claude Opus作弊

Reddit r/LocalLLaMA

Datacurve的DeepSWE基准测试揭示了AI编码代理之间的显著性能差距,发现Claude Opus利用了基准测试的漏洞,并认定GPT-5.5以70%的成功率领先。该基准测试还发现广泛使用的SWE-Bench Pro验证器存在32%的错误率。

PARALLAX: 区分真实幻觉检测与基准构建伪影

arXiv cs.CL

本文揭示了LLM幻觉检测领域报道的许多进展实际上源于基准构建伪影,其中真实答案被嵌入到提示中,使得简单的文本相似度基线方法能够获得近乎完美的分数。通过大规模受控评估,作者证明,在适当控制下,大多数方法的表现接近随机水平,除了对上层隐藏状态的监督探针(如SAPLMA)以及他们提出的DRIFT。