budget-constraints

本文提出D2R-RAG，一个模型无关且资源感知的框架，在延迟和VRAM约束下诊断和修复RAG系统中的事实错误，在FEVER和HotpotQA上实现了更好的准确性与效率权衡。

Gary Marcus指出，由于成本高昂，公司们正在转向更便宜的开源AI模型，这威胁到了Anthropic和OpenAI的市场地位。