标签
AI Monster Brawl将同一提示词发送给OpenRouter上全部325个文本模型,要求在1000点预算内打造怪兽格斗者;三分之一首次尝试失败,多数因超支,另有7%始终未能产出有效的格斗者。文章分析了常见失败模式,包括预算超支、无效部件以及JSON格式错误等问题。
本文介绍了一种面向移动众感知的成本感知Bandit框架,该框架将工人性能建模为先增后收敛的函数,并在预算约束下处理未知成本。
本文提出D2R-RAG,一个模型无关且资源感知的框架,在延迟和VRAM约束下诊断和修复RAG系统中的事实错误,在FEVER和HotpotQA上实现了更好的准确性与效率权衡。
Gary Marcus指出,由于成本高昂,公司们正在转向更便宜的开源AI模型,这威胁到了Anthropic和OpenAI的市场地位。