标签
本文量化并扩展了晚期交互检索模型的理论容量,证明MaxSim可以复制非负向量之间的内积,并提出适用于任意实值向量的Signed MaxSim,揭示了内积模型与晚期交互模型之间的表示差距。
Anthropic确认,通过订阅访问Fable 5的权限将于7月7日结束,之后将转为使用积分,但计划在容量改善后将其恢复为标准订阅模式。
Fable将于7月7日后从订阅中移除,但团队计划在容量允许时尽快恢复。
Cerebras 与 OpenAI 达成了一项价值 200 亿美元的芯片供应协议,该协议预分配了大部分的近期推理容量,导致其他寻求快速推理的初创公司的 API 等待列表实际上变得无限长。
SemiAnalysis 驳斥了广泛流传的关于2026年美国数据中心容量一半被延迟或取消的说法,指出这是基于不准确的模型,并用自己的数据表明预测仅略有变化。
一项来自斯坦福、MIT、哈佛和Anthropic的论文解释,大型AI模型能更好地学习稀有技能,因为训练期间它们遗忘更少;其额外容量保护弱学习信号不被常见任务覆盖。
本文研究了为什么更大的模型表现优于较小的模型,将其归因于梯度干扰减少和资源分配优化,这使得它们即使在无限数据下也能学习罕见且复杂的任务。在合成数据和OLMo模型上的实验验证了,更大的模型由于对常见任务的梯度更新较弱,能够避免覆盖罕见任务的特征。
Sam Altman宣布,一项提供计算能力的计划将持续至当前配额售罄,随后计划恢复,同时为ChatGPT和Codex保留容量。
Sam Altman宣布OpenAI的Guaranteed Capacity,提供1-3年承诺的折扣代币,为客户提供容量确定性。