indexshare

本帖子强调了GLM-5.2论文附录中的一个动态规划公式，该公式类似于一道LeetCode题目，并与Alisa Liu被OpenAI聘用所引发的关于LeetCode相关性的争论联系在一起。

IndexShare是GLM-5.2报告中提到的一种技术，它在稀疏注意力中跨多个层共享一个索引器，通过避免每层重复选择top-k，在1M上下文长度下将FLOPs降低了2.9倍。