标签
论文介绍了StreamingLLM,这是一个使用注意力汇聚(attention sinks)的框架,使大型语言模型能够处理无限序列长度而无需微调,从而提高流式应用的效率。
地形扩散引入了基于扩散的Perlin噪声继任者,采用新颖的InfiniteDiffusion算法,以常数时间随机访问生成逼真、无缝且无限的程序化世界。