@nathanrs:我前几天发现,任何压缩工具都可以被扭曲用于语言建模。结果发现 gzip 可以生成…
摘要
该推文说明了任何压缩工具(包括 gzip)都能被改装用于语言建模,而且 gzip 可以生成颇为类似莎士比亚风格的文本。并附有相关文章链接。
我前几天发现,任何压缩工具都可以被扭曲用于语言建模。结果发现 gzip 可以生成有些*类似*莎士比亚的文本。短篇撰文链接如下:https://t.co/KfRi5P3gRo
查看缓存全文
缓存时间: 2026/06/17 01:42
我前几天发现,任何压缩工具都可以扭曲成做语言建模。原来 gzip 能生成一些有点像莎士比亚风格的文本。简短的文章链接如下 https://t.co/KfRi5P3gRo
相似文章
gzip能成为语言模型吗?
本文探讨了将gzip压缩算法用作语言模型的可行性,展示了压缩算法可以通过基于压缩长度对候选续文进行评分并利用束搜索来生成文本。
@ngrokHQ: 压缩和LLM正试图解决完全相同的问题:预测接下来会发生什么。@_anniebabannie_ 的交互式…
ngrok重点介绍了Annie Babannie的交互式文章,该文章解释了压缩和语言模型如何都在处理预测下一步的问题。
压缩中的迷失:抽取式提示压缩器的跨语言可控审计
本文对十种语言的抽取式提示压缩器进行了审计,揭示了经过英语训练的模型在高压缩率下对非英语文本存在显著性能差距,并提出了一种更有效的“先翻译再压缩”流程作为替代方案。
@0x0SojalSec: 这个工具将6000万个文本块从201GB压缩到仅6GB,且精度无损,可在本地笔记本上运行
该工具将6000万个文本块从201GB压缩到6GB,用于RAG且精度无损,使得在笔记本上实现强大的本地检索增强生成成为可能。
@HongcanGuo: 一种全新的文本建模方法
一位名叫HongcanGuo的研究人员透露了一种全新的文本建模方法,但推文未提供技术细节。