为Jev制作了使用RLCD的通用开源模型,并且它超越了所有Jev基准测试。HF空间、基准测试、模型、仓库
摘要
本文宣布了Laya的发布,这是一个使用RLCD训练的开源4.21亿参数非自回归决策模型,它超越了Jev基准测试,并可在Hugging Face上进行测试。
感谢出色的支持(https://www.reddit.com/r/LocalLLaMA/comments/1wijo3e/i_literally_built_the_jev_architecture_one_year/)以及数十个请求,希望制作一个通用模型、运行基准测试并创建HF空间,以便任何人都可以测试。所以,这里给你们。我在一个大型数据语料库上训练了一个改进的模型,现在称为Laya。它在单张RTX 6000 Pro(96 GB VRAM)上训练;模型架构是一个421M参数的非自回归决策模型,配对一个双向ModernBERT-large编码器和一个从头训练的Transformer头,用于对[MASK]选项标记进行评分,以在单个约35毫秒前向传播中解析类型化模式。数据集是一个100%人工标注的语料库,包含超过25,000个真实世界示例,涵盖意图路由、事实核查、审核共识、提示护栏、评分标准和多轮对话轨迹,没有合成数据捷径。我所做的RLCD(非官方,顺便说一句)是一种策略梯度强化学习方法,有点像针对严格适当评分规则优化决策模型,确保只有在输出真实的、数学校准的概率时才能获得最大奖励。注意:它可以运行在低端PC上,因为它是一个小型的421M模型,欢呼HF空间尝试:https://huggingface.co/spaces/convaiinnovations/laya-demo GitHub仓库:https://github.com/NandhaKishorM/laya HF仓库:https://huggingface.co/convaiinnovations/laya感谢所有支持我、分享故事、发送私人消息的人。当然,它需要更多改进。如果有人想请我喝咖啡,这里是链接:https://github.com/NandhaKishorM
相似文章
我确实于一年前构建了Jev架构,并完全开源了模型、数据集和论文
一位个人声称在一年前就开发并开源了一个类似于Jev的非自回归AI架构,比其公开发布早了一年,对缺乏来自前沿实验室的认可和支持表示沮丧。
@dzhng: 对于构建AI系统的人来说,这比Astra或Fable更重要。我希望这类模型能持续发展…
Diogo Almeida,ChatGPT的联合发明者,发布了一个名为Jev的新AI模型,该模型使用RLCD训练,声称速度提升20-200倍。这一宣布被强调为AI模型训练领域的重要进展。
@yibie: https://x.com/yibie/status/2100771865308414367
SalesRLAgent项目早在一年前就开源了类似Jev路线的强化学习模型,但未被广泛关注,文章分析了其与Jev的技术异同及AI研究中的叙事影响力问题。
@mvanhorn 的推文:https://x.com/mvanhorn/status/2100784142850097482
Jev 是一个新的AI模型,专注于快速决策,提供比前沿大语言模型快20-200倍、便宜40-400倍的性能,由 Diogo Almeida 发布。
@Jackywine: 为什么模型已经开始聊天,但AGI仍未到来?所以在过去的两年里,他没有发表任何论文……
@Jackywine的帖子揭示了一种新的训练方法RLCD,并宣布发布前沿AI模型Jev Speed,该模型速度快20–200倍,成本低40–400倍,并且直接免费。