laya-model

标签

Cards List
#laya-model

stuntd:一个基于Laya的本地Jev兼容服务器,可从您自己的流量中学习(无需API密钥)

Reddit r/LocalLLaMA · 7小时前

stuntd 是一个本地代理服务器,可从您的流量中学习,使用Laya模型在本地提供类型化的LLM决策,兼容Jev协议且无需API密钥。

0 人收藏 0 人点赞
#laya-model

Laya模型在CPU上使用OpenVINO INT8推理运行Flappy Bird

Reddit r/LocalLLaMA · 16小时前

一个4.21亿参数的Laya模型被演示在台式机CPU上使用OpenVINO INT8量化运行Flappy Bird,展示了在消费级硬件上的高效AI推理。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈