标签
stuntd 是一个本地代理服务器,可从您的流量中学习,使用Laya模型在本地提供类型化的LLM决策,兼容Jev协议且无需API密钥。
一个4.21亿参数的Laya模型被演示在台式机CPU上使用OpenVINO INT8量化运行Flappy Bird,展示了在消费级硬件上的高效AI推理。