Tag
论文提出 TokenWorth,一个轻量级在线记忆框架,在严格的资源约束下学习哪些历史经验值得保留和重用,从而在提升终身智能体任务成功率的同时减少 token 消耗。
提出 EC2-Bench,一个评估长时程 LLM 智能体边云协作的基准,揭示在任务性能、资源使用与隐私暴露之间的权衡,并发现更强的边端模型会将协作方式推向更多由边端控制的策略。
该研究评测了轻量级开源语言模型在资源受限的边缘环境中对智能数据模型(SDM)进行分类的性能,涵盖通用、推理专用和代码专用架构,并与TF-IDF及轻量句子编码器基线进行对比,为边缘部署的模型选择和任务设计提供参考。
The paper proposes REP-LIE, a resource-efficient pruning method for Transformer models that uses low-rank importance estimation from LoRA gradients to enable pruning during finetuning, with competitive performance on LLaMA-7B and Mistral-7B.
The author introduces Capstan, a lightweight coding agent with a C core and hot-reloadable Lua plugins, designed for efficiency and extensibility in development workflows.