runtime-system

标签

Cards List
#runtime-system

DynaResize:面向解耦式LLM后训练的运行时GPU重新分配

arXiv cs.AI · 5天前 缓存

DynaResize是一个运行时GPU重新分配系统,在基于强化学习的LLM后训练过程中,动态地在Rollout和Training阶段之间切换GPU,相比静态配置,吞吐量提升66.5%,执行时间减少33%。

0 人收藏 0 人点赞
#runtime-system

@servasyy_ai: https://x.com/servasyy_ai/status/2057463627255570937

X AI KOLs Timeline · 2026-05-21 缓存

腾讯云数据库团队开源了 TencentDB Agent Memory,一个解决 AI Agent 长任务上下文退化问题的运行时系统,通过三层回溯与动态压缩机制将短期上下文压缩纳入记忆系统,并整合了长期记忆流水线,是 AI Agent 记忆系统从“数据库”走向“运行时”的标志性尝试。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈