标签
RLRT 是一种面向嵌入式 GPU 的端侧强化学习运行时,通过刷新界限和感知时间裕量的 GPU 准入机制,使行动者与学习器之间的策略耦合成为可调参数。在 Jetson 开发板上,它可将截止期限未满足率控制在 1% 以下,而未使用该运行时时,这一比例为 85–100%。
Postey.ai 推出一款 AI 驱动的内容管理与排程工具,让创作者可以从 Claude/ChatGPT 向 9 个平台发布内容,并内置私信自动化、写作助手以及跨平台数据分析功能。
LRMoE 是一种内存感知的 MoE 训练系统,可在内存受限的 GPU 节点上联合重新校准反向传播需求并均衡保留的工作负载。与 SYMI 相比,LRMoE 在 Qwen3-30B-A3B 和 GLM4.5-106B-A12B 上将 MoE 层的累计训练时间缩短了 21.2-44.8%。
开源推理工程仓库的第 6 部分已发布,涵盖使用真实模型推理和 DynamicCache 进行 KV 缓存内存分配、增长、释放,以及容量感知调度。
TAO 提出一个工具感知的联合调度框架,用于基于大语言模型的智能体服务,通过动态规划在容量约束下选择和放置会话,相比最优基线最高降低 26.8% 的延迟、36.3% 的首词元生成时间,并提升 29.5% 的解码吞吐量。
RAC 提出了一种与执行框架无关的“关系型智能体合约”,让智能体只声明语义关系、由专用工具推导具体实现,并在 PCB 设计、作业车间调度和嵌入式代码任务上显著提升了约束满足率(如 PCB 平均 90.9% 对比 74.0%)。
提出 VISTA 这一免训练方法,通过在少量全引导预热生成中收集价值统计并利用动态规划进行优化,在固定预算下自动为离散扩散的 SMC 奖励引导选择引导时间步,在文本、生物序列和图像生成任务上优于手工设计的稀疏调度,实现最高 5.35 倍加速。
MeetPaw 是一款轻量级 macOS 菜单栏应用,一键即可生成 Google Meet、Zoom 或 Microsoft Teams 会议链接,并自动复制到剪贴板,分享零阻力。
Manus 宣布支持将重复性工作设为自动执行(autopilot),用户只需指定工作启动时间和期望的完成结果,即可实现任务自动化。
Calenteri 是一款在 Product Hunt 上发布的 SaaS 预约工具,主打 GDPR 合规、欧盟托管且无第三方追踪器,作为 Calendly 的隐私友好替代方案,支持用户间互订日程并邮件通知。
CostGraph 博客详解如何将 Kubernetes 节点资源整理建模为多维向量装箱问题(d 维 vector bin packing),说明为何按单一尺寸排序(first fit decreasing)会浪费容量,并介绍基于 Panigrahy et al. (2011) 几何启发式、结合真实用量 P95 与调度器硬性约束的贪心打包方案。
一项受控等预算实验研究比较了蒙特卡洛树搜索(MCTS)与随机重启列表调度在DAG工作流调度中的表现,发现MCTS在相同预算下反而比简单的随机重启方法差约2.88%。研究指出MCTS的劣势源于选择规则锁定在首个扩展子节点上,而换成标准UCT规则后差距基本消失。
BrightBean Studio 是一款免费开源的社交媒体管理工具,作为 Buffer 的替代方案,支持向 10+ 平台排程发布,并内置 MCP 服务器和 REST API 以接入 AI 智能体。
论文提出了 NP-Bench——一个基于真实环境的基准,用于验证多个并行 LLM 编码智能体之间的协同能力——以及内置在 Nerveplane 中的主动式调度规划器。该规划器将工作拆分为互不重叠的范围,并沿依赖图对合并操作进行排序。规划器将干净集成的成功率从 1/9 提升至 9/9 个场景,消除了合并冲突,并通过跨会话记忆将重复出错率从 1.00 降至 0.00。
TokenRouter 是一个面向 token 级 LLM 路由的高效推理服务系统,采用「请求中心编程、模型中心执行」架构与延迟批调度策略,实现较现有系统 2.01–64.15 倍的解码吞吐提升。
PostNitro 推出「PostNitro for Agents」,让 AI 代理(如 Claude、ChatGPT)通过 OAuth 一键连接、包含 35 种工具的 MCP 服务器、CLI 或 REST API,自动生成品牌化的轮播图、图片和短视频,并排期发布到各大社交平台。
Meta 正在开源 Rebalancer,这是一款在内部使用了九年的指派问题求解器,用于处理其基础设施上的资源分配,包括硬件放置、服务/任务放置以及流量路由。它同时提供最优 MIP 求解器和并行化局部搜索求解器,在 Meta 每天处理约 4000 万个问题。
一篇讲解 LLM 服务调度循环的教学文章,解释推理请求如何经过等待队列、批量构建、prefill、decode 和 continuous batching,使 GPU 在不同请求先后完成时仍保持满载运行。