llm-pipelines

QUIVER 提出了一种形式化框架，用于量化在结构化为计算图的复合AI系统中扰动的传播方式，定义了灵敏度矩阵、轨迹发散、分岔阈值和分布忠实性，并在生产管道和公共管道上进行了验证。

本文将在多智能体LLM流水线中的工作流学习形式化为一个接口约束的半马尔可夫决策过程（IC-SMDP），并提出IC-ICQQ，一种异步分布式Q学习算法，具有有限样本界，可分解误差源，为分布式部分可观测性下的神经Q学习提供了首个有限样本保证。

本文提出了一种面向生产级文档AI管道的微服务架构，该架构结合了分类、OCR和LLM提取，分享了设计决策和批量分析洞察，揭示了OCR（而非LLM解析）主导了延迟。