data-pipeline

标签

Cards List
#data-pipeline

我们的研究智能体在10个网站上表现出色,到200个就崩溃了

Reddit r/AI_Agents ↗ · 昨天

一位实践者讲述了其AI研究智能体如何在10个精选网站上几乎零错误,却在200个真实域名上失败率超过30%。他得出结论:根本原因在于流水线无法区分「空结果」和「抓取失败」。引入抓取层面的置信度评分后,暴露出的坏数据行比之前任何提示词调优都要多。

0 人收藏 0 人点赞
#data-pipeline

UniData:通用多模态指令生成流水线

arXiv cs.AI ↗ · 2026-10-09 缓存

UniData 提出一个通用多模态指令生成流水线,将简单用户需求扩展为多轮多模态指令,并构建了涵盖九种模态的 20,000 条 UniDataset,以提升多模态大模型的数据质量与能力。

0 人收藏 0 人点赞
#data-pipeline

如果Jev会说Arrow会怎样?

Hacker News Top ↗ · 2026-09-29 缓存

本文探讨了TypeSafe AI的新模型Jev——该模型可将自然语言转换为类型化决策——以及其与Apache Arrow集成以提升数据管道性能的潜力。

0 人收藏 0 人点赞
#data-pipeline

HybridCUA:学习编排GUI和CLI以用于计算机使用代理

Hugging Face Daily Papers ↗ · 2026-09-29 缓存

本文提出了HybridCUA,一种结合GUI和CLI交互的计算机使用代理方法,采用两阶段训练框架,包括监督微调和强化学习,以提高任务准确性和跨平台通用性。

0 人收藏 0 人点赞
#data-pipeline

TabFM-Auto:面向表格基础模型的自进化流水线

Hugging Face Daily Papers ↗ · 2026-09-29 缓存

TabFM-Auto引入了一个自进化流水线系统,该系统将表格基础模型与语言模型代理配对,以迭代方式优化数据处理,在TabArena和MLE-Bench基准测试中取得顶尖性能,并具有转移到其他模型的能力。

0 人收藏 0 人点赞
#data-pipeline

为客户构建了一个报告生成器代理,而模型只是其中最小的一部分

Reddit r/AI_Agents ↗ · 2026-08-21

为客户构建AI报告生成器揭示出大部分工作量用于数据标准化和模板化,而模型只是一个次要组件,强调了数据管道相对于生成的首要性。

0 人收藏 0 人点赞
#data-pipeline

@seclink: 强大 ... https://dyna.co/research/dyna-2-infrastructure… https://dyna.co/dyna-2

X AI KOLs Timeline ↗ · 2026-08-19 缓存

这篇文章详细介绍了在百万小时规模上训练Dyna-2 AI模型的基础设施和挑战,重点关注数据生命周期和GPU集群优化。

0 人收藏 0 人点赞
#data-pipeline

来自6.6万集播客的叙事语义地图

Reddit r/ArtificialInteligence ↗ · 2026-08-03

作者构建了一个流水线,将6.6万集播客转录,提取并聚类超过70万个观点到二维语义地图中,用于追踪投资叙事,并过滤掉AI生成的内容。

0 人收藏 0 人点赞
#data-pipeline

@freeCodeCamp: 生产级ETL管道需要保持可靠运行,即使数据混乱或API失败。在本手册中,Brookly…

X AI KOLs Timeline ↗ · 2026-07-31 缓存

这本freeCodeCamp手册教读者如何使用真实洪水数据在Python中构建生产级ETL管道,涵盖增量加载、类型强制转换、去重和幂等性。

0 人收藏 0 人点赞
#data-pipeline

@Sprytixl: ANTHROPIC首席工程师凭借一个8步将任意数据混乱转化为图谱的系统赢得120万美元奖金——原始混乱输入…

X AI KOLs Timeline ↗ · 2026-07-26 缓存

Anthropic首席工程师的8步流水线将混乱数据转化为自动更新的图谱,生产效率提升42%,并赢得120万美元奖金。

0 人收藏 0 人点赞
#data-pipeline

DataFlow-Harness:一个基于代码代理的落地平台,用于构建可编辑的LLM数据管道

Hugging Face Daily Papers ↗ · 2026-07-18 缓存

DataFlow-Harness 引入了一个平台,该平台引导LLM代理通过增量变更构建可编辑的基于DAG的数据管道,与脚本生成基线相比,实现了高通过率和降低成本。

0 人收藏 0 人点赞
#data-pipeline

UNIBROWSE:面向多模态浏览竞赛的数据到智能体框架

arXiv cs.CL ↗ · 2026-07-14 缓存

UniBrowse引入了一个统一的数据流水线,用于多模态BrowseComp任务,生成涵盖三种信息流模式的训练数据,在五个基准测试上达到最先进性能,超越GPT-5和Gemini模型。

0 人收藏 0 人点赞
#data-pipeline

构建智能体轨迹数据集的实用指南

Reddit r/AI_Agents ↗ · 2026-07-13

一份构建结构化智能体轨迹数据集的实用指南,用于训练使用工具的智能体,强调设计包含六个关键部分的轨迹的重要性,并将轨迹视为数据资产而非日志。

0 人收藏 0 人点赞
#data-pipeline

@CryptoTied: 卧槽!一个专为 LLM 优化的开源爬虫火了 Crawl4AI 是一个开源的 LLM-friendly Web Crawler & Scraper,目前 GitHub 上已有 72k+ stars。 它把网页内容转换成干净、结构化的 Mar…

X AI KOLs Timeline ↗ · 2026-07-10 缓存

Crawl4AI 是一个专为 LLM 优化的开源爬虫,可将网页内容转换为干净的结构化 Markdown,支持智能内容过滤、LLM 驱动提取、浏览器自动化等功能,适合 RAG 和 AI Agent 场景。

0 人收藏 0 人点赞
#data-pipeline

@IndieDevHailey: Crawl4AI:7万星开源神器,把网页秒变LLM能吃的干净Markdown! 再见付费爬虫!零API Key,几秒出结构化数据,专为RAG、Agent、数据管道而生。 超干净输出:智能去噪、表格/代码/引用全保留,LLM直接喂 真快:异…

X AI KOLs Timeline ↗ · 2026-07-10 缓存

Crawl4AI 是一个开源的网页爬虫工具,能将网页内容转换为干净的 Markdown 格式,专为 LLM 的 RAG、Agent 和数据管道设计。零 API Key,快速输出结构化数据。

0 人收藏 0 人点赞
#data-pipeline

PRX 第4部分:我们的数据策略

Hugging Face Blog ↗ · 2026-07-06 缓存

Photoroom 详细介绍了训练 PRX 的数据策略,包括组装多样化数据集、使用 VLM 重新生成描述,以及利用 Mosaic Data Shards 实现高效训练。

0 人收藏 0 人点赞
#data-pipeline

@pauliusztin_: 我曾以为将1,000,000份文档摄入AI记忆系统主要是个计算问题。但我一直被证明是错的……

X AI KOLs Timeline ↗ · 2026-07-04 缓存

作者讨论了将AI记忆摄入从数千份扩展到数百万份文档的架构,强调编排和并行性而非原始计算能力,并使用Prefect进行工作流管理。

0 人收藏 0 人点赞
#data-pipeline

OpenZL

Lobsters Hottest ↗ · 2026-06-27 缓存

OpenZL 是一个压缩库,能够为特定数据格式生成专门的压缩器,以高速实现高压缩比,适用于数据中心工作负载,如 AI 处理。

0 人收藏 0 人点赞
#data-pipeline

@XiaohuiAI666: 你的 RAG 实现方法是错误的! 传统 chunk 缺乏知识边界、版本信息和元数据,导致检索上下文缺失、版本混杂、权限控制困难。 作者提出的新方法以 IdeaBlock(问题-答案+治理字段)替代 chunk,实现结构化知识单元。 不改检…

X AI KOLs Timeline ↗ · 2026-06-22 缓存

作者提出以IdeaBlock(问题-答案+治理字段)替代传统chunk来改进RAG知识单元,已开源Blockify工具,可减少40倍语料、3倍token并提升2.3倍相关性。

0 人收藏 0 人点赞
#data-pipeline

机器人团队正在从头重建数据栈

Hacker News Top ↗ · 2026-06-21 缓存

机器人团队正在从头重建数据栈,以克服“数据层税”对机器人学习迭代和扩展的拖累,因为现有基础设施无法处理多速率和多模态数据。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈