踏准前沿 – Tahuna: AI训练基础设施,现已开源 [P]

Reddit r/MachineLearning 工具

摘要

Tahuna是一个开源的AI训练基础设施,专为小团队设计,用于训练模型、运行推理、编排GPU并进行自主研究实验,具有可重现的运行和如Hillclimb这样的工具。

Dario说我们需要踏准前沿。好消息是:我们已经踏准Tahuna数月了。今天,Tahuna正式开源——正如四月份所承诺的那样。我们构建它,是为了让小团队无需先成为小型云提供商,就能训练模型、运行推理、编排GPU并进行自主研究实验。基本工作流程:初始化 → 同步 → 训练 → 产物 → 服务。在底层:内容寻址的代码和数据同步、计算资源调配、可重现的清单固定运行、指标、检查点、产物和推理部署。我们还开始构建Hillclimb,这是一个自主实验循环,用于提出并运行迭代改进。首次公开预览版支持RunPod和R2。它包括Docker自托管说明、编码代理设置技能,以及用于SFT、RL代理搜索和MNIST的示例。仓库:https://github.com/TahunaLabs/tahuna-oss。如果你觉得它很糟,太棒了:fork它、修复它,然后发送一个PR,这样它对每个人来说就没那么糟了。
查看原文

相似文章

AI 现在已经能够自行开发推理硬件

Hacker News Top

openTPU 是一个由 AI 智能体自主设计的开源 AI 加速器,包含完整的 SystemVerilog 硬件设计、自定义 ISA、比特精确仿真器以及编译器工具链,能够在一张 Xilinx Kintex-7 FPGA 板卡上运行十个真实的 LLM。该项目探索了自主 AI 智能体在设计运行自身推理的硬件方面究竟能走多远。

在您的个人硬件上运行前沿AI

Hacker News Top

Tim Dettmers宣布dlab的开源周活动,该活动将发布一系列开源工具,旨在让前沿AI技术能够在个人设备上运行,并论证学术界在AI研究中迎来复兴的潜力。