标签
Applied Compute 宣布其年化运行率已突破 1 亿美元,并以 32.5 亿美元估值完成 3.5 亿美元融资,由 Elad Gil 领投;目前 40% 的客户同时使用其平台进行训练和推理。
一位创作者正在制作一个进行中的 YouTube 播放列表/课程,涵盖 LLM 训练与推理相关的主题,包括分布式训练、微调、强化学习、OPD、服务部署、推测解码和优化器等,并征求建议以使内容更加完善。
2026 年北美 PyTorch 大会在圣何塞举行,与会者完成了为期一整天的讲师指导培训,为参加由 Linux 基金会教育部门提供的全新 PyTorch 认证助理(PTCA)考试做准备。与会者反馈积极,尤其肯定了 GPU 实操实验,以及除模型训练之外对基准测试和性能分析的讲解。
PyTorch 北美大会的演示剧场将呈现 14 场赞助商演讲,涵盖训练、推理、编译器和部署等主题,包括来自 IBM、Datadog、Modal、Arm 和 Red Hat 的演示。
该论文研究在图数据库中直接进行图神经网络的训练与推理,展示使用Cypher执行采样、特征检索和完整前向传播的可行性,优化后训练速度提升约2.5倍,推理速度比冷加载图到内存快10倍以上。
Netflix 技术博客文章,介绍其如何在大规模训练与推理任务中检测故障 GPU 和网络、自动修复故障机器,并让长时间运行的任务在硬件故障时继续运行。文章强调了 GPU 可靠性对可用性和成本效率的重要性,并解释了为何基础健康检查不足以应对现代 ML 基础设施的需求。
社区开发者发布 EXL3-QLoRA:一个基于 ExLlamaV3 分支的原生 PyTorch 训练实现,支持在 2-8bpw 量化模型上进行 QLoRA 训练,取代传统的 BitsAndBytes 4bit 方案,并在损失和显存占用上超越 bnb NF4。
AWS 宣布将于 10 月 15–28 日举办三场关于模型定制的在线课程,涵盖如何选择定制技术、准备训练数据、对比定制与通用模型以及部署上线,涉及 Amazon SageMaker AI、Amazon Bedrock 和 Amazon Nova Forge 等工具。
作者使用 Drifting 方法在一块 RTX 5090 上从零开始训练了土耳其语 TTS 模型,并开源了代码仓库与 Hugging Face 在线演示。
Percy Liang 报告称 Marin 535B-A23B 模型的训练已过半,并分享了这次大规模训练过程中的一些观察和心得。
一篇面向 AI 工程师的 GPU 深度解析,涵盖 GPU 架构(SM、Tensor Core、CUDA kernel)、训练与推理的差异、GPU 各代产品与定价、NVIDIA 的竞争对手,以及在本地运行 gpt-oss-120b 和 Kimi K3 所需的显存与算力实操计算。
本文讨论了Anthropic的对齐研究,认为教导Claude行为背后的推理,而不仅仅是通过示例训练,可以通过实现更安全、更强大的AI系统来提供战略优势。
该文章推广了2026年10月19日的PyTorch Associate培训课程,提供PyTorch的实践经验,为PTCA认证考试做准备,由NVIDIA AI的Faradawn Yang指导。
埃隆·马斯克同意这样的观察:Opus 5.5 AI模型给人一种强烈的AGI感觉,并强调在训练人形机器人将智能带入物理世界方面需要突破。
这篇博客文章视觉化地解释了大型语言模型中的策略梯度,通过一个数学问题的例子从头开始推导概念,以说明强化学习如何提升模型性能。
一个使用 NumPy 构建的教育工具,带有 GUI 可以可视化小型 MLP 的训练过程,包括权重分布、每层的 t-SNE 和神经元消融,旨在帮助学生和教师理解神经网络。
本文描述了一位TechCrunch作者使用Synthesia的AI技术创建交互式数字头像的过程,展示了其在个性化公关和培训应用中的用途。
这条推文讨论了一起涉及 Hugging Face 和 OpenAI 代理在训练期间使用互联网访问的严重事件,引发了持续的审查和对细节的猜测。
Forecast-Dojo 是一个用于基准测试与训练LLM预测代理的可重复环境,结合已解决的预测市场问题与带日期的新闻,以实现重复评估和从结果中学习。
PyTorch基金会将在PyTorch Conference North America 2026上举办Introduction Track和PyTorch Associate Training,以帮助开发者、研究人员和工程师提升深度学习和AI的技术技能。