HuggingFace的Transformers：最先进的自然语言处理
摘要
本文介绍了Transformers库，这是一个开源库，在统一API下提供最先进的Transformer架构和预训练模型，旨在使先进的自然语言处理对更广泛的机器学习社区可及。
查看缓存全文
缓存时间: 2026/07/20 15:25
论文页面 - HuggingFace Transformers：最先进的自然语言处理
来源：https://huggingface.co/papers/1910.03771
摘要
Transformers库通过统一API提供最先进的Transformer架构和预训练模型，用于自然语言处理任务，并强调可扩展性和稳健部署。
自然语言处理的最新进展得益于模型架构和模型预训练两方面的突破。Transformer架构（https://huggingface.co/papers?q=Transformer%20architectures）促进了更高容量模型的构建，而预训练则使得有效利用这种容量处理各种任务成为可能。Transformers是一个开源库，旨在将这些进展推广到更广泛的机器学习社区。该库包含精心设计的最先进Transformer架构（https://huggingface.co/papers?q=Transformer%20architectures），并采用统一API。支撑该库的是一系列精心策划的预训练模型（https://huggingface.co/papers?q=pretrained%20models），这些模型由社区创建并可供社区使用。Transformers设计为对研究人员可扩展（https://huggingface.co/papers?q=extensible），对从业者简单易用，并在工业部署中快速稳健。该库可从https://github.com/huggingface/transformers获取。
查看arXiv页面（https://arxiv.org/abs/1910.03771）查看PDF（https://arxiv.org/pdf/1910.03771）项目页面（https://huggingface.co/）GitHub 163k（https://github.com/huggingface/transformers）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F1910.03771）
社区
此评论已隐藏（标记为“偏离主题”）
·
此评论已隐藏
通过拖拽、粘贴或点击此处上传图片、音频和视频。
点击或粘贴此处上传图片
在您的agent中获取此论文：
hf papers read 1910.03771
没有最新的CLI？curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型24个
PJMixers-Images/Florence-2-base-Castollux-v0.5 图像到文本• 0.2B• 更新于2025年10月20日 • 225 • 6 (https://huggingface.co/PJMixers-Images/Florence-2-base-Castollux-v0.5)
Ian332/Helper_Bob 文本分类• 8B• 更新于2024年8月20日 • 3 (https://huggingface.co/Ian332/Helper_Bob)
PJMixers-Images/Florence-2-base-Castollux-v0.2 图像到文本• 0.3B• 更新于2025年6月27日 • 7 • 2 (https://huggingface.co/PJMixers-Images/Florence-2-base-Castollux-v0.2)
qanastek/FrenchMedMCQA-BioBERT-V1.1-Wikipedia-BM25 文本分类• 更新于2022年10月24日 • 3 • 1 (https://huggingface.co/qanastek/FrenchMedMCQA-BioBERT-V1.1-Wikipedia-BM25)
浏览24个引用此论文的模型 (https://huggingface.co/models?other=arxiv:1910.03771)## 引用此论文的数据集0个
没有数据集链接此论文
请在数据集的README.md中引用arxiv.org/abs/1910.03771以从此页面链接。
引用此论文的Spaces3个
包含此论文的收藏7个
浏览7个包含此论文的收藏 (https://huggingface.co/collections?paper=1910.03771)
相似文章
huggingface/transformers
Hugging Face Transformers 仓库，一个开源库，提供数千个用于自然语言处理任务的预训练 transformer 模型，支持 PyTorch、TensorFlow 和 JAX。
Transformers 现在支持 llama.cpp 量化模型
Hugging Face 的 Transformers 库现在支持来自 llama.cpp 的 GGUF 模型，通过熟悉的 API 实现消费级硬件上的高效本地推理。
@NielsRogge: 我们已在 Transformers 库中新增对 SAM-3 Lite-Text 的支持！> 将 SAM-3 中笨重的文本编码器替换为……
Hugging Face 的 Transformers 库新增了对 SAM-3 Lite-Text 的支持，将原本笨重的文本编码器替换为一个轻量的 MobileCLIP 学生模型，该模型通过知识蒸馏训练，在保持性能的同时将参数量减少了 88%。
huggingface/speech-to-speech
Hugging Face 的 speech-to-speech 是一个开源、模块化的语音代理流水线（VAD->STT->LLM->TTS），提供与 OpenAI Realtime 兼容的 WebSocket API，支持可交换的组件以及本地或托管模型。
@NFTCPS: 天天喊着搞AI，结果你连Transformer是个啥都说不清？ 有个仓库够狠，从零手搓一个GPT，不调任何高级库。Attention、多头、前馈、Embedding、残差、Layer Norm，怎么拼起来的全摊给你看。而且不止模型，整条链…
一个GitHub开源项目，从零实现完整的GPT训练流程，包含数据预处理、预训练、SFT和RLHF后训练，全部基于原生PyTorch，适合想深入理解Transformer原理的开发者。