Transformers documentation
🤗 Transformers 笔记本
快速入门
基类
模型
预处理器
推理
Pipeline API
生成 API
优化
与模型对话
服务
训练
硬件
量化
生态系统集成
资源
API
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.2).
🤗 Transformers 笔记本
您可以在这里找到 Hugging Face 提供的官方笔记本列表。
此外,我们还想在此列出社区创作的有趣内容。 如果您编写了利用 🤗 Transformers 的 notebook,并希望在此列出,请提交一个 Pull Request,以便将其收录到 Community notebooks 部分。
Hugging Face 的笔记本 🤗
文档笔记本
您可以将文档中的任意页面作为 Colab 中的 notebook 打开(相关页面上直接提供了按钮),如果您需要,它们也列在这里:
| Notebook | 描述 | |||
|---|---|---|---|---|
| 库快速入门 | Transformers 中各种 API 的介绍 | |||
| 任务概述 | 如何按任务运行 Transformers 库中的模型 | |||
| 预处理数据 | 如何使用分词器对数据进行预处理 | |||
| 微调预训练模型 | 如何使用 Trainer 对预训练模型进行微调 | |||
| 分词器概览 | 分词器算法之间的差异 | |||
| 多语言模型 | 如何使用该库的多语言模型 |
PyTorch 示例
自然语言处理
| Notebook | 描述 | |||
|---|---|---|---|---|
| 训练你的分词器 | 如何训练和使用您自己的分词器 | |||
| 训练你的语言模型 | 如何轻松开始使用 transformers | |||
| 如何在文本分类任务上微调模型 | 展示如何对数据进行预处理,并在任意 GLUE 任务上微调预训练模型。 | |||
| 如何在语言建模上微调模型 | 展示如何对数据进行预处理,并在因果语言建模或掩码语言建模任务上微调预训练模型。 | |||
| 如何在词元分类任务上微调模型 | 展示如何对数据进行预处理,并在命名实体识别(NER)和词性标注(PoS)等词元分类任务上微调预训练模型。 | |||
| 如何在问答任务上微调模型 | 展示如何对数据进行预处理,并在 SQUAD 上微调预训练模型。 | |||
| 如何在多选题上微调模型 | 展示如何对数据进行预处理,并在 SWAG 上微调预训练模型。 | |||
| 如何在翻译任务上微调模型 | 展示如何对数据进行预处理,并在 WMT 上微调预训练模型。 | |||
| 如何在摘要任务上微调模型 | 展示如何对数据进行预处理,并在 XSUM 上微调一个预训练模型。 | |||
| 如何从零开始训练语言模型 | 突出显示在自定义数据上有效训练 Transformer 模型的所有步骤 | |||
| 如何生成文本 | 如何使用 transformers 的不同解码方法进行语言生成 | |||
| Reformer | Reformer 如何突破语言建模的极限 |
计算机视觉
| Notebook | 描述 | |||
|---|---|---|---|---|
| 如何在图像分类上微调模型(Torchvision) | 展示如何使用 Torchvision 对数据进行预处理,并在图像分类任务上微调任意预训练的视觉模型 | |||
| 如何在图像分类任务上微调模型(Albumentations) | 展示如何使用 Albumentations 对数据进行预处理,并在图像分类任务上微调任意预训练的 Vision 模型 | |||
| 如何在图像分类任务上微调模型(Kornia) | 展示如何使用 Kornia 对数据进行预处理,并在图像分类任务上微调任意预训练的视觉模型 | |||
| 如何使用 OWL-ViT 执行零样本目标检测 | 展示如何使用文本查询在图像上执行零样本目标检测 | |||
| 如何微调图像描述模型 | 展示如何在自定义数据集上微调 BLIP 以进行图像描述 | |||
| 如何使用 Transformers 构建图像相似度系统 | 展示如何构建一个图像相似度系统 | |||
| 如何在语义分割任务上微调 SegFormer 模型 | 展示如何预处理数据,并在语义分割任务上微调预训练的 SegFormer 模型 | |||
| 如何在视频分类任务上微调 VideoMAE 模型 | 展示如何对数据进行预处理,并在视频分类任务上微调预训练的 VideoMAE 模型 |
音频
| Notebook | 描述 | ||
|---|---|---|---|
| 如何微调英语语音识别模型 | 展示如何对数据进行预处理,并在 TIMIT 上微调一个预训练的 Speech 模型 | ||
| 如何微调任意语言的语音识别模型 | 展示如何对数据进行预处理,并在 Common Voice 上微调一个多语言预训练的语音模型 | ||
| 如何在音频分类任务上微调模型 | 展示如何对数据进行预处理,并在关键词检测任务上微调预训练的 Speech 模型 |
生物序列
| Notebook | 描述 | ||
|---|---|---|---|
| 如何微调预训练蛋白质模型 | 了解如何对蛋白质进行分词,并对大型预训练蛋白质“语言”模型进行微调 | ||
| 如何生成蛋白质折叠 | 了解如何从蛋白质序列生成完整的蛋白质模型和 PDB 文件 | ||
| 如何微调 Nucleotide Transformer 模型 | 了解如何对 DNA 进行分词,并微调一个大型预训练 DNA“语言”模型 | ||
| 使用 LoRA 微调 Nucleotide Transformer 模型 | 以内存高效的方式训练更大的 DNA 模型 |
其他模态
| Notebook | 描述 | ||
|---|---|---|---|
| 概率时间序列预测 | 查看如何在自定义数据集上训练 Time Series Transformer |
实用笔记本
| Notebook | 描述 | ||
|---|---|---|---|
| 如何将模型导出为 ONNX | 突出介绍如何通过 ONNX 导出并运行推理工作负载 |
Optimum 笔记本
🤗 Optimum 是 🤗 Transformers 的扩展,提供了一组性能优化工具,可在目标硬件上以最高效率训练和运行模型。
| Notebook | 描述 | ||
|---|---|---|---|
| 如何使用 ONNX Runtime 对文本分类模型进行量化 | 展示如何使用 ONNX Runtime 对任意 GLUE 任务中的模型应用静态量化和动态量化。 | ||
| 如何使用 ONNX Runtime 对文本分类模型进行微调 | 展示如何使用 ONNX Runtime 对数据进行预处理,并在任意 GLUE 任务上微调模型。 | ||
| 如何使用 ONNX Runtime 对模型进行摘要任务微调 | 展示如何使用 ONNX Runtime 对数据进行预处理,并在 XSUM 上微调模型。 |
社区笔记本
社区开发的更多笔记本可在此处获取。
Update on GitHub