# 快速入门

本快速入门面向准备深入代码、查看如何将 🤗 Datasets 集成到模型训练工作流中的开发者。如果您是初学者，我们建议从我们的 [教程](./tutorial) 开始，那里有更全面的介绍。

每个数据集都是独特的，具体任务可能要求对某些数据集执行额外的步骤才能用于训练。不过，你始终可以使用 🤗 Datasets 工具来加载和处理数据集。最快、最简单的入门方式是从 [Hugging Face Hub](https://huggingface.co/datasets) 加载一个现有的数据集。这里有数千个数据集可供选择，涵盖多种任务。选择你想要处理的数据集类型，让我们开始吧！

  
    <a class="!no-underline border dark:border-gray-700 p-5 rounded-lg shadow hover:shadow-lg" href="#audio"
    >
      
        音频
      
      
        对音频数据集进行重采样，使其准备好供模型对通话者咨询的银行问题类型进行分类。
      
    
    <a class="!no-underline border dark:border-gray-700 p-5 rounded-lg shadow hover:shadow-lg" href="#vision"
    >
      
        视觉
      
      
        对图像数据集应用数据增强，使其能够用于训练模型来诊断豆类植物的疾病。
      
    
    <a class="!no-underline border dark:border-gray-700 p-5 rounded-lg shadow hover:shadow-lg" href="#nlp"
    >
      
        NLP
      
      
        对数据集进行分词，使其准备好供模型判断一对句子是否具有相同含义。
      
    
  

> [!TIP]
> 查看 Hugging Face 课程的 [第 5 章](https://huggingface.co/course/chapter5/1?fw=pt)，了解更多其他重要主题，例如加载远程或本地数据集、用于清理数据集的工具，以及创建自己的数据集。

首先安装 🤗 Datasets：

```bash
pip install datasets
```

🤗 Datasets 还支持音频和图像数据格式：

- 要处理音频数据集，请安装 [Audio](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Audio) 功能：

  ```bash
  pip install datasets[audio]
  ```

- 要处理图像数据集，请安装 [Image](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Image) 功能：

  ```bash
  pip install datasets[vision]
  ```

除了 🤗 Datasets，请确保已安装您首选的机器学习框架：

  ```bash pip install torch ```
  ```bash pip install tensorflow ```

## Audio

Audio datasets are loaded just like text datasets. However, an audio dataset is preprocessed a bit differently. Instead of a tokenizer, you'll need a [feature extractor](https://huggingface.co/docs/transformers/main_classes/feature_extractor#feature-extractor). An audio input may also require resampling its sampling rate to match the sampling rate of the pretrained model you're using. In this quickstart, you'll prepare the [MInDS-14](https://huggingface.co/datasets/PolyAI/minds14) dataset for a model train on and classify the banking issue a customer is having.

**1**. Load the MInDS-14 dataset by providing the [load_dataset()](/docs/datasets/v5.2.0/zh/package_reference/loading_methods#datasets.load_dataset) function with the dataset name, dataset configuration (not all datasets will have a configuration), and a dataset split:

```py
>>> from datasets import load_dataset, Audio

>>> dataset = load_dataset("PolyAI/minds14", "en-US", split="train")
```

**2**. 接下来，从 [🤗 Transformers](https://huggingface.co/transformers/) 库中加载预训练的 [Wav2Vec2](https://huggingface.co/facebook/wav2vec2-base) 模型及其对应的特征提取器。加载模型后看到关于某些权重未初始化的警告是完全正常的。这是预期行为，因为您正在加载该模型检查点以用于另一项任务的训练。

```py
>>> from transformers import AutoModelForAudioClassification, AutoFeatureExtractor

>>> model = AutoModelForAudioClassification.from_pretrained("facebook/wav2vec2-base")
>>> feature_extractor = AutoFeatureExtractor.from_pretrained("facebook/wav2vec2-base")
```

**3**. [MInDS-14](https://huggingface.co/datasets/PolyAI/minds14) 数据集卡片显示采样率为 8kHz，但 Wav2Vec2 模型是在 16kHz 采样率下预训练的。您需要使用 [cast_column()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.cast_column) 函数和 [Audio](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Audio) 特征对上采样 `audio` 列，以匹配模型的采样率。

```py
>>> dataset = dataset.cast_column("audio", Audio(sampling_rate=16000))
>>> dataset[0]["audio"]
<datasets.features._torchcodec.AudioDecoder object at 0x11642b6a0>
```

**4**. 创建一个函数，使用特征提取器对音频 `array` 进行预处理，并将序列截断和填充为整齐的矩形张量。需要记住的最重要的一点是，在特征提取器中调用音频 `array`，因为 `array`（即实际的语音信号）才是模型的输入。

一旦你拥有了预处理函数，就可以使用 [map()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.map) 函数来加速处理，将该函数应用于数据集中的示例批次。

```py
>>> def preprocess_function(examples):
...     audio_arrays = [x.get_all_samples().data for x in examples["audio"]]
...     inputs = feature_extractor(
...         audio_arrays,
...         sampling_rate=16000,
...         padding=True,
...         max_length=100000,
...         truncation=True,
...     )
...     return inputs

>>> dataset = dataset.map(preprocess_function, batched=True)
```

**5**. 使用 [rename_column()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.rename_column) 函数将 `intent_class` 列重命名为 `labels`，这是 [Wav2Vec2ForSequenceClassification](https://huggingface.co/docs/transformers/main/en/model_doc/wav2vec2#transformers.Wav2Vec2ForSequenceClassification) 中预期的输入名称：

```py
>>> dataset = dataset.rename_column("intent_class", "labels")
```

**6**. 根据您使用的机器学习框架设置数据集格式。

使用 [set_format()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.set_format) 函数将数据集格式设置为 `torch`，并指定要格式化的列。该函数会即时应用格式化。转换为 PyTorch 张量后，将数据集包装在 [`torch.utils.data.DataLoader`](https://alband.github.io/doc_view/data.html?highlight=torch%20utils%20data%20dataloader#torch.utils.data.DataLoader) 中：

```py
>>> from torch.utils.data import DataLoader

>>> dataset.set_format(type="torch", columns=["input_values", "labels"])
>>> dataloader = DataLoader(dataset, batch_size=4)
```

使用 🤗 Transformers 中的 `prepare_tf_dataset` 方法来准备数据集，使其兼容 TensorFlow 并可直接用于训练/微调模型。该方法将 HuggingFace [Dataset](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset) 封装为带有数据整理和批处理功能的 `tf.data.Dataset`，因此可以直接将其传递给 `fit()` 等 Keras 方法，而无需进一步修改。

```py
>>> import tensorflow as tf

>>> tf_dataset = model.prepare_tf_dataset(
...     dataset,
...     batch_size=4,
...     shuffle=True,
... )
```

**7**. 使用你的机器学习框架开始训练！查看 🤗 Transformers 的 [音频分类指南](https://huggingface.co/docs/transformers/tasks/audio_classification)，了解如何在音频数据集上端到端地训练模型。

## 视觉

图像数据集的加载方式与文本数据集相同。不过，你需要使用[特征提取器](https://huggingface.co/docs/transformers/main_classes/feature_extractor#feature-extractor)来预处理数据集，而不是分词器。在计算机视觉中，对图像应用数据增强是常见做法，旨在提高模型对过拟合的鲁棒性。你可以自由选择任何数据增强库，然后通过 🤗 Datasets 应用这些增强操作。在本快速入门中，你将加载[Beans](https://huggingface.co/datasets/beans)数据集，并将其准备好供模型训练，以从叶片图像中识别病害。

**1**. 通过向 [load_dataset()](/docs/datasets/v5.2.0/zh/package_reference/loading_methods#datasets.load_dataset) 函数提供数据集名称和数据集拆分来加载 Beans 数据集：

```py
>>> from datasets import load_dataset, Image

>>> dataset = load_dataset("AI-Lab-Makerere/beans", split="train")
```

大多数图像模型处理的是 RGB 图像。如果您的数据集中包含其他模式的图像，可以使用 [cast_column()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.cast_column) 函数将模式设置为 RGB：

```py
>>> dataset = dataset.cast_column("image", Image(mode="RGB"))
```

Beans 数据集仅包含 RGB 图像，因此此处无需执行此步骤。

**2**. 现在你可以使用任意库（[Albumentations](https://albumentations.ai/)、[imgaug](https://imgaug.readthedocs.io/en/latest/)、[Kornia](https://kornia.readthedocs.io/en/latest/)）添加一些数据增强。这里，你将使用 [torchvision](https://pytorch.org/vision/stable/transforms.html) 来随机更改图像的颜色属性：

```py
>>> from torchvision.transforms import Compose, ColorJitter, ToTensor

>>> jitter = Compose(
...     [ColorJitter(brightness=0.5, hue=0.5), ToTensor()]
... )
```

**3**. 创建一个函数，将你的转换应用于数据集并生成模型输入：`pixel_values`。

```python
>>> def transforms(examples):
...     examples["pixel_values"] = [jitter(image.convert("RGB")) for image in examples["image"]]
...     return examples
```

**4**. 使用 [with_transform()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.with_transform) 函数实时应用数据增强：

```py
>>> dataset = dataset.with_transform(transforms)
```

**5**. 根据您使用的机器学习框架设置数据集格式。

将数据集包装在 [`torch.utils.data.DataLoader`](https://alband.github.io/doc_view/data.html?highlight=torch%20utils%20data%20dataloader#torch.utils.data.DataLoader) 中。您还需要创建一个 collate 函数，将样本整理成批次：

```py
>>> from torch.utils.data import DataLoader

>>> def collate_fn(examples):
...     images = []
...     labels = []
...     for example in examples:
...         images.append((example["pixel_values"]))
...         labels.append(example["labels"])
...
...     pixel_values = torch.stack(images)
...     labels = torch.tensor(labels)
...     return {"pixel_values": pixel_values, "labels": labels}
>>> dataloader = DataLoader(dataset, collate_fn=collate_fn, batch_size=4)
```

使用 🤗 Transformers 中的 `prepare_tf_dataset` 方法来准备数据集，使其兼容 TensorFlow 并可直接用于训练/微调模型。该方法将 HuggingFace [Dataset](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset) 封装为带有数据整理和批处理功能的 `tf.data.Dataset`，因此可以直接将其传递给 `fit()` 等 Keras 方法，而无需进一步修改。

在开始之前，请确保已安装最新版本的 `albumentations` 和 `cv2`：

```bash
pip install -U albumentations opencv-python
```

```py
>>> import albumentations
>>> import numpy as np

>>> transform = albumentations.Compose([
...     albumentations.RandomCrop(width=256, height=256),
...     albumentations.HorizontalFlip(p=0.5),
...     albumentations.RandomBrightnessContrast(p=0.2),
... ])

>>> def transforms(examples):
...     examples["pixel_values"] = [
...         transform(image=np.array(image))["image"] for image in examples["image"]
...     ]
...     return examples

>>> dataset.set_transform(transforms)
>>> tf_dataset = model.prepare_tf_dataset(
...     dataset,
...     batch_size=4,
...     shuffle=True,
... )
```

**6**. 使用你的机器学习框架开始训练！查看 🤗 Transformers 的 [图像分类指南](https://huggingface.co/docs/transformers/tasks/image_classification)，了解如何在图像数据集上端到端地训练模型。

## NLP

文本需要通过 [tokenizer](https://huggingface.co/docs/transformers/main_classes/tokenizer) 分词为单个 token。在快速入门中，你将加载 [Microsoft Research Paraphrase Corpus (MRPC)](https://huggingface.co/datasets/nyu-mll/glue/viewer/mrpc) 训练数据集，以训练一个模型来判断一对句子是否具有相同的含义。

**1**. 通过向 [load_dataset()](/docs/datasets/v5.2.0/zh/package_reference/loading_methods#datasets.load_dataset) 函数提供数据集名称、数据集配置（并非所有数据集都有配置）和数据集拆分来加载 MRPC 数据集：

```py
>>> from datasets import load_dataset

>>> dataset = load_dataset("nyu-mll/glue", "mrpc", split="train")
```

**2**. 接下来，从 [🤗 Transformers](https://huggingface.co/transformers/) 库中加载预训练的 [BERT](https://huggingface.co/bert-base-uncased) 模型及其对应的分词器。加载模型后看到关于某些权重未初始化的警告是完全正常的。这是预期行为，因为您正在加载该模型检查点以用于另一项任务的训练。

```py
>>> from transformers import AutoModelForSequenceClassification, AutoTokenizer

>>> model = AutoModelForSequenceClassification.from_pretrained("bert-base-uncased")
>>> tokenizer = AutoTokenizer.from_pretrained("bert-base-uncased")
===PT-TF-SPLIT===
>>> from transformers import TFAutoModelForSequenceClassification, AutoTokenizer

>>> model = TFAutoModelForSequenceClassification.from_pretrained("bert-base-uncased")
>>> tokenizer = AutoTokenizer.from_pretrained("bert-base-uncased")
```

**3**. 创建一个用于对数据集进行分词（tokenize）的函数，同时应将文本截断并填充为整齐的矩形张量。分词器会在数据集中生成三个新列：`input_ids`、`token_type_ids` 和 `attention_mask`。这些就是模型的输入。

使用 [map()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.map) 函数，将分词函数应用于数据集中的示例批次，以加快处理速度：

```py
>>> def encode(examples):
...     return tokenizer(examples["sentence1"], examples["sentence2"], truncation=True, padding="max_length")

>>> dataset = dataset.map(encode, batched=True)
>>> dataset[0]
{'sentence1': 'Amrozi accused his brother , whom he called " the witness " , of deliberately distorting his evidence .',
'sentence2': 'Referring to him as only " the witness " , Amrozi accused his brother of deliberately distorting his evidence .',
'label': 1,
'idx': 0,
'input_ids': [  101,  7277,  2180,  5303,  4806,  1117,  1711,   117,  2292, 1119,  1270,   107,  1103,  7737,   107,   117,  1104,  9938, 4267, 12223, 21811,  1117,  2554,   119,   102, 11336,  6732, 3384,  1106,  1140,  1112,  1178,   107,  1103,  7737,   107, 117,  7277,  2180,  5303,  4806,  1117,  1711,  1104,  9938, 4267, 12223, 21811,  1117,  2554,   119,   102, 0, 0, ...],
'token_type_ids': [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, ...],
'attention_mask': [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, ...]}
```

**4**. 将 `label` 列重命名为 `labels`，这是 [BertForSequenceClassification](https://huggingface.co/docs/transformers/main/en/model_doc/bert#transformers.BertForSequenceClassification) 中预期的输入名称：

```py
>>> dataset = dataset.map(lambda examples: {"labels": examples["label"]}, batched=True)
```

**5**. 根据您使用的机器学习框架设置数据集格式。

使用 [with_format()](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset.with_format) 函数将数据集格式设置为 `torch`，并指定要格式化的列。该函数会即时应用格式化。转换为 PyTorch 张量后，将数据集包装在 [`torch.utils.data.DataLoader`](https://alband.github.io/doc_view/data.html?highlight=torch%20utils%20data%20dataloader#torch.utils.data.DataLoader) 中：

```py
>>> import torch

>>> dataset = dataset.select_columns(["input_ids", "token_type_ids", "attention_mask", "labels"])
>>> dataset = dataset.with_format(type="torch")
>>> dataloader = torch.utils.data.DataLoader(dataset, batch_size=32)
```

使用 🤗 Transformers 中的 `prepare_tf_dataset` 方法来准备数据集，使其兼容 TensorFlow 并可直接用于训练/微调模型。该方法将 HuggingFace [Dataset](/docs/datasets/v5.2.0/zh/package_reference/main_classes#datasets.Dataset) 封装为带有数据整理和批处理功能的 `tf.data.Dataset`，因此可以直接将其传递给 `fit()` 等 Keras 方法，而无需进一步修改。

```py
>>> import tensorflow as tf

>>> tf_dataset = model.prepare_tf_dataset(
...     dataset,
...     batch_size=4,
...     shuffle=True,
... )
```

**6**. 使用你的机器学习框架开始训练！查看 🤗 Transformers 的 [文本分类指南](https://huggingface.co/docs/transformers/tasks/sequence_classification)，了解如何在文本数据集上训练模型的端到端示例。

## 接下来是什么？

至此，🤗 Datasets 快速入门就完成了！你可以通过一个函数加载任何文本、音频或图像数据集，并使其准备好供模型训练使用。

作为下一步，请查看我们的[操作指南](./how_to)，学习如何执行更具体的任务，例如加载不同的数据集格式、对齐标签以及流式处理大型数据集。如果你想进一步了解 🤗 Datasets 的核心概念，不妨泡杯咖啡，阅读我们的[概念指南](./about_arrow)！

