Datasets:

HuggingFace-CN-community
/

translation

@@ -1,44 +1,38 @@
-# 30分钟吃掉accelerate模型训练加速工具
-accelerate 是huggingface开源的一个方便将pytorch模型迁移到 GPU/multi-GPUs/TPU/fp16/bf16 模式下训练的小巧工具。
-和标准的 pytorch 方法相比，使用accelerate 进行多GPU DDP模式/TPU/fp16/bf16 训练你的模型变得非常简单，而且训练速度非常快。
-官方范例：https://github.com/huggingface/accelerate/tree/main/examples
-本文将以一个图片分类模型为例，演示在accelerate的帮助下使用pytorch编写一套可以在 cpu/单GPU/多GPU(DDP)模式/TPU 下通用的训练代码。
-在我们的演示范例中，在kaggle的双GPU环境下，双GPU(DDP)模式是单GPU训练速度的1.6倍，加速效果非常明显。
-DP和DDP的区别
-* DP(DataParallel）：实现简单但更慢。只能单机多卡使用。GPU分成server节点和worker节点，有负载不均衡。
-* DDP(DistributedDataParallel)：更快但实现麻烦。可单机多卡也可多机多卡。各个GPU是平等的，无负载不均衡。
-参考文章：《pytorch中的分布式训练之DP VS DDP》https://zhuanlan.zhihu.com/p/356967195
 ```python
-#从git安装最新的accelerate仓库
 !pip install git+https://github.com/huggingface/accelerate
 ```
-kaggle 源码：https://www.kaggle.com/code/lyhue1991/kaggle-ddp-tpu-examples
-## 一，使用 CPU/单GPU 训练你的pytorch模型
-当系统存在GPU时，accelerate 会自动使用GPU训练你的pytorch模型，否则会使用CPU训练模型。
 ```python
 import os,PIL
@@ -162,7 +156,6 @@ def training_loop(epochs = 5,
 #training_loop(epochs = 5,lr = 1e-3,batch_size= 1024,ckpt_path = "checkpoint.pt",
 #             mixed_precision="no")
 ```
 ```python
@@ -172,25 +165,23 @@ training_loop(epochs = 5,lr = 1e-4,batch_size= 1024,
 ```
 ```
 device cuda is used!
 epoch【0】@2023-01-15 12:06:45 --> eval_metric= 95.20%
 epoch【1】@2023-01-15 12:07:01 --> eval_metric= 96.79%
 epoch【2】@2023-01-15 12:07:17 --> eval_metric= 98.47%
 epoch【3】@2023-01-15 12:07:34 --> eval_metric= 98.78%
 epoch【4】@2023-01-15 12:07:51 --> eval_metric= 98.87%
 ```
-## 二，使用多GPU DDP模式训练你的pytorch模型
-Kaggle中右边settings 中的 ACCELERATOR选择 GPU T4x2。
-### 1，设置config
 ```python
 import os
@@ -227,12 +218,12 @@ os._exit(0) # Restart the notebook to reload info from the latest config file
 ```
-### 2，训练代码
 与之前代码完全一致。
-如果是脚本方式启动，需要将训练代码写入到脚本文件中，如cv_example.py
 ```python
 %%writefile cv_example.py
@@ -360,10 +351,10 @@ training_loop(epochs = 5,lr = 1e-4,batch_size= 1024,ckpt_path = "checkpoint.pt",
 ```
-### 3，执行代码
-**方式1，在notebook中启动**
 ```python
 from accelerate import notebook_launcher
@@ -389,8 +380,7 @@ epoch【4】@2023-01-15 12:11:30 --> eval_metric= 98.32%
 ```
-**方式2，accelerate方式执行脚本**
 ```python
 !accelerate launch ./cv_example.py
@@ -406,10 +396,10 @@ epoch【4】@2023-02-03 11:38:43 --> eval_metric= 98.38%
 ```
-**方式3，torch方式执行��本**
 ```python
-# or traditional pytorch style
 !python -m torch.distributed.launch --nproc_per_node 2 --use_env ./cv_example.py
 ```
@@ -424,13 +414,13 @@ epoch【4】@2023-01-15 12:19:10 --> eval_metric= 98.51%
-## 三，使用TPU加速你的pytorch模型
-Kaggle中右边settings 中的 ACCELERATOR选择 TPU v3-8。
-### 1，安装torch_xla
 ```python
 #安装torch_xla支持
@@ -449,7 +439,7 @@ Kaggle中右边settings 中的 ACCELERATOR选择 TPU v3-8。
 import torch_xla
 ```
-### 2，训练代码
 和之前代码完全一样。
@@ -579,7 +569,7 @@ def training_loop(epochs = 5,
 ```
-### 3，启动训练
 ```python
 from accelerate import notebook_launcher
@@ -593,5 +583,4 @@ notebook_launcher(training_loop, args, num_processes=8)
 ```
-作者介绍：吃货本货。算法工程师，擅长数据挖掘和计算机视觉算法。eat pytorch/tensorflow/pyspark 系列github开源教程的作者。

+# 30 分钟吃掉 Accelerate 模型训练加速工具
+🤗 Accelerate 是 Hugging Face 开源的一个方便将 PyTorch 模型迁移到 GPU/multi-GPUs/TPU/fp16/bf16 模式下训练的小巧工具。
+和标准的 PyTorch 方法相比，使用 Accelerate 进行多 GPU DDP 模式/TPU/fp16/bf16 训练你的模型变得非常简单，而且训练速度非常快。
+官方范例：<url>https://github.com/huggingface/accelerate/tree/main/examples</url>
+本文将以一个图片分类模型为例，演示在 Accelerate 的帮助下使用 PyTorch 编写一套可以在 CPU、单 GPU、多 GPU (DDP) 模式、TPU 下通用的训练代码。
+在我们的演示范例中，在 Kaggle 的双 GPU 环境下，双 GPU (DDP) 模式是单 GPU 训练速度的 1.6 倍，加速效果非常明显。
+DP 和 DDP 的区别
+* DP (DataParallel)：实现简单但更慢。只能单机多卡使用。GPU 分成 server 节点和 worker 节点，有负载不均衡。
+* DDP (DistributedDataParallel)：更快但实现麻烦。可单机多卡也可多机多卡。各个 GPU 是平等的，无负载不均衡。
+参考文章：《PyTorch 中的分布式训练之 DP vs. DDP》<url>https://zhuanlan.zhihu.com/p/356967195</url>
 ```python
+#从 git 安装最新的 accelerate 仓库
 !pip install git+https://github.com/huggingface/accelerate
 ```
+Kaggle 源码：https://www.kaggle.com/code/lyhue1991/kaggle-ddp-tpu-examples
+## 一、使用 CPU / 单 GPU 训练你的 PyTorch 模型
+当系统存在 GPU 时，Accelerate 会自动使用 GPU 训练你的 PyTorch 模型，否则会使用 CPU 训练模型。
 ```python
 import os,PIL
 #training_loop(epochs = 5,lr = 1e-3,batch_size= 1024,ckpt_path = "checkpoint.pt",
 #             mixed_precision="no")
 ```
 ```python
 ```
 ```
 device cuda is used!
 epoch【0】@2023-01-15 12:06:45 --> eval_metric= 95.20%
 epoch【1】@2023-01-15 12:07:01 --> eval_metric= 96.79%
 epoch【2】@2023-01-15 12:07:17 --> eval_metric= 98.47%
 epoch【3】@2023-01-15 12:07:34 --> eval_metric= 98.78%
 epoch【4】@2023-01-15 12:07:51 --> eval_metric= 98.87%
 ```
+## 二、使用多 GPU DDP 模式训练你的 PyTorch 模型
+Kaggle 中右边 settings 中的 ACCELERATOR 选择 GPU T4x2。
+### 1. 设置 config
 ```python
 import os
 ```
+### 2. 训练代码
 与之前代码完全一致。
+如果是脚本方式启动，需要将训练代码写入到脚本文件中，如 `cv_example.py`
 ```python
 %%writefile cv_example.py
 ```
+### 3. 执行代码
+**方式 1: 在 Notebook 中启动**
 ```python
 from accelerate import notebook_launcher
 ```
+**方式 2: Accelerate 方式执行脚本**
 ```python
 !accelerate launch ./cv_example.py
 ```
+**方式 3: PyTorch 方式执行脚本**
 ```python
+# or traditional PyTorch style
 !python -m torch.distributed.launch --nproc_per_node 2 --use_env ./cv_example.py
 ```
+## 三、使用 TPU 加速你的 PyTorch 模型
+Kaggle 中右边 Settings 中的 ACCELERATOR 选择 TPU v3-8。
+### 1. 安装 `torch_xla`
 ```python
 #安装torch_xla支持
 import torch_xla
 ```
+### 2. 训练代码
 和之前代码完全一样。
 ```
+### 3. 启动训练
 ```python
 from accelerate import notebook_launcher
 ```
+作者介绍：吃货本货。算法工程师，擅长数据挖掘和计算机视觉算法。eat pytorch/tensorflow/pyspark 系列 GitHub 开源教程的作者。