DeepSpeed 安装

虚拟环境Python版本建议安装3.8版本

首先克隆github中的DeepSpeed文件

git clone https://github.com/microsoft/DeepSpeed.git

文件下载完毕后进入DeepSpeed文件夹

cd DeepSpeed 

进入DeepSpeed文件夹后

./install.sh

耐心等待安装结束。

安装完成之后输入

ds_report

如果全部的都显示OKAY证明安装成功。如果有几个是NO的话那证明这几个文件安装失败，根据对应的WARNING在安装对应即可。

例如我安装时sparse_attn显示NO，我就根据WARNING的提示输入

pip install Cython
pip install torchsparseattn

然后在

ds_report

发现 sparse_attn变成了OKey