2. 开发环境介绍¶
2.1. RKNN开发环境¶
在PC端主要是进行模型训练和模型转换等, 可以选择Windows系统,或者Windows上的虚拟机ubuntu,Docker的linux系统,或者云服务器等等。
在PC端需要安装常用软件和库,比如pycharm、Python、交叉编译器等, 安装一些深度学习框架,比如Pytorch,TensorFlow,PaddlePaddle等等。 各种软件的使用,建议创建虚拟环境来隔离,常用Python 虚拟环境和Anaconda或者Miniconda。
在鲁班猫板卡上,系统使用Ubuntu或者debian,内核默认适配rknn驱动,其他rknn相关组件均包含,如果需要更新请参考后面相关教程。 另外,还有一些常用的软件和库,例如python,cmake,make,gcc,opencv等等。
后面教程测试,PC端是使用 WSL2 (可以结合pycharm使用等等), 进行模型训练和转换,鲁班猫板卡系统是以Debian11、ubuntu20.04为主,进行部署推理测试。
2.2. RKNN开发流程¶
深度学习模型工作流程大致可分为训练和推理,而在板块上部署模型,具体的步骤如下:
模型训练,模型训练前需要根据具体项目问题,选择模型,数据采集,然后使用适合的深度学习框架进行模型训练, 其中关于RKNN模型算子的支持请参考 RKNN_Compiler_Support_Operator_List 。
模型转换,将训练的深度学习模型会被转化为RKNN格式的模型。
模型评估,将使用RKNN-Toolkit2工具量化和分析模型性能,包括精度、连板推理性能和内存占用等关键指标, 根据模型的评估尝试修改和优化模型,一些模型的优化可以参考下 RKNPU_User_Guide_RKNN_SDK 。
板端推理,将转换的RKNN模型部署到板卡上,具体可以查看下rknpu运行库和 RKNN-Toolkit-lite2 的使用。
2.3. 相关软件安装¶
以下软件和工具都是在个人电脑上安装。
2.3.1. Anaconda安装¶
Anaconda是可以便捷获取包且对包能够进行管理,同时对环境可以统一管理的发行版本。Anaconda包含了conda、Python在内的众多流行的科学计算、数据分析包。
Anaconda安装可以从官网网页直接下载,打开 https://www.anaconda.com/download#downloads ,根据系统选择不同的版本安装, 教程测试使用ubuntu20.04,选择linux的安装包:
或者使用下面命令直接获取安装包:
wget https://repo.anaconda.com/archive/Anaconda3-2023.07-2-Linux-x86_64.sh
如果下载很慢,安装包也可以从镜像源获取,打开网址 https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/ ,选择对应的版本。 获取安装包后,在linux系统中使用默认shell执行下面命令安装:
./Anaconda3-2023.07-2-Linux-x86_64.sh
然后回车,一直往下滑动看完license,最后输入yes后,继续按下回车,然后进入安装,安装完成后输入yes初始化anaconda3:
# ...省略
The following packages listed on https://www.anaconda.com/cryptography are included in the repository accessible through Anaconda Distribution
that relate to cryptography.
Last updated February 25, 2022
Do you accept the license terms? [yes|no]
[no] >>> yes
Anaconda3 will now be installed into this location:
/home/llh/anaconda3
- Press ENTER to confirm the location
- Press CTRL-C to abort the installation
- Or specify a different location below
[/home/llh/anaconda3] >>>
PREFIX=/home/llh/anaconda3
Unpacking payload ...
Installing base environment...
Downloading and Extracting Packages
Downloading and Extracting Packages
Preparing transaction: done
Executing transaction: |
Installed package of scikit-learn can be accelerated using scikit-learn-intelex.
More details are available here: https://intel.github.io/scikit-learn-intelex
For example:
$ conda install scikit-learn-intelex
$ python -m sklearnex my_application.py
done
installation finished.
Do you wish the installer to initialize Anaconda3
by running conda init? [yes|no]
[no] >>> yes
no change /home/llh/anaconda3/condabin/conda
no change /home/llh/anaconda3/bin/conda
no change /home/llh/anaconda3/bin/conda-env
no change /home/llh/anaconda3/bin/activate
no change /home/llh/anaconda3/bin/deactivate
no change /home/llh/anaconda3/etc/profile.d/conda.sh
no change /home/llh/anaconda3/etc/fish/conf.d/conda.fish
no change /home/llh/anaconda3/shell/condabin/Conda.psm1
no change /home/llh/anaconda3/shell/condabin/conda-hook.ps1
no change /home/llh/anaconda3/lib/python3.11/site-packages/xontrib/conda.xsh
no change /home/llh/anaconda3/etc/profile.d/conda.csh
modified /home/llh/.bashrc
==> For changes to take effect, close and re-open your current shell. <==
If you'd prefer that conda's base environment not be activated on startup,
set the auto_activate_base parameter to false:
conda config --set auto_activate_base false
Thank you for installing Anaconda3!
重启系统或者使用命令source ~/.bashrc 后打开终端会进入默认anaconda环境里(命令行提示符前面有一个base),就可以使用conda来创建虚拟环境和包管理:
# 重启或者使用命令source ~/.bashrc进入anaconda环境
source ~/.bashrc
# 下面列出一些常用conda命令,更多命令参考conda --help
# 创建一个环境,env_name是环境名称,后面可以指定python的版本等等
conda create -n env_name ....
# 列出创建的虚拟环境
#conda env list
conda info --envs
# 激活环境,不指定env_name时,默认进入base环境
conda activate env_name
# 移除环境,其中env_name是环境名称
conda remove -n env_name --all
# 退出当前conda环境
conda deactivate
# 每次开启终端都会默认进入anaconda环境,使用下面命令后重启就不会默认启动虚拟环境
conda config --set auto_activate_base false
默认Anaconda安装会带很多默认的库,要轻量版的可以使用 Miniconda , 默认只包含了python和conda,通过pip和conda来安装所需要的包。可以点击 链接 去下载安装,安装和使用操作类似。
Anaconda配置使用国内镜像源(可选):
# 查看默认的源
conda config --show channels
# 使用清华源,也可以自行添加其他第三方源等等
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
conda config --set custom_channels.auto https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/
conda config --set show_channel_urls yes
Anaconda清华源的使用请参考下:https://mirrors.tuna.tsinghua.edu.cn/help/anaconda 。
2.3.2. rknn-toolkit2安装¶
RKNN Toolkit2 开发套件运行在PC x86_64平台上,提供了模型转换、量化功能、模型推理、性能和内存评估、量化精度分析、模型加密等功能。
rknn-toolkit2安装可以参考下后面 RKNN Toolkit2介绍 章节, 或者参考下这里使用Anaconda(教程测试时toolkit2的版本是1.6.0):
# 创建一个名为toolkit2_1.6的环境,并指定python版本,
conda create -n toolkit2_1.6 python=3.8
conda activate toolkit2_1.6
# 拉取toolkit2源码
git clone https://github.com/airockchip/rknn-toolkit2
# 配置pip源
pip3 config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple/
# pip安装指定版本的库(教程测试时toolkit2版本是1.6.0,请根据python版本选择文件安装)
cd rknn-toolkit2
pip3 install -r packages/requirements_cp38-1.6.0.txt
# 需要根据python版本和rknn_toolkit2版本选择whl文件,例如这里创建的是python3.8环境,使用带”cp38”的whl文件。
pip3 install packages/rknn_toolkit2-1.6.0+81f21f4d-cp38-cp38-linux_x86_64.whl
安装成功后会显示Successfully,我们也可以简单测试下:
(toolkit2_1.5) llh@YH-LONG:/xxx$ python
Python 3.8.18 (default, Sep 11 2023, 13:40:15)
[GCC 11.2.0] :: Anaconda, Inc. on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> from rknn.api import RKNN
>>> rknn = RKNN()
W __init__: rknn-toolkit2 version: 1.6.0+81f21f4d
>>>
2.3.3. Jupyter Notebook安装¶
Jupyter Notebook是基于网页的用于交互计算的应用程序。 Jupyter Notebook以网页的形式打开,能够在每条命令编写好后,实时地查看到代码执行后的数据变化, 如在编程过程中需要编写说明文档,可在同一个页面中直接编写,便于作及时的说明和解释。
教程中一些章节有Jupyter Notebook文件,可以使用conda命令安装Jupyter Notebook,然后查看或者操作。
# 在一个环境中安装Jupyter
conda install jupyter notebook
也可以使用pip3安装:
# 安装Jupyter
pip3 install jupyter -i https://pypi.tuna.tsinghua.edu.cn/simple
详细修改配置,可以参考下 Jupyter官网 或者 参考下 https://doc.embedfire.com/linux/rk356x/Python/zh/latest/toolpackages/jupyter.html 。
2.3.4. 一些深度学习框架的安装¶
下面将演示一些深度学习框架的安装,具体详情可以参考下深度学习框架对应的官网。
1、paddlepaddle的安装
这里演示conda安装paddlepaddle,具体命令参考下 官网 选择对应的版本,操作系统,conda安装方式以及计算平台,就可得到对应的安装命令:
# 使用conda创建一个名为paddle的环境,并指定python版本
conda activate
conda create -n paddle python=3.8
# 进入环境
conda activate paddle
# 安装最新版本的paddlepaddle计算平台是cpu(测试安装时最新版本是2.5.1)
conda install paddlepaddle==2.5.1 --channel https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/
# 验证安装成功,检测版本
python3 -c "import paddle;paddle.utils.run_check()"
如果要安装gpu版本,英伟达GPU,先使用命令nvidia-smi查看cuda支持的最高版本, 如果没有该命令需要更新或者安装下 显卡驱动 。
PS C:\Users\Administrator> nvidia-smi
Thu Sep 7 16:45:29 2023
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 474.14 Driver Version: 474.14 CUDA Version: 11.4 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... WDDM | 00000000:01:00.0 N/A | N/A |
| 40% 0C P0 N/A / N/A | 715MiB / 2048MiB | N/A Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| No running processes found |
+-----------------------------------------------------------------------------+
提示
如果是WSL2,只需要windows下安装最新的nvidia显卡驱动,就可以在WSL2中使用nvidia-smi命令,在WSL2中安装CUDA,请参考下 NVIDIA CUDA in WSL 。
查看上面显示支持的最高版本CUDA,然后找paddlepaddle支持该CUDA版本以下的安装命令,然后安装paddlepaddle:
# 使用conda创建一个名为paddle_gpu的环境,并指定python版本
conda create -n paddle_gpu python=3.8
# 进入环境
conda activate paddle_gpu
# 安装gpu版本的paddlepaddle,cuda版本为11.2
conda install paddlepaddle-gpu==2.5.1 cudatoolkit=11.2 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge
# 验证安装成功,检测版本
python3 -c "import paddle;paddle.utils.run_check()"
也可以自行安装CUDA和cudnn(这时需要注意实际使用的是Conda中安装cuda和自己安装cuda), 参考下网址:https://developer.nvidia.com/cuda-toolkit-archive 、https://developer.nvidia.com/rdp/cudnn-archive 。
2、TensorFlow安装
可以使用python3-venv或者anaconda创建一个虚拟环境,然后使用pip安装。
使用python虚拟环境:
# 安装python,更新pip,需要使用Python 3.6-3.9 和 pip 19.0及更高版本
sudo apt update
sudo apt install python3-dev python3-pip python3-venv
sudo python3 -m pip install pip --upgrade
# 一般都创建一个虚拟环境使用
sudo python3 -m venv .tensorflow_venv
# 激活环境
source .tensorflow_venv/bin/activate
# 直接命令安装最新稳定版tensorfolw,也可以指定下以前版本(GPU和CPU版本已经合并),
# GPU版本使用需要安装CUDA和cudnn,参考下前面链接
pip3 install tensorflow
# 验证安装成功,查看版本
python3 -c "import tensorflow as tf;print(tf.__version__)"
或者使用conda创建一个虚拟环境:
# 使用conda创建一个名为paddle的环境,并指定python版本
conda create -n TensorFlow python=3.8
# 进入环境
conda activate TensorFlow
# 直接命令安装最新稳定版tensorfolw,也可以指定下以前版本(GPU和CPU版本已经合并),
# GPU版本使用需要安装CUDA和cudnn,参考下前面链接
pip3 install tensorflow
# 验证安装成功,查看版本
python3 -c "import tensorflow as tf;print(tf.__version__)"
更多安装参考下 https://tensorflow.google.cn/install?hl=zh-cn 。
提示
使用pip3安装包时可能很慢,可以设置下源,使用命令 pip3 config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
3、pytorch安装
安装pytorch,可以参考下 官网,选择对应版本,系统,语言,cuda,然后查看安装命令:
没有符合要求的,也可以点击上面的安装以前的版本。下面用Conda创建虚拟环境,然后使用pip安装pytorch:
# 使用conda创建一个名为pytorch的环境,并指定python版本
conda create -n pytorch python=3.8
# 进入环境
conda activate pytorch
# 这里使用pip3安装最新版本的pytorch计算平台是gpu,你也可以查看pytorch官网,根据自己系统环境选择安装命令
pip3 install torch torchvision torchaudio
# 验证安装成功,检测版本,也可以使用conda list查看
python3 -c "import torch;print(torch.__version__)"
# 如果是安装gpu版本的,检测是否可用,正常就输出True
python3 -c "import torch;print(torch.cuda.is_available())"