yolov3环境配置训练及优化

科普

一、Ubuntu+cuda+cudnn+opencv+darknet/yolov3环境配置

1.NVIDIA显卡驱动安装

首先查看系统是否已经安装NVIDIA驱动,查看方式输入nvidia-smi无输出或系统信息没有显卡信息。
安装方式有ppa或官网下载驱动安装,再次之前可查看系统推荐驱动:

ubuntu-drivers devices


也可以在官网查看:https://www.geforce.cn/drivers

安装教程可参考这篇:https://blog.csdn.net/ghw15221836342/article/details/79571559网上大部分教程提示需要禁用nouveau,本人亲测关掉图形界面就可以,不需要禁用。

安装成功:nvidia-smi显示显卡信息,或系统信息有显卡graphics这栏,如下:


2.gcc降版本

cuda支持gcc/g++版本需要在6.0以下。******降版本需要注意删除原来连接
参考:https://blog.csdn.net/csdn_zhishui/article/details/83751120

3.安装cuda

查看显卡支持cuda版本
windows:(参考:https://blog.csdn.net/wangyjfrecky/article/details/55100963
控制面板->搜索NVIDIA->双击进入NVIDIA控制面板:
点击帮助->系统信息->组件


UBUNTU:参考(http://www.voidcn.com/article/p-ujjgjaae-xp.html)根据显卡型号选择
我选择cuda9.0 cuda9.0【点这下载

根据自己的系统选择,但必须选择runfile,因为之前已经安装过驱动,其他包会重复安装。可能导致循环登录。安装参考官网命令:

首先是协议,按enter到100%,是否安装驱动选择no,其他默认或自定。

InstallNVIDIA Accelerated GraphicsDriver for Linux-x86_64 384.81? 

此处选择no

此处需要安装四个打包文件patch,命令同上,安装后在根目录/usr/local下会有cuda-9.0和cuda两个文件夹。

若系统自带驱动符合要求,可以直接跳过驱动安装:

deb包安装教程

配置环境变量:
打开~/.bashrc文件,在末尾加入:

export PATH=/usr/local/cuda-9.0/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

***此处需要测试nvcc命令,若提示没有安装并建议安装nvidia-cuda-toolkit,可以重启电脑再试,run包安装时有选择cuda-toolkit安装,若重复安装,nvidia-cuda-toolkit自带415驱动,可能导致循环登录。正常安装后,nvcc输出:


具体可参考这篇博客:https://blog.csdn.net/jiangyanting2011/article/details/78873113

3.cudnn安装

cudnn安装比较简单,需注意和cuda版本匹配【下载地址

注册登录后下载

同参考这篇博客安装方式:https://blog.csdn.net/jiangyanting2011/article/details/78873113

4.opencv NVIDIA cuda版本编译安装

cuda9.0支持opencv3.4.0及之前的版本,opencv官网下载opencv,我选择3.4.0,

opencv各个版本下载地址

下载解压后进入目录 cd opencv-3.4.0

安装cmake 等一系列依赖包

$ sudo apt-get install build-essential
$ sudo apt-get install cmake git libgtk2.0-dev pkg-config libavcodec-dev    libavformat-dev libswscale-dev
$ sudo apt-get install python-dev python-numpy libtbb2 libtbb-dev libjpeg-dev   libpng-dev libtiff-dev libjasper-dev libdc1394-22-dev # 处理图像所需的包
$ sudo apt-get install libavcodec-dev libavformat-dev libswscale-dev libv4l-dev     liblapacke-dev
$ sudo apt-get install libxvidcore-dev libx264-dev # 处理视频所需的包
$ sudo apt-get install libatlas-base-dev gfortran # 优化opencv功能
$ sudo apt-get install ffmpeg

创建新文件夹来编译,否则会报错 ,进入目录

sudo mkdir build
cd build

编译 (无cuda版本可按网上教程来,此处为cuda版本)

$ cmake -D CMAKE_BUILD_TYPE=RELEASE \
-D CMAKE_INSTALL_PREFIX=/usr/local \
-D OPENCV_EXTRA_MODULES_PATH=~/opencv_contrib-3.4.0/modules \#若出错或无可去掉
-D PYTHON_EXCUTABLE=/usr/bin/python3\  #根据自己的Python版本确定,默认则安装到2.7版本
-D WITH_CUDA=ON \    #使用CUDA
-D WITH_TBB=ON \
-D BUILD_NEW_PYTHON_SUPPORT=ON \
-D WITH_V4L=ON \
-D WITH_GTK=ON \                #不加ubuntu cmake可能会报错
-D WITH_OPENGL=ON \
-D WITH_CUBLAS=ON \
-D DCUDA_NVCC_FLAGS="-D_FORCE_INLINES" \
-D CUDA_ARCH_BIN="6.1" \    #   [GPU计算能力](https://developer.nvidia.com/cuda-gpus)
-D CUDA_ARCH_PTX="" \   #线程并行计算`
-D BUILD_EXAMPLES=ON \
-D CUDA_GENERATION=Pascal ..   #自己显卡架构

完成后lscpu 查看电脑CPU核数



我的总共为4,接下来:

sudo make -j4

完成后安装

sudo make install

测试,无报错则安装成功

xiaose@lenovo:~$ python3
Python 3.6.7 (default, Oct 22 2018, 11:32:17) 
[GCC 8.2.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import cv2
>>> 

提示找不到cv2模块,安装

sudo apt-get install python3-opencv

重新编译报错解决:删除build同级目录下cache文件

5.darknet/yolov3 编译

YOLOv3官网【下载
打开Makefile,更改参数,根据自己环境修改参数

GPU=1
CUDNN=1
OPENCV=1
OPENMP=0
DEBUG=0

由于使用Pascal架构,需要在架构上加-gencode arch=compute_61,code=[sm_61,compute_61]

ARCH= -gencode arch=compute_30,code=sm_30 \
      -gencode arch=compute_35,code=sm_35 \
      -gencode arch=compute_50,code=[sm_50,compute_50] \
      -gencode arch=compute_52,code=[sm_52,compute_52] \
      -gencode arch=compute_61,code=[sm_61,compute_61]

修改nvcc路径,根据自己修改

NVCC=/usr/local/cuda-9.0/bin/nvcc

COMMON+,LDFLAGS+路径可为默认cuda或改为cuda-9.0

ifeq ($(GPU), 1) 
COMMON+= -DGPU -I/usr/local/cuda-9.0/include/
CFLAGS+= -DGPU
LDFLAGS+= -L/usr/local/cuda-9.0/lib64 -lcuda -lcudart -lcublas -lcurand
endif

修改完成后保存,执行

sudo make

若更改参数,重新编译 make clean 后make
测试,darknet目录下 ./darknet出现下图,编译成功

$ ./darknet
usage: ./darknet <function>

二、训练技巧、问题及解决办法:

1.xml标注文件转txt

可参考darknet源码scripts/voc_labels.py文件

2.更改测试label,box线条粗细及标签大小

image.c文件

3.训练图片集路径问题

原作者是将txt文件生成训练集路径



实测:将目录下图像生训练集路径文件train_image_path.txt,并将txt文件放到图片目录下一一对应

4. .cfg文件修改

batch=64
subdivisions=16

batch,subdivisions根据自己显存大小修改,并且batch/subdivisions最好为自己GPU数量的整数倍

learning_rate=0.001
burn_in=1000

多GPU训练时:learning_rate=0.001/gpus burn_in=1000*gpus 对于YOLO层

[convolutional]
size=1
stride=1
pad=1
filters=42
activation=linear

[yolo]
mask = 0,1,2
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=9
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=1

classes根据自己检测类别数更改,对应上一层卷积层filters=3×(5+num[classes])
anchors可以根据自己的样本聚类得到

5.cannot fopen ***.jpg/txt

检查对应训练集路径

6.cuda error: out of memory

改小batch/增大sudbivisions,或者关闭多尺度训练random=0

7.darknet: ./src/cuda.c:36: check_error: Assertion `0' failed.

(1)有out of memory错误:检查是否有图像读取错误或同6
(2)无out of memory 错误:Makefile中arch架构与自己显卡架构不匹配,参照安装方法重新编译。
一般来说,也可能是类别数和yolo层filters不匹配

8.训练开始一段时间后出现loss=nan 、IOU=nan ,其他参数全为0的情况

确保cfg文件是train模式,batch、subdivisions不全为1,查看自己训练集txt是否为空
若为多GPU训练,按上述设置参数,防止陷入局部极值点或loss及IOU计算错误。

9.obj和no obj同时下降

使用初始权重darknet53.conv.74或YOLOv3.weights训练时,由于与作者训练集样本结构不同,为 正常现象,若全降为0后不上升,出现大片nan和0,根据多GPU训练修改参数或将batch增大到128及以上

10.测试权重需要关闭训练

11.修改cfg文件不需要重新编译,修改源码需要重新编译

12.训练权重在训练的电脑上可以检测出目标,但换一台机器后无法检测出目标的问题

确保gcc/g++降版本的时候删掉了原来的连接,根据自己的显卡,选择相应的fermi/kepler/maxwell/pascal/turing架构,并根据计算能力选择arch=xx后重新编译

13. No input parameters supplied: Success darknet: ./src/utils.c:256: error: Assertion `0' failed.Aborted (core dumped)

首先加sudo权限,报错找不到libcudart.so.9.0,【解决办法
若不能解决,则可能为darknet自身问题【参考】重新编译darknet

优化

根据官方参考文档
1. 在.cfg文件中设置random=1,可以增加检测精度。
2. 增加input图像尺寸,在.cfg文件中设置(height=608,heigh=608)以上,可以增加检测精度
3. 对.cfg文件中的anchors重新进行聚类
4. 确保数据集中所有的class都有对应的label,检测你的数据集可以使用https://github.com/AlexeyAB/Yolo_mark
5. 所使用的数据集包括同一物体在不同角度、光照、背景、大小下的图片,并且确保训练2000**classes个iterations以上。
6. 确保生成的txt文档不为空
其他详见官方参考文档

参考:

https://blog.csdn.net/ghw15221836342/article/details/79571559

https://blog.csdn.net/wangyjfrecky/article/details/55100963

https://blog.csdn.net/qq_35976351/article/details/79325476

https://blog.csdn.net/jiangyanting2011/article/details/78873113

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,026评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,655评论 1 296
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,726评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,204评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,558评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,731评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,944评论 2 314
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,698评论 0 203
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,438评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,633评论 2 247
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,125评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,444评论 3 255
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,137评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,103评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,888评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,772评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,669评论 2 271