练习赛 钢铁缺陷检测挑战赛
练习赛 钢铁缺陷检测挑战赛
基于PaddleX的钢铁缺陷检测挑战赛实现方案
比赛链接 https://aistudio.baidu.com/aistudio/competition/detail/114
本程序是基于 https://aistudio.baidu.com/aistudio/projectdetail/442375 实现的钢铁缺陷检测挑战赛的目标识别代码,需要注意的是PaddleX已经推出2.0,有需要的小伙伴可以基于 https://aistudio.baidu.com/aistudio/projectdetail/2160238 更新一下操作内容
本文主要的代码篇幅在于进行数据预处理,真正的应用PaddleX的代码非常简单,并且新手友好!
根据官方文档,所有的PaddleX都由三步组成:
步骤 说明
第1步 定义transforms 用于定义模型训练、验证、预测过程中,输入图像的预处理和数据增强操作
第2步 定义datasets 用于定义模型要加载的训练、验证数据集
第3步 定义模型开始训练 选择需要的模型,进行训练
为了快速展示整个代码,代码中epoch为10,实际上我2021-08-29 16:21提交的csv对应的学习器使用epoch=300,得分为4.49872
epoch=300训练的模型保存在Trained300model.zip,想要验证训练后的模型效果直接解压,并在 章节:进行检测 将读取模型的代码model=pdx.load_model(saved_model_dir) 中的模型路径 saved_model_dir 换为解压后的模型路径即可。
如解压后模型路径为’Trained300model/output/yolov3_darknet53/best_model’ 则读取模型应写为 model = pdx.load_model(‘Trained300model/output/yolov3_darknet53/best_model’)
本文的代码流程为 准备工作(下载包+解压数据+其他准备工作)->正式进行训练工作(配置训练参数+训练)->预测->写文件
准备工作
安装需要的PaddleX版本
In [3]
安装paddlex
需要注意paddlex1对于版本有所要求,所以最好更新对应的包版本
!pip install “numpy<=1.19.5” -i https://mirror.baidu.com/pypi/simple
!pip install “paddlex<2.0.0” -i https://mirror.baidu.com/pypi/simple
解压数据
数据集已经直接被放在./work/目录下,直接解压即可
In [1]
解压文件并移除多余的目录
! unzip work/train.zip -d ./work/
! rm -f -r work/__MACOSX
! unzip work/test.zip -d ./work/
! rm -f -r work/__MACOSX
准备配置文件
PaddleX的使用需要提供分类标签文件label.txt
以及图片-xml的链接文件train_list.txt val_list.txt,分别用于验证和训练
下面将遍历训练图片并生成对应的train_list.txt val_list.txt
In [2]
import os
遍历训练集
name = [name for name in os.listdir(‘work/train/IMAGES’) if name.endswith(‘.jpg’)]
train_name_list=[]
for i in name:
tmp = os.path.splitext(i)
train_name_list.append(tmp[0])
构造图片-xml的链接文件ori_train.txt
with open(“./work/train/ori_train.txt”,“w”) as f:
for i in range(len(train_name_list)):
if i!=0: f.write(‘\n’)
line=‘IMAGES/’+train_name_list[i]+‘.jpg’+" "+“ANNOTATIONS/”+train_name_list[i]+‘.xml’
f.write(line)
构造label.txt
labels=[‘crazing’,‘inclusion’,‘pitted_surface’,‘scratches’,‘patches’,‘rolled-in_scale’]
with open(“./work/train/labels.txt”,“w”) as f:
for i in range(len(labels)):
line=labels[i]+‘\n’
f.write(line)
将ori_train.txt随机按照eval_percent分为验证集文件和训练集文件
eval_percent 验证集所占的百分比
import random
eval_percent=0.2;
data=[]
with open(“work/train/ori_train.txt”, “r”) as f:
for line in f.readlines():
line = line.strip(‘\n’)
data.append(line)
index=list(range(len(data)))
random.shuffle(index)
构造验证集文件
cut_point=int(eval_percent*len(data))
with open(“./work/train/val_list.txt”,“w”) as f:
for i in range(cut_point):
if i!=0: f.write(‘\n’)
line=data[index[i]]
f.write(line)
构造训练集文件
with open(“./work/train/train_list.txt”,“w”) as f:
for i in range(cut_point,len(data)):
if i!=cut_point: f.write(‘\n’)
line=data[index[i]]
f.write(line)
正式进行训练工作
引入包并设为GPU训练,如果没有GPU则使用CPU训练
In [2]
import matplotlib
matplotlib.use(‘Agg’)
import os
os.environ[‘CUDA_VISIBLE_DEVICES’] = ‘0’
import paddlex as pdx
定义图像处理流程transforms
直接对https://aistudio.baidu.com/aistudio/projectdetail/442375进行一个完整的复刻和抄袭,主要是进行一些数据增强的操作
In [3]
from paddlex.det import transforms
train_transforms = transforms.Compose([
transforms.MixupImage(mixup_epoch=250),
transforms.RandomDistort(),
transforms.RandomExpand(),
transforms.RandomCrop(),
transforms.Resize(target_size=608, interp=‘RANDOM’),
transforms.RandomHorizontalFlip(),
transforms.Normalize(),
])
eval_transforms = transforms.Compose([
transforms.Resize(target_size=608, interp=‘CUBIC’),
transforms.Normalize(),
])
定义数据集Dataset
这里还是对参考代码的抄袭,但是要把训练集等的配置路径全部换成我们之前定义好的路径
In [4]
train_dataset = pdx.datasets.VOCDetection(
data_dir=‘work/train’,
file_list=‘work/train/train_list.txt’,
label_list=‘work/train/labels.txt’,
transforms=train_transforms,
shuffle=True)
eval_dataset = pdx.datasets.VOCDetection(
data_dir=‘work/train’,
file_list=‘work/train/val_list.txt’,
label_list=‘work/train/labels.txt’,
transforms=eval_transforms)
2021-08-29 12:24:32 [INFO] Starting to read file list from dataset…
2021-08-29 12:24:33 [INFO] 1120 samples in file work/train/train_list.txt
creating index…
index created!
2021-08-29 12:24:33 [INFO] Starting to read file list from dataset…
2021-08-29 12:24:34 [INFO] 280 samples in file work/train/val_list.txt
creating index…
index created!
正式训练
下面直接一键训练,在至尊版GPU上,我测试时使用epochs=300大约需要3h时间,下面为了快速看到效果,直接设置epoch=10
In [5]
num_classes = len(train_dataset.labels)
model = pdx.det.YOLOv3(num_classes=num_classes, backbone=‘DarkNet53’)
model.train(
num_epochs=10,
train_dataset=train_dataset,
train_batch_size=8,
eval_dataset=eval_dataset,
learning_rate=0.000125,
lr_decay_epochs=[210, 240],
save_interval_epochs=200,
save_dir=‘output/yolov3_darknet53’,
use_vdl=True)
进行预测
在这一步可以刷新内存,甚至重启了!因为刚刚的训练过程已经将模型保存了,之后直接读入就好。
遍历文件夹获得需要检测的图片列表
test数据是在之前和train数据一起解压的,这里就直接遍历文件夹即可~
如果有小伙伴为了保护存储器删除了数据,还请重新解压一次如果一路运行下来什么都没进行操作就直接运行就可以了
In [1]
import os
name = [name for name in os.listdir(‘work/test/IMAGES’) if name.endswith(‘.jpg’)]
test_name_list=[]
for i in name:
tmp = os.path.splitext(i)
test_name_list.append(tmp[0])
进行检测
有时候重启后会读入错误,可以等会儿或者刷新页面,因为之前训练的文件需要一段时间之后才能在notebook中同步成功。
模型预测结果为: [{‘category_id’: int64, ‘bbox’: float:[x,y,x_length,y_length], ‘score’: float, ‘category’: str}, {‘category_id’: int64, ‘bbox’: float:[x,y,x_length,y_length], ‘score’: float, ‘category’: str},…]
其中,category_id是编号,bbox是锚框,score是置信度,category是类别名称。需要注意bbox的格式和题目中格式不同,这里分别表明了框的左上角坐标,以及长宽长度,题目要求为左上角坐标和右下角坐标;这里的编号和题目中编号并不对应,所以需要根据类别信息进行转化。
In [4]
import paddlex as pdx
读取模型
model = pdx.load_model(‘output/yolov3_darknet53/best_model’)
建立一个标号和题目要求的id的映射
num2index={‘crazing’:0,‘inclusion’:1,‘pitted_surface’:2,‘scratches’:3,‘patches’:4,‘rolled-in_scale’:5}
result_list = []
将置信度较好的框写入result_list
for index in test_name_list:
image_name = ‘work/test/IMAGES/’+index+‘.jpg’
predicts = model.predict(image_name)
for predict in predicts:
if predict[‘score’]<0.5: continue;
# 将bbox转化为题目中要求的格式
tmp=predict[‘bbox’]
tmp[2]+=tmp[0]
tmp[3]+=tmp[1]
line=[index,tmp,num2index[predict[‘category’]],predict[‘score’]]
result_list.append(line)
2021-08-29 17:48:51 [INFO] Model[YOLOv3] loaded.
将结果写入目标文件
将上述list转化为csv就可以直接提交了!
In [5]
import numpy as np
result_array = np.array(result_list)
import pandas as pd
df = pd.DataFrame(result_array,columns=[‘image_id’,‘bbox’,‘category_id’,‘confidence’])
df.to_csv(‘submission.csv’,index=None)
/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/ipykernel_launcher.py:2: VisibleDeprecationWarning: Creating an ndarray from ragged nested sequences (which is a list-or-tuple of lists-or-tuples-or ndarrays with different lengths or shapes) is deprecated. If you meant to do this, you must specify ‘dtype=object’ when creating the ndarray.
结果可视化
结果可视化并不是本题的需求,但是根据测试结果进行可视化观察是非常有意义的~
这里我保存了epoch=300的训练后模型,来看看模型的运行效果吧~
In [16]
!unzip -oq /home/aistudio/Trained300model.zip -d /home/aistudio/Trained300model
import paddlex as pdx
model = pdx.load_model(‘Trained300model/output/yolov3_darknet53/best_model’)
index = ‘1554’
image_name = ‘work/test/IMAGES/’+index+‘.jpg’
predicts = model.predict(image_name)
pdx.det.visualize(image_name, predicts, threshold=0.5, save_dir=‘./output/yolov3_darknet53/testImage/’)
2021-08-29 17:11:30 [INFO] Model[YOLOv3] loaded.
2021-08-29 17:11:32 [INFO] The visualized result is saved as ./output/yolov3_darknet53/testImage/visualize_1554.jpg
可以从./output/yolov3_darknet53/testImage/中找到对应的图片,已经看到1554号测试图片被定位了3个位置
请点击此处查看本环境基本用法.
Please click here for more detailed instructions.
更多推荐
所有评论(0)