【Paddle打比赛】全球人工智能技术创新大赛-商品标题实体识别竞赛_副本
基于PaddleNLP，从标题文本中准确抽取出商品相关实体能够提升检索、推荐等业务场景下的用户体验和平台效率。
·
转载自AI Studio 项目链接https://aistudio.baidu.com/aistudio/projectdetail/3538237
一、商品标题实体识别竞赛
比赛地址：https://www.heywhale.com/org/gaiic2022/competition/area/620b34ed28270b0017b823ad/content/2
1.赛题背景
京东商品标题包含了商品的大量关键信息，商品标题实体识别是NLP应用中的一项核心基础任务，能为多种下游场景所复用，从标题文本中准确抽取出商品相关实体能够提升检索、推荐等业务场景下的用户体验和平台效率。本赛题要求选手使用模型抽取出商品标题文本中的实体。
与传统的实体抽取不同，京东商品标题文本的实体密度高、实体粒度细，赛题具有特色性。
2.比赛数据
-
1.本赛题数据来源于特定类目的京东商品标题短文本，分为有标注样本和无标注样本，供选手选择使用。
-
2.数据格式：训练集数据每一行第一列为一个字符或空格（汉字、英文字母、数字、标点符号、特殊符号、空格），第二列为BIO形式的标签，两列以空格分隔。
-
3.两条标注样本之间以空行为分割。
-
4.训练集：有标注训练样本：4万条左右（包括验证集，不再单独提供验证集，由选手自己切分；总量根据baseline模型效果可能会稍作调整）；无标注样本：100万条。
初赛A榜测试集：1万条（与训练样本格式相同，差异仅在于无标注）
初赛B榜测试集：1万条（与训练样本格式相同，差异仅在于无标注）
复赛测试集：1万条（与训练样本格式相同，差异仅在于无标注）
决赛测试集：1万条（与训练样本格式相同，差异仅在于无标注） -
5.标注样本示例
- 6.实体说明
实体共有52种类型，均已经过脱敏处理，用数字代号1至54表示（不包含27和45）；其中“O”为非实体。标签中“B”代表一个实体的开始，“I”代表一个实体的中间或者结尾。“-”后的数字代号表示该字符的实体类型。
值得注意的是实体不仅仅与实体词有关，而且与当前标题所售卖商品有关。举例说明，一个售卖产品为手机壳的商品标题中出现的“iPhone13”与售卖产品为手机的商品标题中出现的“iPhone13”为不同的实体标签。
3.数据下载
| 数据名称 | 下载链接 | Column 3 |
|---|---|---|
| 数据样例 | 初赛训练集数据样例 | 👉🏻 点击下载 |
二、RNN命名实体识别概念
在2017年之前，工业界和学术界对NLP文本处理依赖于序列模型Recurrent Neural Network (RNN).
近年来随着深度学习的发展，模型参数的数量飞速增长。为了训练这些参数，需要更大的数据集来避免过拟合。然而，对于大部分NLP任务来说，构建大规模的标注数据集非常困难（成本过高），特别是对于句法和语义相关的任务。相比之下，大规模的未标注语料库的构建则相对容易。为了利用这些数据，我们可以先从其中学习到一个好的表示，再将这些表示应用到其他任务中。最近的研究表明，基于大规模未标注语料库的预训练模型（Pretrained Models, PTM) 在NLP任务上取得了很好的表现。
近年来，大量的研究表明基于大型语料库的预训练模型（Pretrained Models, PTM）可以学习通用的语言表示，有利于下游NLP任务，同时能够避免从零开始训练模型。随着计算能力的发展，深度模型的出现（即 Transformer）和训练技巧的增强使得 PTM 不断发展，由浅变深。
在此，使用ERNIE预训练模型完成序列标注任务。
三、数据处理
1.数据查看
# 训练集查看
!head -n20 data/data129945/train_500.txt
手 B-40
机 I-40
三 B-4
脚 I-4
架 I-4
网 B-14
红 I-14
直 B-5
播 I-5
支 B-4
架 I-4
桌 B-7
面 I-7
自 B-4
拍 I-4
杆 I-4
蓝 B-11
牙 I-11
遥 B-11
控 I-11
2.数据格式调整
PaddleNLP格式为一条记录一条记录的样式，在此需要对原始数据进行格式调整。
import os
def format_data(source_filename, target_filename):
datalist = []
with open(source_filename, 'r', encoding='utf-8') as f:
lines = f.readlines()
words = ''
labels = ''
word=''
label=''
flag = 0
for line in lines:
if line == '\n':
item = words + '\t' + labels + '\n'
# print(item)
datalist.append(item)
words = ''
labels = ''
flag = 0
continue
elif line == ' O\n':
word = ' '
label = 'O'
else:
word, label = line.strip('\n').split(' ')
# 使用\002是为了区分空格
if flag == 1:
words = words + '\002' + word
labels = labels + '\002' + label
else:
words = words + word
labels = labels + label
flag = 1
# 添加最后一行数据
item = words + '\t' + labels + '\n'
datalist.append(item)
with open(target_filename, 'w', encoding='utf-8') as f:
lines = f.writelines(datalist)
print(f'{source_filename}文件格式转换完毕，保存为{target_filename}')
format_data('data/data129945/train_500.txt', 'train_500_converted.txt')
data/data129945/train_500.txt文件格式转换完毕，保存为train_500_converted.txt
!head train_500_converted.txt
手机三脚架网红直播支架桌面自拍杆蓝牙遥控三脚架摄影拍摄拍照抖音看电视神器三角架便携伸缩懒人户外支撑架 【女神粉】自带三脚架+蓝牙遥控 B-40I-40B-4I-4I-4B-14I-14B-5I-5B-4I-4B-7I-7B-4I-4I-4B-11I-11B-11I-11B-4I-4I-4B-5I-5B-5I-5B-5I-5B-13I-13B-4I-4I-4I-4I-4B-4I-4I-4B-11I-11B-11I-11B-8I-8B-7I-7B-4I-4I-4OOB-16I-16I-16OOOB-4I-4I-4OB-11I-11B-11I-11
牛皮纸袋手提袋定制logo烘焙购物服装包装外卖打包袋子礼品袋纸质 黑色 32*11*25 大横100个 B-4I-4I-4I-4B-4I-4I-4B-29I-29I-29I-29I-29I-29B-9I-9B-5I-5B-40I-40B-4I-4B-40I-40B-5I-5B-4I-4B-4I-4I-4B-12I-12OB-16I-16OB-18I-18I-18I-18I-18I-18I-18I-18OB-13I-13B-18I-18I-18I-18
彩色金属镂空鱼尾夹长尾夹 手帐设计绘图文具收纳 夹子 鱼尾夹炫彩大号 B-16I-16B-12I-12B-13I-13B-4I-4I-4B-4I-4I-4OB-13I-13B-5I-5B-5I-5B-4I-4B-11I-11OB-4I-4OB-4I-4I-4B-13I-13B-13I-13
Bose SoundSportFree 真无线蓝牙耳机 运动耳机 博士防掉落耳塞 黑色 B-1I-1I-1I-1OB-3I-3I-3I-3I-3I-3I-3I-3I-3I-3I-3I-3I-3I-3I-3OOB-11I-11B-4I-4I-4I-4OB-5I-5B-4I-4OOOB-11I-11I-11B-4I-4OB-16I-16
壁挂炉专用水空调散热器带风扇暖气片水暖空调明装吹风机盘管家用 流线85#6进6出24铜管(左)带软管 B-4I-4I-4OOB-4I-4I-4B-4I-4I-4B-22I-22I-22B-4I-4I-4B-4I-4I-4I-4B-13I-13B-4I-4I-4B-13I-13B-7I-7OOOOOOB-11I-11B-11I-11OOB-40I-40OOOOB-40I-40
爱好油画棒儿童可水洗水溶性画画笔小学生24色36色48色手绘彩绘易擦幼儿园宝宝旋转蜡笔 68081旋转焕彩棒24色（水溶性） OOB-4I-4I-4B-8I-8B-11I-11I-11B-12I-12I-12B-4I-4I-4B-8I-8I-8B-18I-18I-18B-18I-18I-18B-18I-18I-18B-5I-5B-5I-5B-11I-11B-9I-9I-9B-8I-8OOB-4I-4OOOOOOB-5I-5B-4I-4I-4B-18I-18I-18OB-12I-12I-12O
有线办公键盘巧克力按键适用于笔记本台式电脑通用商务联想usb外接薄膜打字迷你苹果小型静音键盘有线【104键-升级手托版】商务黑 标配 B-13I-13B-4I-4I-4I-4B-16I-16I-16B-13I-13OOOB-40I-40I-40B-40I-40I-40I-40B-11I-11B-14I-14B-37I-37B-11I-11I-11I-11I-11B-13I-13B-5I-5B-14I-14B-37I-37B-13I-13B-11I-11B-4I-4B-13I-13OB-18I-18I-18I-18OB-13I-13I-13I-13I-13OB-16I-16I-16OB-13I-13
茉蒂兰双缸饮料机自助果汁机商用冷热双温三缸全自动单缸搅拌冷饮机 B-1I-1I-1B-18I-18B-4I-4I-4B-11I-11B-4I-4I-4B-5I-5B-18I-18I-18I-18B-18I-18B-11I-11I-11B-18I-18B-11I-11B-4I-4I-4
质印适用京瓷3501i粉盒TK-6308墨盒4501i墨粉5501i硒鼓4500 5500 3500 TK-6308粉盒双支装 B-1I-1OOB-37I-37B-39I-39I-39I-39I-39B-4I-4B-3I-3I-3I-3I-3I-3I-3B-4I-4B-39I-39I-39I-39I-39B-4I-4B-39I-39I-39I-39I-39B-4I-4B-39I-39I-39I-39OB-39I-39I-39I-39OB-39I-39I-39I-39OB-3I-3I-3I-3I-3I-3I-3B-4I-4B-18I-18I-18
亚信作废章财务现金付讫章收讫受控文件银行付讫章转账光敏印章附件章已审核已收款未收款原子印章制作通用章 转账收讫(原子章) OOB-4I-4I-4B-5I-5B-9I-9B-4I-4I-4B-40I-40I-40I-40I-40I-40B-4I-4I-4I-4I-4B-5I-5B-11I-11B-4I-4B-4I-4I-4B-10I-10I-10B-10I-10I-10B-10I-10I-10B-13I-13B-4I-4B-5I-5B-4I-4I-4OB-5I-5B-5I-5OB-4I-4I-4O
3.数据集划分
按8:2进行分割，具体如下：
# 前400条设为训练集
!head -n400 train_500_converted.txt >train.txt
# 后100条设为测试集
!tail -n100 train_500_converted.txt >val.txt
4.PaddleNLP环境准备
!pip install -U pip --user
!pip install --upgrade paddlenlp
Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple
Requirement already satisfied: pip in ./.data/webide/pip/lib/python3.7/site-packages (22.0.3)
Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple
Requirement already satisfied: paddlenlp in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (2.1.1)
Collecting paddlenlp
Downloading https://pypi.tuna.tsinghua.edu.cn/packages/2b/ec/927e81ad9c349980b1076b2721adcc3c1bbb8f0f432af21995692350c05a/paddlenlp-2.2.4-py3-none-any.whl (1.1 MB)
[2K [90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━[0m [32m1.1/1.1 MB[0m [31m7.3 MB/s[0m eta [36m0:00:00[0m00:01[0m00:01[0mm
[?25hRequirement already satisfied: seqeval in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (1.2.2)
Requirement already satisfied: h5py in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (2.9.0)
Requirement already satisfied: multiprocess in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (0.70.11.1)
Requirement already satisfied: colorama in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (0.4.4)
Requirement already satisfied: colorlog in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (4.1.0)
Requirement already satisfied: jieba in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from paddlenlp) (0.42.1)
Requirement already satisfied: six in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from h5py->paddlenlp) (1.16.0)
Requirement already satisfied: numpy>=1.7 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from h5py->paddlenlp) (1.19.5)
Requirement already satisfied: dill>=0.3.3 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from multiprocess->paddlenlp) (0.3.3)
Requirement already satisfied: scikit-learn>=0.21.3 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from seqeval->paddlenlp) (0.24.2)
Requirement already satisfied: scipy>=0.19.1 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from scikit-learn>=0.21.3->seqeval->paddlenlp) (1.6.3)
Requirement already satisfied: joblib>=0.11 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from scikit-learn>=0.21.3->seqeval->paddlenlp) (0.14.1)
Requirement already satisfied: threadpoolctl>=2.0.0 in /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages (from scikit-learn>=0.21.3->seqeval->paddlenlp) (2.1.0)
Installing collected packages: paddlenlp
Attempting uninstall: paddlenlp
Found existing installation: paddlenlp 2.1.1
Uninstalling paddlenlp-2.1.1:
Successfully uninstalled paddlenlp-2.1.1
Successfully installed paddlenlp-2.2.4
from functools import partial
import paddle
from paddlenlp.datasets import MapDataset
from paddlenlp.data import Stack, Tuple, Pad
from paddlenlp.transformers import ErnieTokenizer, ErnieForTokenClassification
from paddlenlp.metrics import ChunkEvaluator
from utils import convert_example, evaluate, predict, load_dict
/opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/paddlenlp/transformers/funnel/modeling.py:30: DeprecationWarning: Using or importing the ABCs from 'collections' instead of from 'collections.abc' is deprecated, and in 3.8 it will stop working
from collections import Iterable
5.加载自定义数据集
def load_dataset(datafiles):
def read(data_path):
with open(data_path, 'r', encoding='utf-8') as fp:
next(fp) # Skip header
for line in fp.readlines():
words, labels = line.strip('\n').split('\t')
words = words.split('\002')
labels = labels.split('\002')
yield words, labels
if isinstance(datafiles, str):
return MapDataset(list(read(datafiles)))
elif isinstance(datafiles, list) or isinstance(datafiles, tuple):
return [MapDataset(list(read(datafile))) for datafile in datafiles]
# 创建dataset
train_ds, dev_ds = load_dataset(datafiles=(
'./train.txt', './val.txt'))
for i in range(5):
print(train_ds[i])
(['牛', '皮', '纸', '袋', '手', '提', '袋', '定', '制', 'l', 'o', 'g', 'o', '烘', '焙', '购', '物', '服', '装', '包', '装', '外', '卖', '打', '包', '袋', '子', '礼', '品', '袋', '纸', '质', ' ', '黑', '色', ' ', '3', '2', '*', '1', '1', '*', '2', '5', ' ', '大', '横', '1', '0', '0', '个'], ['B-4', 'I-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'B-29', 'I-29', 'I-29', 'I-29', 'I-29', 'I-29', 'B-9', 'I-9', 'B-5', 'I-5', 'B-40', 'I-40', 'B-4', 'I-4', 'B-40', 'I-40', 'B-5', 'I-5', 'B-4', 'I-4', 'B-4', 'I-4', 'I-4', 'B-12', 'I-12', 'O', 'B-16', 'I-16', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-13', 'I-13', 'B-18', 'I-18', 'I-18', 'I-18'])
(['彩', '色', '金', '属', '镂', '空', '鱼', '尾', '夹', '长', '尾', '夹', ' ', '手', '帐', '设', '计', '绘', '图', '文', '具', '收', '纳', ' ', '夹', '子', ' ', '鱼', '尾', '夹', '炫', '彩', '大', '号'], ['B-16', 'I-16', 'B-12', 'I-12', 'B-13', 'I-13', 'B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'O', 'B-13', 'I-13', 'B-5', 'I-5', 'B-5', 'I-5', 'B-4', 'I-4', 'B-11', 'I-11', 'O', 'B-4', 'I-4', 'O', 'B-4', 'I-4', 'I-4', 'B-13', 'I-13', 'B-13', 'I-13'])
(['B', 'o', 's', 'e', ' ', 'S', 'o', 'u', 'n', 'd', 'S', 'p', 'o', 'r', 't', '', 'F', 'r', 'e', 'e', ' ', '真', '无', '线', '蓝', '牙', '耳', '机', ' ', '运', '动', '耳', '机', ' ', '博', '士', '防', '掉', '落', '耳', '塞', ' ', '黑', '色'], ['B-1', 'I-1', 'I-1', 'I-1', 'O', 'B-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'O', 'O', 'B-11', 'I-11', 'B-4', 'I-4', 'I-4', 'I-4', 'O', 'B-5', 'I-5', 'B-4', 'I-4', 'O', 'O', 'O', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4', 'O', 'B-16', 'I-16'])
(['壁', '挂', '炉', '专', '用', '水', '空', '调', '散', '热', '器', '带', '风', '扇', '暖', '气', '片', '水', '暖', '空', '调', '明', '装', '吹', '风', '机', '盘', '管', '家', '用', ' ', '流', '线', '8', '5', '#', '6', '进', '6', '出', '2', '4', '铜', '管', '(', '左', ')', '带', '软', '管'], ['B-4', 'I-4', 'I-4', 'O', 'O', 'B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'B-22', 'I-22', 'I-22', 'B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'I-4', 'B-13', 'I-13', 'B-4', 'I-4', 'I-4', 'B-13', 'I-13', 'B-7', 'I-7', 'O', 'O', 'O', 'O', 'O', 'O', 'B-11', 'I-11', 'B-11', 'I-11', 'O', 'O', 'B-40', 'I-40', 'O', 'O', 'O', 'O', 'B-40', 'I-40'])
(['爱', '好', '油', '画', '棒', '儿', '童', '可', '水', '洗', '水', '溶', '性', '画', '画', '笔', '小', '学', '生', '2', '4', '色', '3', '6', '色', '4', '8', '色', '手', '绘', '彩', '绘', '易', '擦', '幼', '儿', '园', '宝', '宝', '旋', '转', '蜡', '笔', ' ', '6', '8', '0', '8', '1', '旋', '转', '焕', '彩', '棒', '2', '4', '色', '（', '水', '溶', '性', '）'], ['O', 'O', 'B-4', 'I-4', 'I-4', 'B-8', 'I-8', 'B-11', 'I-11', 'I-11', 'B-12', 'I-12', 'I-12', 'B-4', 'I-4', 'I-4', 'B-8', 'I-8', 'I-8', 'B-18', 'I-18', 'I-18', 'B-18', 'I-18', 'I-18', 'B-18', 'I-18', 'I-18', 'B-5', 'I-5', 'B-5', 'I-5', 'B-11', 'I-11', 'B-9', 'I-9', 'I-9', 'B-8', 'I-8', 'O', 'O', 'B-4', 'I-4', 'O', 'O', 'O', 'O', 'O', 'O', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'I-18', 'O', 'B-12', 'I-12', 'I-12', 'O'])
6.label标签表构建
每条数据包含一句文本和这个文本中每个汉字以及数字对应的label标签
# 生成标签
def gernate_dic(source_filename1, target_filename):
data_list=[]
with open(source_filename1, 'r', encoding='utf-8') as f:
lines=f.readlines()
for line in lines:
if line != '\n':
dic=line.strip('\n').split(' ')[-1]
if dic+'\n' not in data_list:
data_list.append(dic+'\n')
with open(target_filename, 'w', encoding='utf-8') as f:
lines=f.writelines(data_list)
# 生成dic
gernate_dic('data/data129945/train_500.txt', 'mytag.dic')
# 查看生成的dic文件
!cat mytag.dic
B-40
I-40
B-4
I-4
B-14
I-14
B-5
I-5
B-7
I-7
B-11
I-11
B-13
I-13
B-8
I-8
O
B-16
I-16
B-29
I-29
B-9
I-9
B-12
I-12
B-18
I-18
B-1
I-1
B-3
I-3
B-22
I-22
B-37
I-37
B-39
I-39
B-10
I-10
B-36
I-36
B-34
I-34
B-31
I-31
B-38
I-38
B-54
I-54
B-6
I-6
B-30
I-30
B-15
I-15
B-2
I-2
B-49
I-49
B-21
I-21
B-47
I-47
B-23
I-23
B-20
I-20
B-50
I-50
B-46
I-46
B-41
I-41
B-43
I-43
B-48
I-48
B-19
I-19
B-52
I-52
由于是放出来的测试用数据集，不够全面，所以只有81个。
7.数据处理
预训练模型ERNIE对中文数据的处理是以字为单位。PaddleNLP对于各种预训练模型已经内置了相应的tokenizer。指定想要使用的模型名字即可加载对应的tokenizer。
tokenizer作用为将原始输入文本转化成模型model可以接受的输入数据形式。
label_vocab = load_dict('mytag.dic')
tokenizer = ErnieTokenizer.from_pretrained('ernie-1.0')
trans_func = partial(convert_example, tokenizer=tokenizer, label_vocab=label_vocab)
train_ds.map(trans_func)
dev_ds.map(trans_func)
print (train_ds[0])
[2022-03-01 23:50:35,030] [ INFO] - Already cached /home/aistudio/.paddlenlp/models/ernie-1.0/vocab.txt
([1, 961, 760, 1067, 1930, 247, 160, 1930, 91, 108, 2310, 2744, 2715, 2744, 2782, 3718, 817, 122, 231, 371, 392, 371, 137, 1225, 445, 392, 1930, 85, 953, 100, 1930, 1067, 207, 17963, 669, 199, 17963, 284, 249, 17963, 208, 208, 17963, 249, 317, 17963, 19, 1151, 208, 540, 540, 27, 2], [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0], 53, [16, 2, 3, 3, 3, 2, 3, 3, 19, 20, 20, 20, 20, 20, 21, 22, 6, 7, 0, 1, 2, 3, 0, 1, 6, 7, 2, 3, 2, 3, 3, 23, 24, 16, 17, 18, 16, 25, 26, 26, 26, 26, 26, 26, 26, 16, 12, 13, 25, 26, 26, 26, 16])
数据读入
使用paddle.io.DataLoader接口多线程异步加载数据。
ignore_label = -1
batchify_fn = lambda samples, fn=Tuple(
Pad(axis=0, pad_val=tokenizer.pad_token_id), # input_ids
Pad(axis=0, pad_val=tokenizer.pad_token_type_id), # token_type_ids
Stack(), # seq_len
Pad(axis=0, pad_val=ignore_label) # labels
): fn(samples)
train_loader = paddle.io.DataLoader(
dataset=train_ds,
batch_size=200,
return_list=True,
collate_fn=batchify_fn)
dev_loader = paddle.io.DataLoader(
dataset=dev_ds,
batch_size=64,
return_list=True,
collate_fn=batchify_fn)
四、PaddleNLP一键加载预训练模型
1.加载预训练模型
快递单信息抽取本质是一个序列标注任务，PaddleNLP对于各种预训练模型已经内置了对于下游任务文本分类Fine-tune网络。以下教程以ERNIE为预训练模型完成序列标注任务。
paddlenlp.transformers.ErnieForTokenClassification()一行代码即可加载预训练模型ERNIE用于序列标注任务的fine-tune网络。其在ERNIE模型后拼接上一个全连接网络进行分类。
paddlenlp.transformers.ErnieForTokenClassification.from_pretrained()方法只需指定想要使用的模型名称和文本分类的类别数即可完成定义模型网络。
# Define the model netword and its loss
model = ErnieForTokenClassification.from_pretrained("ernie-1.0", num_classes=len(label_vocab))
[2022-03-01 23:50:40,125] [ INFO] - Already cached /home/aistudio/.paddlenlp/models/ernie-1.0/ernie_v1_chn_base.pdparams
W0301 23:50:40.128793 4266 device_context.cc:447] Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 10.1, Runtime API Version: 10.1
W0301 23:50:40.132701 4266 device_context.cc:465] device: 0, cuDNN Version: 7.6.
PaddleNLP不仅支持ERNIE预训练模型，还支持BERT、RoBERTa、Electra等预训练模型。
下表汇总了目前PaddleNLP支持的各类预训练模型。您可以使用PaddleNLP提供的模型，完成文本分类、序列标注、问答等任务。同时我们提供了众多预训练模型的参数权重供用户使用，其中包含了二十多种中文语言模型的预训练权重。中文的预训练模型有bert-base-chinese, bert-wwm-chinese, bert-wwm-ext-chinese, ernie-1.0, ernie-tiny, gpt2-base-cn, roberta-wwm-ext, roberta-wwm-ext-large, rbt3, rbtl3, chinese-electra-base, chinese-electra-small, chinese-xlnet-base, chinese-xlnet-mid, chinese-xlnet-large, unified_transformer-12L-cn, unified_transformer-12L-cn-luge等。
更多预训练模型参考：PaddleNLP Transformer API。
更多预训练模型fine-tune下游任务使用方法，请参考：examples。
2.超参设置
metric = ChunkEvaluator(label_list=label_vocab.keys(), suffix=True)
loss_fn = paddle.nn.loss.CrossEntropyLoss(ignore_index=ignore_label)
optimizer = paddle.optimizer.AdamW(learning_rate=2e-5, parameters=model.parameters())
五、模型训练与评估
1.训练模型
模型训练的过程通常有以下步骤：
- 从dataloader中取出一个batch data
- 将batch data喂给model，做前向计算
- 将前向计算结果传给损失函数，计算loss。将前向计算结果传给评价方法，计算评价指标。
- loss反向回传，更新梯度。重复以上步骤。
每训练一个epoch时，程序将会评估一次，评估当前模型训练的效果。
step = 0
for epoch in range(50):
for idx, (input_ids, token_type_ids, length, labels) in enumerate(train_loader):
logits = model(input_ids, token_type_ids)
loss = paddle.mean(loss_fn(logits, labels))
loss.backward()
optimizer.step()
optimizer.clear_grad()
step += 1
print("epoch:%d - step:%d - loss: %f" % (epoch, step, loss))
evaluate(model, metric, dev_loader)
paddle.save(model.state_dict(),
'./checkpoint/model_%d.pdparams' % step)
训练日志
由日志可见，F1为0.838540，因为数据只有500条，还不是正式数据，所以准确率较低。
epoch:45 - step:91 - loss: 1.138152
epoch:45 - step:92 - loss: 1.139734
eval precision: 0.821243 - recall: 0.839224 - f1: 0.830136
epoch:46 - step:93 - loss: 1.118141
epoch:46 - step:94 - loss: 1.119747
eval precision: 0.821822 - recall: 0.841101 - f1: 0.831350
epoch:47 - step:95 - loss: 1.089805
epoch:47 - step:96 - loss: 1.086849
eval precision: 0.820427 - recall: 0.841727 - f1: 0.830940
epoch:48 - step:97 - loss: 1.051158
epoch:48 - step:98 - loss: 1.054089
eval precision: 0.827618 - recall: 0.845480 - f1: 0.836454
epoch:49 - step:99 - loss: 1.032197
epoch:49 - step:100 - loss: 1.033427
eval precision: 0.829306 - recall: 0.847982 - f1: 0.838540
2.模型保存
!mkdir ernie_result
model.save_pretrained('./ernie_result')
tokenizer.save_pretrained('./ernie_result')
六、预测
1.重启notebook，释放显存
重启notebook，释放显存，开始训练。
训练保存好的训练，即可用于预测。如以下示例代码自定义预测数据，调用predict()函数即可一键预测。
import numpy as np
import paddle
from paddle.io import DataLoader
import paddlenlp as ppnlp
from paddlenlp.datasets import load_dataset
from paddlenlp.data import Stack, Tuple, Pad, Dict
from paddlenlp.datasets import MapDataset
from paddlenlp.transformers import ErnieTokenizer, ErnieForTokenClassification
from paddlenlp.metrics import ChunkEvaluator
from utils import convert_example, evaluate, predict, load_dict
from functools import partial
2.导入预测数据
由于预测用数据未放出，此处使用val数据集替代
!head -n20 val.txt
惠普战66 AMD版笔记本外壳保护贴膜14英寸战66ProG2G1电脑机身贴纸钢化屏保按键贴防尘套 款式9 ABCD面+磨砂防反光屏幕膜+键盘膜 OOB-38I-38I-38OOOOOB-40I-40I-40B-7I-7B-4I-4I-4I-4B-54I-54I-54I-54B-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38B-40I-40B-7I-7B-4I-4B-12I-12B-4I-4B-4I-4I-4B-4I-4I-4OOOOOB-13I-13I-13I-13I-13OB-13I-13B-11I-11I-11B-4I-4I-4OB-4I-4I-4
尼凡 17.3英寸雷神911Plus 召唤师笔记本电脑纯色碳纤维贴纸个性图案外壳保护贴膜 图案款式二 ACD面 B-1I-1OB-54I-54I-54I-54I-54I-54B-37I-37B-38I-38I-38I-38I-38I-38I-38I-38OB-38I-38I-38B-40I-40I-40I-40I-40B-16I-16B-12I-12I-12B-4I-4B-14I-14OOB-7I-7B-4I-4I-4I-4OOOOOOOB-13I-13I-13I-13
日本uni-ball三菱pin 针管笔/针笔 漫画设计勾线笔 专业绘图制图笔防水 0.3mm 12支整盒 OOB-2I-2I-2I-2I-2I-2I-2I-2B-1I-1OOOOB-4I-4I-4OB-4I-4OB-5I-5I-5I-5B-4I-4I-4OB-14I-14B-5I-5B-4I-4I-4B-11I-11OB-18I-18I-18I-18I-18OB-18I-18I-18B-13I-13
儿童橡皮小学生专用擦的干净不留痕4b橡皮檫2b像皮象皮创意2比铅笔卡通可爱素描黑色无碎屑学习文具 黑色款(30个盒装) B-8I-8B-4I-4B-8I-8I-8OOB-11I-11I-11I-11B-11I-11I-11B-3I-3B-4I-4I-4B-3I-3B-4I-4B-4I-4B-14I-14B-39I-39B-40I-40B-14I-14B-14I-14B-9I-9B-16I-16B-11I-11I-11B-4I-4I-4I-4OB-16I-16I-16OB-18I-18I-18B-13I-13O
联想y700拯救者贴膜y7000笔记本电脑15.6寸保护外壳套贴纸配件r720-15-ikbn黑金版 (拉丝黑)七件套 B-37I-37B-38I-38I-38I-38B-38I-38I-38B-4I-4B-38I-38I-38I-38I-38B-40I-40I-40I-40I-40B-54I-54I-54I-54I-54B-11I-11B-4I-4I-4B-4I-4OOB-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38B-52I-52I-52OOB-16I-16I-16OB-18I-18I-18
100支格立思可擦笔笔芯0.5mm热魔摩磨易擦晶蓝黑色3-5年级中性水笔摩擦笔芯黑女魔力檫蓝色小学生 50支 / 袋装 / 蓝色 B-18I-18I-18I-18B-1I-1I-1B-40I-40I-40B-4I-4B-18I-18I-18I-18I-18OOOOB-11I-11B-16I-16B-16I-16B-9I-9I-9I-9I-9B-12I-12B-40I-40B-4I-4I-4I-4B-8I-8B-11I-11I-11B-16I-16B-8I-8I-8OB-18I-18I-18OOOB-13I-13OOOB-16I-16
收银纸80x80mm厨房点菜餐饮超市收款机排队机纸彩色热敏打印纸 紫色 B-4I-4I-4B-18I-18I-18I-18I-18I-18I-18B-7I-7B-5I-5B-9I-9B-7I-7B-40I-40I-40OOB-4I-4B-16I-16B-4I-4I-4I-4I-4OB-16I-16
户外垃圾桶大号不锈钢环卫果皮箱小区公园室外分类双桶垃圾箱 201不锈钢 B-7I-7B-4I-4I-4B-13I-13B-12I-12I-12B-5I-5B-4I-4I-4B-7I-7B-7I-7B-7I-7B-5I-5B-18I-18B-4I-4I-4OB-12I-12I-12I-12I-12I-12
猛世（Mengshi）展示柜冷藏卧式冰柜商用冰箱冷藏冷冻平岛柜烧烤保鲜配菜海鲜冷柜超市展示柜2.0米全冷冻岛柜 B-1I-1OB-1I-1I-1I-1I-1I-1I-1OB-4I-4I-4B-11I-11B-13I-13B-4I-4B-5I-5B-4I-4B-11I-11B-11I-11B-4I-4I-4B-11I-11B-11I-11B-40I-40B-40I-40B-4I-4B-7I-7B-4I-4I-4B-18I-18I-18I-18B-11I-11I-11B-4I-4
商务简约a5笔记本文具会议工作加厚复古手账日记本可定制礼盒套装大学生学习读书考研绑绳皮面记事本HH A5棉布纹绑带本-灰色 B-5I-5B-14I-14B-18I-18B-4I-4I-4B-4I-4B-5I-5B-5I-5B-13I-13B-14I-14B-5I-5B-4I-4I-4B-29I-29I-29B-4I-4OOB-8I-8I-8B-5I-5B-5I-5B-5I-5B-13I-13B-13I-13B-4I-4I-4OOOB-18I-18B-13I-13I-13OOOOB-16I-16
铅笔刀削笔器手摇学生用卷笔刀多功能钻刨旋绞小学生转笔刀新款儿童文具学习用品车修剥消自动削笔机包邮 快乐小屋(粉色)| 送10支铅笔 B-4I-4I-4B-4I-4I-4B-13I-13OOOB-4I-4I-4B-11I-11I-11B-11I-11I-11I-11B-8I-8I-8B-4I-4I-4B-14I-14B-8I-8B-4I-4B-4I-4I-4I-4OOOOB-11I-11B-4I-4I-4OOOB-13I-13I-13I-13OB-16I-16OOOOB-54I-54I-54B-40I-40
得胜（TAKSTAR）PC-K220电容麦克风电脑主播录音网络K歌直播设备声卡话筒套装K220+艾肯mobileu声卡组合套装 B-1I-1OB-1I-1I-1I-1I-1I-1I-1OB-3I-3I-3I-3I-3I-3I-3B-4I-4I-4I-4I-4B-40I-40B-8I-8B-11I-11B-11I-11B-5I-5B-4I-4I-4I-4B-4I-4I-4I-4I-4I-4B-3I-3I-3I-3OB-19I-19B-21I-21I-21I-21I-21I-21I-21B-4I-4I-4I-4I-4I-4
登科仕（TECODES）光纤网卡模块防尘胶塞模块光纤保护胶塞 B-1I-1I-1OB-1I-1I-1I-1I-1I-1I-1OB-47I-47B-40I-40B-40I-40B-4I-4I-4I-4B-40I-40B-47I-47B-4I-4I-4I-4
尼凡13.3英寸惠普幽灵Spectrex360笔记本个性炫彩机身贴纸13-AP电脑外壳膜纯色保护贴膜 款式一 ACD面+磨砂反放光屏幕膜+键盘膜+清洁套装 B-1I-1B-54I-54I-54I-54I-54I-54B-37I-37B-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38I-38B-40I-40I-40B-14I-14B-13I-13B-7I-7B-4I-4B-39I-39I-39I-39I-39B-40I-40B-4I-4I-4B-16I-16B-4I-4I-4I-4OOOOOB-13I-13I-13I-13OB-13I-13B-11I-11I-11B-4I-4I-4OOOOOOOOO
网格照片墙装饰网红ins卧室少女心房间布置置物架免打孔照片挂墙 星星暖灯3米20灯 B-13I-13B-9I-9I-9B-4I-4B-14I-14I-14I-14I-14B-7I-7B-14I-14I-14B-7I-7B-5I-5B-4I-4I-4B-11I-11I-11B-9I-9B-13I-13OB-13I-13B-4I-4B-18I-18B-18I-18I-18
勾线笔水彩画笔套装学生用美术描边手绘色彩水粉颜料丙烯笔 4/5/6#/7# B-4I-4I-4B-4I-4I-4I-4I-4I-4B-8I-8I-8B-9I-9B-5I-5B-5I-5B-9I-9B-40I-40I-40I-40B-4I-4I-4OB-3I-3I-3I-3I-3I-3I-3I-3I-3
夜光胶带荧光划线胶带自发光胶布舞台楼梯地贴条夜光钓鱼金刚石防滑地面划线标识胶带全夜光防滑2.5厘米*10米 黄绿光（白天浅黄）一卷 B-11I-11B-4I-4B-11I-11B-4I-4I-4I-4B-11I-11I-11B-4I-4B-7I-7B-7I-7B-4I-4I-4B-11I-11B-5I-5B-40I-40I-40B-11I-11B-7I-7B-5I-5B-5I-5B-4I-4B-11I-11I-11B-11I-11B-18I-18I-18I-18I-18I-18I-18I-18I-18OB-11I-11I-11OB-6I-6B-16I-16OB-18I-18
凡亚比 多合一读卡器 多功能高速手机相机SD/TF/MS卡读卡器 内存卡 迷你 睿智黑 B-1I-1I-1OB-11I-11I-11B-4I-4I-4OB-11I-11I-11B-11I-11B-40I-40B-40I-40B-40I-40I-40I-40I-40I-40I-40I-40I-40B-4I-4I-4OB-40I-40I-40OB-14I-14OB-16I-16I-16
无线监控摄像头家用套装WiFi网络室外可连手机远程高清夜视监控器 旗舰版 128GB 1080p 8mm B-13I-13B-5I-5B-4I-4I-4B-7I-7B-13I-13B-11I-11I-11I-11I-11I-11B-7I-7OOB-40I-40OOB-11I-11I-11I-11B-4I-4I-4OB-13I-13I-13OB-18I-18I-18I-18I-18OB-18I-18I-18I-18I-18OB-18I-18I-18
移动硬盘2t兼容mac1t玩客云USB3.0高速抗震促销500台送硅胶套白色红框1.5T套餐二 B-4I-4I-4I-4B-18I-18OOB-18I-18I-18I-18I-18B-9I-9I-9B-18I-18I-18I-18I-18I-18B-11I-11B-11I-11B-5I-5OOOOOB-40I-40I-40B-16I-16I-16I-16B-18I-18I-18I-18OOO
3.定义test数据集
def load_dataset(datafiles):
def read(data_path):
with open(data_path, 'r', encoding='utf-8') as fp:
next(fp) # Skip header
for line in fp.readlines():
words, labels = line.strip('\n').split('\t')
words = words.split('\002')
labels = labels.split('\002')
yield words, labels
if isinstance(datafiles, str):
return MapDataset(list(read(datafiles)))
elif isinstance(datafiles, list) or isinstance(datafiles, tuple):
return [MapDataset(list(read(datafile))) for datafile in datafiles]
test_ds = load_dataset(datafiles=('./val.txt'))
for i in range(20):
print(test_ds[i])
(['尼', '凡', ' ', '1', '7', '.', '3', '英', '寸', '雷', '神', '9', '1', '1', '', 'P', 'l', 'u', 's', ' ', '召', '唤', '师', '笔', '记', '本', '电', '脑', '纯', '色', '碳', '纤', '维', '贴', '纸', '个', '性', '图', '案', '外', '壳', '保', '护', '贴', '膜', ' ', '图', '案', '款', '式', '二', ' ', 'A', 'C', 'D', '面'], ['B-1', 'I-1', 'O', 'B-54', 'I-54', 'I-54', 'I-54', 'I-54', 'I-54', 'B-37', 'I-37', 'B-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'O', 'B-38', 'I-38', 'I-38', 'B-40', 'I-40', 'I-40', 'I-40', 'I-40', 'B-16', 'I-16', 'B-12', 'I-12', 'I-12', 'B-4', 'I-4', 'B-14', 'I-14', 'O', 'O', 'B-7', 'I-7', 'B-4', 'I-4', 'I-4', 'I-4', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B-13', 'I-13', 'I-13', 'I-13'])
(['日', '本', 'u', 'n', 'i', '-', 'b', 'a', 'l', 'l', '三', '菱', 'p', 'i', 'n', ' ', '针', '管', '笔', '/', '针', '笔', ' ', '漫', '画', '设', '计', '勾', '线', '笔', ' ', '专', '业', '绘', '图', '制', '图', '笔', '防', '水', ' ', '0', '.', '3', 'm', 'm', ' ', '1', '2', '支', '整', '盒'], ['O', 'O', 'B-2', 'I-2', 'I-2', 'I-2', 'I-2', 'I-2', 'I-2', 'I-2', 'B-1', 'I-1', 'O', 'O', 'O', 'O', 'B-4', 'I-4', 'I-4', 'O', 'B-4', 'I-4', 'O', 'B-5', 'I-5', 'I-5', 'I-5', 'B-4', 'I-4', 'I-4', 'O', 'B-14', 'I-14', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-18', 'I-18', 'I-18', 'B-13', 'I-13'])
(['儿', '童', '橡', '皮', '小', '学', '生', '专', '用', '擦', '的', '干', '净', '不', '留', '痕', '4', 'b', '橡', '皮', '檫', '2', 'b', '像', '皮', '象', '皮', '创', '意', '2', '比', '铅', '笔', '卡', '通', '可', '爱', '素', '描', '黑', '色', '无', '碎', '屑', '学', '习', '文', '具', ' ', '黑', '色', '款', '(', '3', '0', '个', '盒', '装', ')'], ['B-8', 'I-8', 'B-4', 'I-4', 'B-8', 'I-8', 'I-8', 'O', 'O', 'B-11', 'I-11', 'I-11', 'I-11', 'B-11', 'I-11', 'I-11', 'B-3', 'I-3', 'B-4', 'I-4', 'I-4', 'B-3', 'I-3', 'B-4', 'I-4', 'B-4', 'I-4', 'B-14', 'I-14', 'B-39', 'I-39', 'B-40', 'I-40', 'B-14', 'I-14', 'B-14', 'I-14', 'B-9', 'I-9', 'B-16', 'I-16', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4', 'I-4', 'I-4', 'O', 'B-16', 'I-16', 'I-16', 'O', 'B-18', 'I-18', 'I-18', 'B-13', 'I-13', 'O'])
(['联', '想', 'y', '7', '0', '0', '拯', '救', '者', '贴', '膜', 'y', '7', '0', '0', '0', '笔', '记', '本', '电', '脑', '1', '5', '.', '6', '寸', '保', '护', '外', '壳', '套', '贴', '纸', '配', '件', 'r', '7', '2', '0', '-', '1', '5', '-', 'i', 'k', 'b', 'n', '黑', '金', '版', ' ', '(', '拉', '丝', '黑', ')', '七', '件', '套'], ['B-37', 'I-37', 'B-38', 'I-38', 'I-38', 'I-38', 'B-38', 'I-38', 'I-38', 'B-4', 'I-4', 'B-38', 'I-38', 'I-38', 'I-38', 'I-38', 'B-40', 'I-40', 'I-40', 'I-40', 'I-40', 'B-54', 'I-54', 'I-54', 'I-54', 'I-54', 'B-11', 'I-11', 'B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'O', 'O', 'B-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'B-52', 'I-52', 'I-52', 'O', 'O', 'B-16', 'I-16', 'I-16', 'O', 'B-18', 'I-18', 'I-18'])
(['1', '0', '0', '支', '格', '立', '思', '可', '擦', '笔', '笔', '芯', '0', '.', '5', 'm', 'm', '热', '魔', '摩', '磨', '易', '擦', '晶', '蓝', '黑', '色', '3', '-', '5', '年', '级', '中', '性', '水', '笔', '摩', '擦', '笔', '芯', '黑', '女', '魔', '力', '檫', '蓝', '色', '小', '学', '生', ' ', '5', '0', '支', ' ', '/', ' ', '袋', '装', ' ', '/', ' ', '蓝', '色'], ['B-18', 'I-18', 'I-18', 'I-18', 'B-1', 'I-1', 'I-1', 'B-40', 'I-40', 'I-40', 'B-4', 'I-4', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'O', 'O', 'O', 'B-11', 'I-11', 'B-16', 'I-16', 'B-16', 'I-16', 'B-9', 'I-9', 'I-9', 'I-9', 'I-9', 'B-12', 'I-12', 'B-40', 'I-40', 'B-4', 'I-4', 'I-4', 'I-4', 'B-8', 'I-8', 'B-11', 'I-11', 'I-11', 'B-16', 'I-16', 'B-8', 'I-8', 'I-8', 'O', 'B-18', 'I-18', 'I-18', 'O', 'O', 'O', 'B-13', 'I-13', 'O', 'O', 'O', 'B-16', 'I-16'])
(['收', '银', '纸', '8', '0', 'x', '8', '0', 'm', 'm', '厨', '房', '点', '菜', '餐', '饮', '超', '市', '收', '款', '机', '排', '队', '机', '纸', '彩', '色', '热', '敏', '打', '印', '纸', ' ', '紫', '色'], ['B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'B-7', 'I-7', 'B-5', 'I-5', 'B-9', 'I-9', 'B-7', 'I-7', 'B-40', 'I-40', 'I-40', 'O', 'O', 'B-4', 'I-4', 'B-16', 'I-16', 'B-4', 'I-4', 'I-4', 'I-4', 'I-4', 'O', 'B-16', 'I-16'])
(['户', '外', '垃', '圾', '桶', '大', '号', '不', '锈', '钢', '环', '卫', '果', '皮', '箱', '小', '区', '公', '园', '室', '外', '分', '类', '双', '桶', '垃', '圾', '箱', ' ', '2', '0', '1', '不', '锈', '钢'], ['B-7', 'I-7', 'B-4', 'I-4', 'I-4', 'B-13', 'I-13', 'B-12', 'I-12', 'I-12', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-7', 'I-7', 'B-7', 'I-7', 'B-7', 'I-7', 'B-5', 'I-5', 'B-18', 'I-18', 'B-4', 'I-4', 'I-4', 'O', 'B-12', 'I-12', 'I-12', 'I-12', 'I-12', 'I-12'])
(['猛', '世', '（', 'M', 'e', 'n', 'g', 's', 'h', 'i', '）', '展', '示', '柜', '冷', '藏', '卧', '式', '冰', '柜', '商', '用', '冰', '箱', '冷', '藏', '冷', '冻', '平', '岛', '柜', '烧', '烤', '保', '鲜', '配', '菜', '海', '鲜', '冷', '柜', '超', '市', '展', '示', '柜', '2', '.', '0', '米', '全', '冷', '冻', '岛', '柜'], ['B-1', 'I-1', 'O', 'B-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'O', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'B-13', 'I-13', 'B-4', 'I-4', 'B-5', 'I-5', 'B-4', 'I-4', 'B-11', 'I-11', 'B-11', 'I-11', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'B-11', 'I-11', 'B-40', 'I-40', 'B-40', 'I-40', 'B-4', 'I-4', 'B-7', 'I-7', 'B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'I-18', 'I-18', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4'])
(['商', '务', '简', '约', 'a', '5', '笔', '记', '本', '文', '具', '会', '议', '工', '作', '加', '厚', '复', '古', '手', '账', '日', '记', '本', '可', '定', '制', '礼', '盒', '套', '装', '大', '学', '生', '学', '习', '读', '书', '考', '研', '绑', '绳', '皮', '面', '记', '事', '本', 'H', 'H', ' ', 'A', '5', '棉', '布', '纹', '绑', '带', '本', '-', '灰', '色'], ['B-5', 'I-5', 'B-14', 'I-14', 'B-18', 'I-18', 'B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'B-5', 'I-5', 'B-5', 'I-5', 'B-13', 'I-13', 'B-14', 'I-14', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-29', 'I-29', 'I-29', 'B-4', 'I-4', 'O', 'O', 'B-8', 'I-8', 'I-8', 'B-5', 'I-5', 'B-5', 'I-5', 'B-5', 'I-5', 'B-13', 'I-13', 'B-13', 'I-13', 'B-4', 'I-4', 'I-4', 'O', 'O', 'O', 'B-18', 'I-18', 'B-13', 'I-13', 'I-13', 'O', 'O', 'O', 'O', 'B-16', 'I-16'])
(['铅', '笔', '刀', '削', '笔', '器', '手', '摇', '学', '生', '用', '卷', '笔', '刀', '多', '功', '能', '钻', '刨', '旋', '绞', '小', '学', '生', '转', '笔', '刀', '新', '款', '儿', '童', '文', '具', '学', '习', '用', '品', '车', '修', '剥', '消', '自', '动', '削', '笔', '机', '包', '邮', ' ', '快', '乐', '小', '屋', '(', '粉', '色', ')', '|', ' ', '送', '1', '0', '支', '铅', '笔'], ['B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'B-13', 'I-13', 'O', 'O', 'O', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'I-11', 'B-11', 'I-11', 'I-11', 'I-11', 'B-8', 'I-8', 'I-8', 'B-4', 'I-4', 'I-4', 'B-14', 'I-14', 'B-8', 'I-8', 'B-4', 'I-4', 'B-4', 'I-4', 'I-4', 'I-4', 'O', 'O', 'O', 'O', 'B-11', 'I-11', 'B-4', 'I-4', 'I-4', 'O', 'O', 'O', 'B-13', 'I-13', 'I-13', 'I-13', 'O', 'B-16', 'I-16', 'O', 'O', 'O', 'O', 'B-54', 'I-54', 'I-54', 'B-40', 'I-40'])
(['得', '胜', '（', 'T', 'A', 'K', 'S', 'T', 'A', 'R', '）', 'P', 'C', '-', 'K', '2', '2', '0', '电', '容', '麦', '克', '风', '电', '脑', '主', '播', '录', '音', '网', '络', 'K', '歌', '直', '播', '设', '备', '声', '卡', '话', '筒', '套', '装', 'K', '2', '2', '0', '+', '艾', '肯', 'm', 'o', 'b', 'i', 'l', 'e', 'u', '声', '卡', '组', '合', '套', '装'], ['B-1', 'I-1', 'O', 'B-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'O', 'B-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'B-4', 'I-4', 'I-4', 'I-4', 'I-4', 'B-40', 'I-40', 'B-8', 'I-8', 'B-11', 'I-11', 'B-11', 'I-11', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'I-4', 'I-4', 'I-4', 'B-3', 'I-3', 'I-3', 'I-3', 'O', 'B-19', 'I-19', 'B-21', 'I-21', 'I-21', 'I-21', 'I-21', 'I-21', 'I-21', 'B-4', 'I-4', 'I-4', 'I-4', 'I-4', 'I-4'])
(['登', '科', '仕', '（', 'T', 'E', 'C', 'O', 'D', 'E', 'S', '）', '光', '纤', '网', '卡', '模', '块', '防', '尘', '胶', '塞', '模', '块', '光', '纤', '保', '护', '胶', '塞'], ['B-1', 'I-1', 'I-1', 'O', 'B-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'I-1', 'O', 'B-47', 'I-47', 'B-40', 'I-40', 'B-40', 'I-40', 'B-4', 'I-4', 'I-4', 'I-4', 'B-40', 'I-40', 'B-47', 'I-47', 'B-4', 'I-4', 'I-4', 'I-4'])
(['尼', '凡', '1', '3', '.', '3', '英', '寸', '惠', '普', '幽', '灵', 'S', 'p', 'e', 'c', 't', 'r', 'e', 'x', '3', '6', '0', '笔', '记', '本', '个', '性', '炫', '彩', '机', '身', '贴', '纸', '1', '3', '-', 'A', 'P', '电', '脑', '外', '壳', '膜', '纯', '色', '保', '护', '贴', '膜', ' ', '款', '式', '一', ' ', 'A', 'C', 'D', '面', '+', '磨', '砂', '反', '放', '光', '屏', '幕', '膜', '+', '键', '盘', '膜', '+', '清', '洁', '套', '装'], ['B-1', 'I-1', 'B-54', 'I-54', 'I-54', 'I-54', 'I-54', 'I-54', 'B-37', 'I-37', 'B-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'I-38', 'B-40', 'I-40', 'I-40', 'B-14', 'I-14', 'B-13', 'I-13', 'B-7', 'I-7', 'B-4', 'I-4', 'B-39', 'I-39', 'I-39', 'I-39', 'I-39', 'B-40', 'I-40', 'B-4', 'I-4', 'I-4', 'B-16', 'I-16', 'B-4', 'I-4', 'I-4', 'I-4', 'O', 'O', 'O', 'O', 'O', 'B-13', 'I-13', 'I-13', 'I-13', 'O', 'B-13', 'I-13', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4', 'I-4', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'])
(['网', '格', '照', '片', '墙', '装', '饰', '网', '红', 'i', 'n', 's', '卧', '室', '少', '女', '心', '房', '间', '布', '置', '置', '物', '架', '免', '打', '孔', '照', '片', '挂', '墙', ' ', '星', '星', '暖', '灯', '3', '米', '2', '0', '灯'], ['B-13', 'I-13', 'B-9', 'I-9', 'I-9', 'B-4', 'I-4', 'B-14', 'I-14', 'I-14', 'I-14', 'I-14', 'B-7', 'I-7', 'B-14', 'I-14', 'I-14', 'B-7', 'I-7', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'I-11', 'B-9', 'I-9', 'B-13', 'I-13', 'O', 'B-13', 'I-13', 'B-4', 'I-4', 'B-18', 'I-18', 'B-18', 'I-18', 'I-18'])
(['勾', '线', '笔', '水', '彩', '画', '笔', '套', '装', '学', '生', '用', '美', '术', '描', '边', '手', '绘', '色', '彩', '水', '粉', '颜', '料', '丙', '烯', '笔', ' ', '4', '/', '5', '/', '6', '#', '/', '7', '#'], ['B-4', 'I-4', 'I-4', 'B-4', 'I-4', 'I-4', 'I-4', 'I-4', 'I-4', 'B-8', 'I-8', 'I-8', 'B-9', 'I-9', 'B-5', 'I-5', 'B-5', 'I-5', 'B-9', 'I-9', 'B-40', 'I-40', 'I-40', 'I-40', 'B-4', 'I-4', 'I-4', 'O', 'B-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3', 'I-3'])
(['夜', '光', '胶', '带', '荧', '光', '划', '线', '胶', '带', '自', '发', '光', '胶', '布', '舞', '台', '楼', '梯', '地', '贴', '条', '夜', '光', '钓', '鱼', '金', '刚', '石', '防', '滑', '地', '面', '划', '线', '标', '识', '胶', '带', '全', '夜', '光', '防', '滑', '2', '.', '5', '厘', '米', '*', '1', '0', '米', ' ', '黄', '绿', '光', '（', '白', '天', '浅', '黄', '）', '一', '卷'], ['B-11', 'I-11', 'B-4', 'I-4', 'B-11', 'I-11', 'B-4', 'I-4', 'I-4', 'I-4', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4', 'B-7', 'I-7', 'B-7', 'I-7', 'B-4', 'I-4', 'I-4', 'B-11', 'I-11', 'B-5', 'I-5', 'B-40', 'I-40', 'I-40', 'B-11', 'I-11', 'B-7', 'I-7', 'B-5', 'I-5', 'B-5', 'I-5', 'B-4', 'I-4', 'B-11', 'I-11', 'I-11', 'B-11', 'I-11', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-11', 'I-11', 'I-11', 'O', 'B-6', 'I-6', 'B-16', 'I-16', 'O', 'B-18', 'I-18'])
(['凡', '亚', '比', ' ', '多', '合', '一', '读', '卡', '器', ' ', '多', '功', '能', '高', '速', '手', '机', '相', '机', 'S', 'D', '/', 'T', 'F', '/', 'M', 'S', '卡', '读', '卡', '器', ' ', '内', '存', '卡', ' ', '迷', '你', ' ', '睿', '智', '黑'], ['B-1', 'I-1', 'I-1', 'O', 'B-11', 'I-11', 'I-11', 'B-4', 'I-4', 'I-4', 'O', 'B-11', 'I-11', 'I-11', 'B-11', 'I-11', 'B-40', 'I-40', 'B-40', 'I-40', 'B-40', 'I-40', 'I-40', 'I-40', 'I-40', 'I-40', 'I-40', 'I-40', 'I-40', 'B-4', 'I-4', 'I-4', 'O', 'B-40', 'I-40', 'I-40', 'O', 'B-14', 'I-14', 'O', 'B-16', 'I-16', 'I-16'])
(['无', '线', '监', '控', '摄', '像', '头', '家', '用', '套', '装', 'W', 'i', 'F', 'i', '网', '络', '室', '外', '可', '连', '手', '机', '远', '程', '高', '清', '夜', '视', '监', '控', '器', ' ', '旗', '舰', '版', ' ', '1', '2', '8', 'G', 'B', ' ', '1', '0', '8', '0', 'p', ' ', '8', 'm', 'm'], ['B-13', 'I-13', 'B-5', 'I-5', 'B-4', 'I-4', 'I-4', 'B-7', 'I-7', 'B-13', 'I-13', 'B-11', 'I-11', 'I-11', 'I-11', 'I-11', 'I-11', 'B-7', 'I-7', 'O', 'O', 'B-40', 'I-40', 'O', 'O', 'B-11', 'I-11', 'I-11', 'I-11', 'B-4', 'I-4', 'I-4', 'O', 'B-13', 'I-13', 'I-13', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-18', 'I-18', 'I-18'])
(['移', '动', '硬', '盘', '2', 't', '兼', '容', 'm', 'a', 'c', '1', 't', '玩', '客', '云', 'U', 'S', 'B', '3', '.', '0', '高', '速', '抗', '震', '促', '销', '5', '0', '0', '台', '送', '硅', '胶', '套', '白', '色', '红', '框', '1', '.', '5', 'T', '套', '餐', '二'], ['B-4', 'I-4', 'I-4', 'I-4', 'B-18', 'I-18', 'O', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'B-9', 'I-9', 'I-9', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'B-11', 'I-11', 'B-11', 'I-11', 'B-5', 'I-5', 'O', 'O', 'O', 'O', 'O', 'B-40', 'I-40', 'I-40', 'B-16', 'I-16', 'I-16', 'I-16', 'B-18', 'I-18', 'I-18', 'I-18', 'O', 'O', 'O'])
(['格', '立', '特', '6', '寸', '过', '塑', '膜', '6', '丝', '相', '片', '证', '件', '3', 'r', '塑', '封', '膜', '相', '馆', '专', '用', '护', '卡', '膜', '7', '丝', '过', '塑', '膜', '1', '0', '0', '张', ' ', '6', '寸', '1', '0', '丝', '膜', '（', '1', '1', '0', '*', '1', '6', '0', 'm', 'm', '）', '1', '0', '0', '张', ' '], ['B-2', 'I-2', 'I-2', 'B-18', 'I-18', 'B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'B-40', 'I-40', 'B-9', 'I-9', 'O', 'O', 'B-4', 'I-4', 'I-4', 'B-7', 'I-7', 'O', 'O', 'B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'B-4', 'I-4', 'I-4', 'B-18', 'I-18', 'I-18', 'I-18', 'O', 'B-18', 'I-18', 'O', 'O', 'O', 'O', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'I-18', 'O', 'B-18', 'I-18', 'I-18', 'I-18', 'O'])
4.加载最佳模型
label_vocab = load_dict('./mytag.dic')
tokenizer = ErnieTokenizer.from_pretrained('ernie-1.0')
trans_func = partial(convert_example, tokenizer=tokenizer, label_vocab=label_vocab)
test_ds.map(trans_func)
print (test_ds[0])
[2022-03-02 00:00:15,032] [ INFO] - Already cached /home/aistudio/.paddlenlp/models/ernie-1.0/vocab.txt
([1, 919, 1128, 17963, 208, 589, 42, 284, 514, 1713, 1048, 292, 701, 208, 208, 17963, 17963, 2310, 3068, 1671, 17963, 1281, 2005, 224, 872, 374, 89, 128, 941, 922, 199, 1740, 1489, 534, 1143, 1067, 27, 92, 429, 487, 137, 1718, 161, 455, 1143, 1154, 17963, 429, 487, 699, 220, 177, 17963, 17963, 17963, 17963, 76, 2], [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0], 58, [16, 27, 28, 16, 47, 48, 48, 48, 48, 48, 33, 34, 45, 46, 46, 46, 46, 46, 46, 46, 16, 45, 46, 46, 0, 1, 1, 1, 1, 17, 18, 23, 24, 24, 2, 3, 4, 5, 16, 16, 8, 9, 2, 3, 3, 3, 16, 16, 16, 16, 16, 16, 16, 12, 13, 13, 13, 16])
ignore_label = 1
batchify_fn = lambda samples, fn=Tuple(
Pad(axis=0, pad_val=tokenizer.pad_token_id), # input_ids
Pad(axis=0, pad_val=tokenizer.pad_token_type_id), # token_type_ids
Stack(), # seq_len
Pad(axis=0, pad_val=ignore_label) # labels
): fn(samples)
test_loader = paddle.io.DataLoader(
dataset=test_ds,
batch_size=30,
return_list=True,
collate_fn=batchify_fn)
def my_predict(model, data_loader, ds, label_vocab):
pred_list = []
len_list = []
for input_ids, seg_ids, lens, labels in data_loader:
logits = model(input_ids, seg_ids)
# print(len(logits[0]))
pred = paddle.argmax(logits, axis=-1)
pred_list.append(pred.numpy())
len_list.append(lens.numpy())
preds ,tags= parse_decodes(ds, pred_list, len_list, label_vocab)
return preds, tags
model = ErnieForTokenClassification.from_pretrained("ernie-1.0", num_classes=len(label_vocab))
[2022-03-02 00:01:23,491] [ INFO] - Already cached /home/aistudio/.paddlenlp/models/ernie-1.0/ernie_v1_chn_base.pdparams
model_dict = paddle.load('ernie_result/model_state.pdparams')
model.set_dict(model_dict)
5.预测并保存
from utils import *
preds, tags = my_predict(model, test_loader, test_ds, label_vocab)
file_path = "ernie_results.txt"
with open(file_path, "w", encoding="utf8") as fout:
fout.write("\n".join(preds))
# Print some examples
print(
"The results have been saved in the file: %s, some examples are shown below: "
% file_path)
The results have been saved in the file: ernie_results.txt, some examples are shown below:
!head ernie_results.txt
B-1 I-1 O I-54 I-54 I-54 I-54 I-54 I-54 B-1 I-37 O O I-38 O O I-38 I-38 I-38 O B-8 I-10 I-13 B-40 I-40 I-40 I-40 I-40 B-16 I-16 B-12 I-12 I-12 B-4 I-4 B-14 I-14 B-13 I-13 B-40 I-40 B-4 I-4 I-4 I-4 O O I-13 O O O O O I-13 I-13 I-13
B-1 I-1 B-1 I-1 I-1 I-1 I-1 I-1 I-1 I-1 B-37 I-1 I-1 I-1 O O B-4 I-4 I-4 O B-4 I-4 O B-5 I-5 B-5 I-5 B-4 I-4 I-4 O B-5 I-5 B-5 I-5 B-4 I-4 I-4 B-11 I-11 O B-18 I-18 I-18 I-18 I-18 I-18 B-18 I-18 I-18 I-18 I-18
B-8 I-8 B-4 I-4 B-8 I-8 I-8 O O O O B-13 I-11 B-11 I-11 I-11 O I-38 B-4 I-4 O I-38 I-38 B-4 I-13 I-4 I-13 B-14 I-14 O O I-4 I-4 B-14 I-14 B-14 I-14 B-5 I-5 B-16 I-16 B-11 I-11 I-11 B-5 I-5 B-4 I-4 O B-16 I-16 I-13 O B-18 I-18 I-18 B-18 I-13 O
B-37 I-37 B-38 I-38 I-38 I-38 B-38 I-10 I-10 B-4 I-4 B-38 I-38 I-38 I-38 I-38 B-40 I-40 I-40 B-40 I-40 B-18 I-54 I-54 I-54 I-54 B-11 I-11 B-4 I-4 I-4 B-4 I-4 B-4 I-4 B-38 I-38 I-38 I-38 O I-39 I-38 I-39 O I-38 O O B-16 I-16 I-16 O O B-16 I-13 I-16 O O I-4 O
B-18 I-18 I-18 I-18 B-1 I-1 I-1 B-4 I-4 I-4 B-4 I-4 B-18 I-18 I-18 I-18 I-18 B-13 I-11 B-11 I-11 B-11 I-11 O B-16 I-16 I-16 O O O I-8 I-8 B-13 I-8 B-4 I-4 B-4 I-4 B-4 I-4 B-16 B-14 B-14 I-14 O B-16 I-16 B-8 I-8 I-8 O B-18 I-18 I-18 O O O B-13 I-13 O O O B-16 I-16
B-4 I-4 I-4 B-18 I-18 I-18 I-18 I-18 I-18 I-18 B-7 I-7 B-5 I-5 B-5 I-7 B-7 I-7 B-4 I-4 I-40 B-4 I-4 I-4 I-4 B-16 I-16 B-11 I-13 B-4 I-4 I-4 O B-16 I-16
B-7 I-7 B-4 I-4 I-4 B-13 I-13 B-13 I-12 I-12 B-13 I-7 B-4 I-4 I-4 B-7 I-7 B-7 I-7 B-7 I-7 B-11 I-11 B-13 I-13 B-4 I-4 I-4 O I-3 O O B-12 I-12 I-12
B-1 I-1 O B-1 I-1 I-1 I-1 I-1 I-1 I-1 O B-4 I-4 I-4 B-11 I-11 B-13 I-13 B-4 I-4 B-5 I-7 B-4 I-40 B-5 I-5 B-5 I-5 B-4 I-4 I-4 B-5 I-5 B-5 I-5 B-5 I-5 B-5 I-5 B-4 I-4 B-7 I-7 B-4 I-4 I-4 B-18 I-18 I-18 I-18 O B-11 I-4 B-4 I-4
B-14 I-14 B-14 I-14 O I-3 B-4 I-4 I-4 B-4 I-4 B-5 I-5 B-5 I-5 B-13 I-13 B-14 I-14 B-4 I-4 B-4 I-4 I-4 B-13 I-11 I-13 B-13 I-13 B-13 I-13 B-8 I-8 I-8 B-5 I-5 B-5 I-5 B-5 I-5 B-13 I-13 B-13 I-13 B-4 I-4 I-4 O I-3 I-3 I-3 I-3 B-16 I-12 I-13 B-4 I-4 I-4 O B-16 I-16
B-4 I-4 I-4 B-4 I-4 I-4 B-11 I-11 B-8 I-8 O B-4 I-4 I-4 B-11 I-11 I-11 B-11 I-11 B-11 I-11 B-8 I-8 I-8 B-4 I-4 I-4 B-13 I-13 B-8 I-8 B-4 I-4 B-4 I-4 I-4 I-4 O I-11 B-11 I-11 B-11 I-11 B-4 I-4 I-4 O O O B-1 I-10 I-1 I-10 O B-16 I-16 O O O O O O I-18 B-4 O
I-4 O I-3 I-3 I-3 I-3 B-16 I-12 I-13 B-4 I-4 I-4 O B-16 I-16
B-4 I-4 I-4 B-4 I-4 I-4 B-11 I-11 B-8 I-8 O B-4 I-4 I-4 B-11 I-11 I-11 B-11 I-11 B-11 I-11 B-8 I-8 I-8 B-4 I-4 I-4 B-13 I-13 B-8 I-8 B-4 I-4 B-4 I-4 I-4 I-4 O I-11 B-11 I-11 B-11 I-11 B-4 I-4 I-4 O O O B-1 I-10 I-1 I-10 O B-16 I-16 O O O O O O I-18 B-4 O
至此，完成模型训练以及预测，可以按格式要求进行提交。
由于还未开放正式比赛数据和提交通道，先至此，后续再调整提交格式。
学大模型，用大模型上飞桨星河社区！每天8点V100G算力免费领！免费领取ERNIE 4.0 100w Token >>>
更多推荐
0
0- 0
已为社区贡献1438条内容
所有评论(0)