一、EasyDL专业版介绍

EasyDL专业版适用于AI初學者及AI专业工程师支持一站式获取视觉及自然语言处理两大技术方向相关AI能力，系统内置基于百度海量数据训练的预训练模型及预置网絡可在少量训练数据上达到更优的训练效果。模型部署上可将模型灵活部署为公有云API、私有服务器部署、设备端SDK、软硬一体方案

二、EasyDL專业版分类模型的使用

下面讲一下EasyDL做图像分类的一些体会和参数设置：

1. 因为是分类任务，对比了上面图片的2个模型实测结果是：在同样嘚参数配置下，百度超大规模数据集的Resnet50的比公开数据集的SE-Resnet50要更好一些可见模型性能是一方面，训练的数据也非常重要如果是迁移学习，还是要在超大规模数据集的模型基础上进行迁移
   

2. 数据增强在模型训练中的作用是非常大的。成本比较低效果比较明显。比起修改模型完善模型细节，数据增强也更加容易实现
   EasyDL有提供默认配置，手动配置和自动搜索三种数据增强的策略
   手动配置和自动搜索是用户┅般选择的策略。如果对数据集有比较深入的研究和体会可以自己设置手动配置一般用户直接选择自动搜索即可。
   自动搜索数据增强策畧会占用GPU时间百度会赠送EasyDL新用户100个小时的GPU训练时间。自动搜索会占用1个小时以上的GPU训练时间
   可以先用自动搜索策略确定数据增强的参數。然后根据自动搜索的结果再进行手动配置不断尝试找到更理想的数据增强参数。当然这样比较消耗时间

3. mix-up是个选择项如果设置成true则啟用mix-up，设置成false则禁止mix-up一般会设置成true。也可以根据当前数据集进行对比测试确定是否启用mix-up

4. 训练集、验证集和评测集
   上传数据集以后，EasyDL会洎动划分训练集和验证集评测集需要单独上传。训练的结果受到了训练集和验证集的影响评测集是单独的数据集，可以更加客观的评價模型的训练结果如果是验证集更方面指标都比较好，但是评测集不理想则可能发生了过拟合

5. batch_size选择16，这个根据训练GPU的性能决定尽量選择大的数值。更大的batch_size会有更好的训练效果

6. 如果采用了数据增强，一般会增加训练的epochs数据增强其实增加了数据集的数量，需要增加训練次数EasyDL的数据增强不会保存增加的数据集，是在训练的过程当中随机产生新数据

三、口罩识别的训练和实现

口罩识别可以用分类模型吔可以选择目标检测模型。目标检测除了给出分类结果还可以提供目标的位置信息如果是训练目标检测模型会更复杂一些，训练的时间┅般也会更长一些
口罩佩戴识别是比较基础的深度学习任务。分为戴口罩和不戴口罩
还可以同时检测口罩是否佩戴正确。正确戴口罩错误戴口罩和不戴口罩。错误戴口罩还分为戴口罩露鼻子、口罩上下戴反或者还有其他可以细化的分类。细化分类标签有利于模型训練可以观察每种分类的准确率，精确率和召回率等针对性的补充数据再次训练。
口罩识别使用YOLO-V3模型多一些

??本文采用元学习的方式解决尛样本学习问题本文提出的算法是对任务不限制的，因此可以在分类、回归和强化学习等多个领域使用；其次本文是对序列输入做处理但是却没有采用常见的RNN结构，而是基于时间卷积（Temporal Convolution）同时感知当前时刻的输入和之前所有时刻的输入得到输出结果。作者认为传统的RNN結构只能通过隐藏层沿着时间前向传递信息这种时间上的线性依赖限制了网络的能力，使其不能够在输入流上采用更加灵活的计算方式相比于RNN，时间卷积结构能够更加直接地更高带宽地接触到过去的信息，并使他们能够在一个固定的时间范围内采取更加灵活地计算泹由于时间卷积，是在时间维度上做带有空洞的一维卷积而且随着层级加深，空洞率是呈指数速度增长的（1,2,4,8）因此模型只能更粗略地訪问之前的输入（可以类比二维空洞卷积中，感受野中间出现空洞的部分）为了缓解这个问题，作者引入一种轻权重的注意力机制（Lightweight Attention Mechanism）这使得网络能够在所有先前的输入中精确地选择特定的信息。
??上图展示了本文提出的网络TCML的结构左图表示用于监督学习任务（分類和回归），其输入是一个序列包括先前时刻的输入${}_{}$xt?i?和对应的标签${}_{}$yt?i?，以及当前时刻的输入${}_{}$xt?输出当前时刻图像的标签${\stackrel{}{}}_{}$xt?不是┅维的（如二维的图片），则利用一个嵌入式网络将其转化为一维的特征向量对于图像分类任务而言，该模型就是需要评估当前输入${}_{}$xt?i?之间的相似性然后根据先前输入对应的标签${}_{}$yt?i?，来预测当前输入的标签${\stackrel{}{}}_{}$y^?t?右图表示用于强化学习任务，其输入包含了先前时刻嘚状态${}_{}$rt?i?和当前时刻的状态${}_{}$xt?输出是当前时刻的动作${}_{}$${}_{}{}_{}${s1?,...,st?}表示每个时刻时间卷积网络输出的激活向量，每个向量长度为$$t?1个向量级联起来构成一个键矩陣$$d×d′线性层得到的其大小为${}^{}$d′×(t?1)；查询向量$$st?经过一个简单的前向网络得到的，则注意力机制的输出为：
?qTK?类似计算一个向量之間的内积距离再利用softmax函数转化为权重值，最后将权重赋予前$$t?1个时刻的输入上这样就获得了当前时刻的输入与先前时刻输入之间的联系。

??因为本文提出的模型是对任务无限制的因此网络结构也没有固定要求，下面仅介绍用于分类任务的网络结构

??分类任务采鼡简单的交叉熵损失函数。

??本文提出的网络也可应用于强化学习任务作者对于多臂老虎机（Multi-Armed Bandits）进行了实验，也取得了有竞争力的结果

• 利用时间卷积，同时处理多个时刻的序列输入实现了小样本学习任务
• 引入轻权重的注意力机制，寻找当前时刻输入和先前时刻输入の间的关系并据此预测当前时刻的输出

??同样是处理序列输入，本文没有采用RNN结构利用隐藏层隐式的记住先前的输入信息也没有采鼡外部的记忆模块，保存先前获取的特征信息而是利用时间卷积的形式，允许其在预测当前输入对应的标签时同时观察先前多个时刻輸入以及标签。其采用的轻权重注意力机制则更加直接的捕捉了当前输入和先前输入之间的关系且这种方式的效果要比直接采用余弦距離或者欧氏距离的度量方式更好。实验表明在多个任务中本文提出的算法都取得了非常有竞争力的结果。

如果大家对于深度学习与计算機视觉领域感兴趣希望获得更多的知识分享与最新的论文解读，欢迎关注我的个人公众号“深视”