|- DenseNet-121_valacc0.7520161290322580645_epoch99
 |- air
  |- model.air
 |- checkpoint
  |- model_checkpoint.ckpt
 |- mindir
  |- model.mindir
 |- onnx
  |- model.onnx

<h2><a id="DenseNetMindSpore_0"></a>DenseNet（图片分类/MindSpore）</h2> <h2><a id="1__2"></a>1. 概述</h2> <p>此模型基于<a href="https://arxiv.org/abs/1608.06993" target="_blank">Densely Connected Convolutional Networks</a>中提出的模型结构实现，该算法会载入在<a href="http://www.image-net.org/download-images" target="_blank">ILSVRC 2012 ImageNet</a>上的预训练模型，在用户数据集上做迁移学习。我们提供了训练代码和可用于训练的模型，用于实际场景的微调训练。</p> <p>本算法训练过程中使用top_1_accuracy和top_5_accuracy作为评估指标</p> <p>本算法的其他信息如下表所示：</p> <table> <thead> <tr> <th>项目</th> <th>说明</th> </tr> </thead> <tbody> <tr> <td>参考论文</td> <td>Densely Connected Convolutional Networks</td> </tr> <tr> <td>使用框架</td> <td>MindSpore1.0.1</td> </tr> <tr> <td>训练集</td> <td>ILSVRC 2012 ImageNet中的train，一共有128万多个图片</td> </tr> <tr> <td>训练总epoch数</td> <td>120</td> </tr> <tr> <td>训练batch_size</td> <td>256（8卡Ascend，每个卡32）</td> </tr> <tr> <td>训练硬件及耗时</td> <td>8卡Ascend混合精度O3训练，DenseNet-121约10小时，DenseNet-169约14小时，DenseNet-201约18小时，DenseNet-264约26小时</td> </tr> <tr> <td>测试集</td> <td>ILSVRC 2012 ImageNet中的val，一共有5万个图片</td> </tr> <tr> <td>推理硬件及速度</td> <td>Ascend910推理，约52ms/pic，若设置batchsize=32进行推理，10000个图片大约需要18到20秒</td> </tr> <tr> <td>输入图像尺寸</td> <td>224*224</td> </tr> <tr> <td>原论文准确率</td> <td>top1和top5分别为： DenseNet-121 74.98% 92.29% DenseNet-169 76.20% 93.15% DenseNet-201 77.42% 93.66% DenseNet-264 77.85% 93.88%</td> </tr> <tr> <td>本算法准确率</td> <td>top1和top5分别为： DenseNet-121 74.29% 92.00% DenseNet-169 75.48% 92.64% DenseNet-201 76.37% 93.07% DenseNet-264 76.68% 93.17%</td> </tr> </tbody> </table> <h2><a id="2_24"></a>2、训练</h2> <h3><a id="21__26"></a>2.1. 算法基本信息</h3> <ul> <li> <p>任务类型：图片分类</p> </li> <li> <p>支持的框架引擎：mindspore1.0.1-ascend</p> </li> <li> <p>算法输入：</p> <ul> <li>存储在OBS上的数据集，必须按照ImageNet 数据集的格式进行存储，详情请查看下文第4节案例指导</li> <li>ImageNet预训练模型，在ImageNet上的准确率是 top1和top5分别为： DenseNet-121 74.29% 92.00% DenseNet-169 75.48% 92.64% DenseNet-201 76.37% 93.07% DenseNet-264 76.68% 93.17%</li> </ul> </li> <li> <p>算法输出：</p> <ul> <li>可用于ascend910部署推理的ckpt文件，以及onnx、air、mindir格式的模型，具体每种格式的模型使用方式可参考mindspore官方文档说明：https://www.mindspore.cn/tutorial/inference/zh-CN/master/index.html</li> </ul> </li> </ul> <h3><a id="22__41"></a>2.2. 训练参数说明</h3> <table> <thead> <tr> <th>名称</th> <th>默认值</th> <th>类型</th> <th>是否必填</th> <th>是否可修改</th> <th>描述</th> </tr> </thead> <tbody> <tr> <td>device_target</td> <td>Ascend</td> <td>string</td> <td>否</td> <td>是</td> <td>训练用的硬件平台，有CPU、GPU和Ascend,本算法支持Ascend训练</td> </tr> <tr> <td>data_url</td> <td>data/imagenet_original/</td> <td>string</td> <td>是</td> <td>是</td> <td>训练或者评估输入的数据集 （支持上传压缩包和文件目录；如果使用文件夹形式的数据，则填写该文件夹在OBS上的访问路径；如果使用zip或者tar.gz压缩包形式的数据，则填写该压缩包的父目录在OBS上的访问路径）</td> </tr> <tr> <td>train_url</td> <td>output/</td> <td>string</td> <td>是</td> <td>是</td> <td>训练或者评估结果输出路径</td> </tr> <tr> <td>data_format</td> <td>tar.gz</td> <td>string</td> <td>否</td> <td>是</td> <td>可选值zip(上传数据为zip压缩包)、tar.gz（训练数据集的分包压缩形式）或者dir（上传数据为目录形式），压缩包和目录的具体格式请查看下面<a href="https://bbs.huaweicloud.com/forum/thread-91206-1-1.html" target="_blank">《ModelArts AI市场算法DenseNet使用指导》</a>所附连接</td> </tr> <tr> <td>epoch_size</td> <td>120</td> <td>int</td> <td>否</td> <td>是</td> <td>模型训练的epoch数量</td> </tr> <tr> <td>batch_size</td> <td>256</td> <td>int</td> <td>否</td> <td>是</td> <td>训练或者评估时每个batch的大小</td> </tr> <tr> <td>init_lr</td> <td>0.1</td> <td>string</td> <td>否</td> <td>是</td> <td>训练的初始学习率</td> </tr> <tr> <td>momentum</td> <td>0.9</td> <td>string</td> <td>否</td> <td>是</td> <td>优化器的动量系数</td> </tr> <tr> <td>load_weight</td> <td>weight/best_model.ckpt</td> <td>string</td> <td>否</td> <td>是</td> <td>可加载的预训练模型，当eval=True时，该参数为必填项 ；默认值是在ImageNet数据集上的预训练模型，该预训练模型已包含在本算法中</td> </tr> <tr> <td>weight_decay</td> <td>0.0001</td> <td>string</td> <td>否</td> <td>是</td> <td>优化器中的正则化权重衰减量</td> </tr> <tr> <td>img_size</td> <td>224</td> <td>int</td> <td>否</td> <td>是</td> <td>训练图片的尺寸，默认值与论文中保持一致</td> </tr> <tr> <td>num_classes</td> <td>1000</td> <td>int</td> <td>否</td> <td>是</td> <td>类别数量，默认值为ImageNet类别数量</td> </tr> <tr> <td>conv2d_keep_prob</td> <td>1.0</td> <td>string</td> <td>否</td> <td>是</td> <td>dropout的设置值，默认与论文中训练ImageNet保持一致</td> </tr> <tr> <td>architecture</td> <td>DenseNet-121</td> <td>string</td> <td>否</td> <td>是</td> <td>可选值为DenseNet-121、DenseNet-169、DenseNet-201和DenseNet-264</td> </tr> <tr> <td>amp_level</td> <td>O3</td> <td>string</td> <td>否</td> <td>是</td> <td>混合精度训练的设置值，根据mindspore官方文档，Ascend硬件下训练建议使用O3，如效果不佳，可根据实际模型训练情况更改</td> </tr> <tr> <td>optimizer</td> <td>SGD</td> <td>string</td> <td>否</td> <td>是</td> <td>优化器，默认与论文保持一致</td> </tr> <tr> <td>no_top</td> <td>False</td> <td>string</td> <td>否</td> <td>是</td> <td>加载预训练模型时，是否包含顶部的分类器，若加载的预训练模型中的类别数与训练模型设置的num_classes不同，则必须设置为True，否则会报错，无法加载预训练模型</td> </tr> <tr> <td>eval</td> <td>False</td> <td>string</td> <td>否</td> <td>是</td> <td>eval=True，则进行预测评估；eval=False进行训练</td> </tr> </tbody> </table> <h3><a id="23__64"></a>2.3. 训练输出文件</h3> <p>训练完成后的输出文件如下（文件夹的名称中包含了该输出模型的准确率）：</p> <pre><code class="lang-">|- DenseNet-121_valacc0.7520161290322580645_epoch99 |- air |- model.air |- checkpoint |- model_checkpoint.ckpt |- mindir |- model.mindir |- onnx |- model.onnx </code></pre> <h2><a id="3__80"></a>3. 模型的部署推理</h2> <p>可根据<a href="https://www.mindspore.cn/tutorial/inference/zh-CN/master/index.html" target="_blank">mindspore官方文档</a>，使用训练后输出的模型进行推理</p> <p><strong>注意</strong>：本算法输出的模型支持在Ascend910和Ascend310上进行推理</p> <h2><a id="4__86"></a>4. 案例指导</h2> <p>本算法的详细使用方法，请查看<a href="https://marketplace.huaweicloud.com/markets/aihub/article/detail/?content_id=2b7449ca-4c00-4ef1-95c3-3df1cafa10a9" target="_blank">《ModelArts AI Gallery算法DenseNet使用指导》</a>。</p>