本文档是ModelArts AI Gallery算法TinyBert（以下简称为本算法）的详细使用方法。

本算法使用GLUE任务下MRPC数据集中的train集和dev集，使用train集训练，在MRPC dev集上测试达到了0.8489的准确率。

1. 准备数据集（需根据具体算法修改）

1.1 下载GLUE数据集（需根据具体算法修改）

下载用于特定任务，知识蒸馏的GLUE数据集。

1. 数据下载：参考 download_glue_data.py

2. 数据增强：参考 Pretrained-Language-Model/TinyBERT at master · huawei-noah/Pretrained-Language-Model (github.com) 下的data_augmentation.py。

3. 将数据集文件从 json 格式转换为 tfrecord 格式，请参阅BERT 存储库下的run_classifier.py 

处理完成后，数据的文件目录如下：

MRPC/

├── dev

│    └── MRPC-dev.tfrecord

└── train

|    └── MPRC-train.tfrecord

├── schema.json

schema.jsom样例：

1.2 安装OBS Browser+并上传数据集

ModelArts使用对象存储服务（OBS）来存储数据，实现安全、高可靠和低成本的存储需求。OBS Browser+是一款用于访问和管理对象存储服务（Object Storage Service，OBS）的图形化工具，支持完善的桶管理和对象管理操作。OBS Browser+的图形化界面可以非常方便地让用户在本地对OBS进行管理，例如：创建桶、上传下载文件、浏览文件等。

具体操作步骤如下：
（1）点此下载OBS Browser+，下载完成后解压缩，双击exe进行安装，安装完成后运行；

（2）登录界面如下图所示，需要您填写账号名、Access Key ID（AK）和Secret Accsee Key（SK），参考此文档，获取AK和SK，华为云上的许多产品都需要用到访问密钥，请妥善保存该密钥文件，然后参考下图填写您的华为云账号名及刚获取的AK和SK，点击登录；

（3）参考下图，点击“创建桶”，输入桶名称，注意：区域要选择华北-北京四、标准存储、私有、关闭多AZ，桶名需自定义，OBS桶名要全局唯一，如提示桶名已存在，则需要您修改为其他名称，比如本文设置桶名为paper-reproduction-01。您设置的桶名必须与此不同，如在下文的操作指导中看到paper-reproduction-01，请主动将桶名替换为您自己的桶名，下文将不再进行提示；

（4）点击桶名称，进入到桶中，点击“新建文件夹”，输入文件夹名称，如“train_input”，点击进入文件夹，再新建“datasets”，点击“上传”->“添加文件”-> 选择本地下载好的数据集压缩包（之所以选压缩包格式是因为如果数据集比较大，上传压缩包比上传文件夹快很多） –> 确定，如下图所示；

（5）点击OBS Browser+左侧的“任务管理”，可查看数据上传进度。如下图所示，点击设置，在基础设置中，设置最大并发数为最大值50，可以加快数据上传速度

2. 订阅本算法

点击本页面右上方的【订阅】按钮。然后点击页面下方的【下一步】按钮，再点击【确认付款】按钮，最后点击【确定】按钮进入我的订阅页面，可以看到刚刚订阅的算法。点击【应用控制台】超链接，选择华北-北京四区域，进入算法管理页面。

如下图所示，点击“同步”按钮，同步算法，可以点击刷新按钮，刷新状态。当状态变成就绪时，表示同步成功。

3. 创建训练作业（需根据具体算法修改）

点击上图中的“创建训练作业”，按照下表填写训练作业参数：

点击下一步，提交，训练作业的状态会经历“初始化”、“部署中”、“运行中”和“运行成功”四个状态。训练作业运行成功后，在上表中指定的“模型输出”路径下会自动生成model目录，该目录下有模型文件、ModelArts平台推理脚本（config.json、customize_service.py）和其他运行模型必备的文件。

4. 模型导入

准备好模型及相关的必备文件后，您可以将生成的模型导入至ModelArts模型管理。具体操作如下：

（1）在ModelArts控制台的左侧导航栏点击“模型管理” -> “模型”，点击右侧页面中的“导入”。在导入模型页面填写名称，选择元模型来源，可以从OBS中选择。如果是从OBS中选择，则需要选择到model目录的上一级目录；例如，本次可选择的目录为obs://paper-reproduction-01/algorithms/train_output，如下图所示：

5. 创建在线服务

在ModelArts上，可以将模型部署为在线服务，然后上传图片进行预测，直接在网页端观察预测结果。

部署为在线服务具体步骤如下：

（1）在ModelArts左侧导航栏中选择“部署上线 -> 在线服务”，然后点击页面中的“部署”；

（2）在部署页面填写参数，其中在“模型列表”选择要导入的模型及版本，计算节点规格选择Acend即可；

（3）访问在线服务。

虽然本模型是按照“Ascend 910 Mindspore模板”导入，并且输入输出模式设置为“未设定”模式。但是为了便于处理，post请求接口还是需要符号一定的规范。

request请求需要提供一个名为dev-tsv的文件（本例中即为GLUE数据集下MRPC任务的dev.tsv），response会返回预测的accuracy（正确率）、以及preds（预测的类别）。D

为了访问在线服务，

• 首先需要获取IAM用户Token、或者通过Postman获取用户Token

• 然后就可以，访问在线服务（Token认证）、

下图即为通过Postman软件，向在线服务发送post请求，并获得response的结果。用户如果熟悉命令行工具，也可使用curl命令发送post请求。

（3）点击“下一步”，参数确认无误后，点击“提交”。

提交后，您可以在在线服务列表中查看部署进度，当状态变为“运行中”后，点击服务名称，进入详情页面，点击“预测”，上传GLUE/MRPC/dev.tsv 进行测试。

6. 模型评估

参考本文第2节中的步骤，创建“训练作业”，按照下表设置训练参数：