Read Data: 0528

Publication: AAAI 2020

Title: SM-NAS: Structural-to-Modular Neural Architecture Search for Object Detection

Participants: Lewei Yao, Hang Xu, Wei Zhang, Xiaodan Liang, Zhenguo Li

Aim:

针对特定任务的实时目标检测系统，定制不同的模块和输入大小。权衡结构组合的计算成本和精度，以及多个模块的模块化选择。

Research Question:

现有的NAS在目标检测中，只关注于某个模块的设计，而忽略了整体性，其根源在于搜索空间太大。

1、考虑多目标搜索，其搜索空间涵盖了许多流行的检测方法设计。

2、考虑将输入图像的大小放入搜索空间，因为这将极大地影响延迟和准确性。

Method:

第一阶段：从骨干、neck、RPN和RCNN头四部分，将不同的流行和最新的模块选择到搜索空间。然后评估每个模块组合的推断时间。再结合验证数据集上的精度，生成一个非劣最优目标域Pareto front，提取出几种不同模块组合的有效检测结构。

第二阶段，搜索每个模块的详细架构，并提升选定结构的速度/精度权衡边界。调整了FPN的信道大小。输入通道大小从128中选择;256;并相应地调整头部的通道。进一步细化所选高效架构的详细模块化结构。

Results:

与FPN相比，推理时间减少了一半，mAP提高了1%，与MaskRCNN相似的推理时间相比，mAP达到46%。

Discussion:

搜索的空间是否会过大，搜索所占的内存是否有要求。

Conclusion:

作者用了coarse-to-fine的思想，把NAS的搜索过程分为两个阶段，先进行结构化(structural-level)的搜索，再进行模块化(modular-level)的搜索。

ü  第一批研究速度和准确性的权衡目标检测系统与不同的模块的不同组合。

ü  通过将搜索解耦为结构级和模块级，提出了一种由粗到细的搜索策略，从而有效地提升了帕累托前沿。搜索模型达到了最先进的速度/精度，在现有方法中占有较大的优势。

ü  首次尝试在没有预先训练模型或任何代理任务的情况下，通过从无到有的快速训练策略直接搜索检测主干。

 

Further:

SM-NAS流程可以在将来不断更新和添加新模块。

Ref:

将NAS和目标检测相结合，搜目标检测算法的整个pipeline。作者是来自华为诺亚方舟实验室和中山大学的 Lewei Yao, Hang Xu, Wei Zhang, Xiaodan Liang, Zhenguo Li。

 

 

版权声明：本文为xmy-0904-lfx原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://www.cnblogs.com/xmy-0904-lfx/p/14821532.html