VGGが戻ってきた！

3つの要点
✔️ シンプルだけど強力なVGG-like CNNアーキテクチャ
✔️ 他のSOTAモデルと比較して大幅な高速化
✔️ 構造の再パラメータ化を使用して、学習時間のマルチブランチ構造を推論時間のプレーンアーキテクチャに変換

RepVGG: Making VGG-style ConvNets Great Again
written by Xiaohan Ding, Xiangyu Zhang, Ningning Ma, Jungong Han, Guiguang Ding, Jian Sun
(Submitted on11 Jan 2021)
Comments: Accepted to arXiv.
Subjects: Computer Vision and Pattern Recognition (cs.CV); Artificial Intelligence (cs.AI); Machine Learning (cs.LG)
  officialcomm 

はじめに

VGGNetは比較的シンプルなアーキテクチャでしたが、現在ではResNets、DenseNets、EfficientNetsなどのより複雑で強力なモデルに引き継がれています。これらのモデルは確かに制度といった面で正確ではあります。しかし、複雑性は増加し、さらにモデルによっては低速です（FLOPが低いものもあります）。そのため、比較的シンプルなVGGやResNetsは実世界でのアプリケーションにも広く利用されています。本論文では、最新のモデルに匹敵する精度を持ちながら、優れた推論速度を持つ新しいなVGG-like CNNアーキテクチャを提案しています。これは、後述するように、より複雑なモデルで学習し、後でモデルをより単純なアーキテクチャに再構築して推論するモデル：RepVGGによって実現されます。

Thapa Samrat

今大阪大学の電子情報工学科で学習している2年生のネパールからの留学生です。 機械学習・深層学習に興味あります。だから、暇なときにそれらについて記事を書いています。