深層距離学習は本当に「大躍進」しているのか?近年の研究をリアルに評価し直す論文!

深層距離学習は本当に「大躍進」しているのか?近年の研究をリアルに評価し直す論文!

3つの要点
✔️ 深層距離学習は過去4年間で大幅な精度向上を主張してきたが、実験設定に誤りがあるためそれは疑わしい。
✔️ 比較方法がアンフェアであること、テストデータのフィードバックを訓練に利用していること、精度を測る指標の脆弱性の三つが問題。   

✔️ 距離学習アルゴリズムを評価するための新しい手法を提案し、実際にその評価方法でアルゴリズムを比較し、近年の「大躍進」が実はささやかなものに過ぎないことを示す。

A Metric Learning Reality Check
written by Kevin Musgrave, Serge Belongie, Ser-Nam Lim
(Submitted on 18 Mar 2020)

Comments: Published by arXiv
Subjects: Computer Vision and Pattern Recognition (cs.CV)

距離学習とは?

距離学習(Metric Learning)とは、似たデータ同士は近づき、似ていないデータ同士は離れるようにデータを埋め込み空間(embedding space)にマッピングするような関数を学習するタスクの総称です。

なぜそのようなことをするのかというと、例えば以下のようなデータを分類するとき、AとCまたはBとCを区別するのは容易な一方、AとBを区別するのは難しいように思われます。

なぜなら、AとBはそれぞれのクラスに属しているデータの距離が近いからです。これを、何らかの関数によって、下の図のように同じクラス同士は近く、違うクラス同士は遠くなるように別の空間に埋め込むことができれば、AとBの識別も容易になるはずです。

 

また、深層距離学習(Deep Metric Learning)とは、入力データを埋め込む関数にディープニューラルネットワーク(DNN)を利用している手法全般を指します。画像認識タスクをはじめ、様々なタスクで高い汎化性能を誇るDNNを埋め込み関数に利用することで、従来の手法を上回る精度を達成しようというのが深層距離学習の狙いです。

この記事をシェアする