深度远距离学习真的是 "大跃进 "了吗?一篇论文重新评价了最近的研究!
三个要点:
✔️ 深度距离学习在过去四年中宣称准确率显著提高,但由于实验设置的错误,这一点值得怀疑。
✔️三个问题:对比方法不公平,使用测试数据的反馈进行训练,以及衡量准确率的指标薄弱。
✔️提出一种评价远程学习算法的新方法。
将新的评价方法与传统算法进行比较,可以看出,近年来的 "大跃进 "其实只是一个不大的进步。
A Metric Learning Reality Check
written by Kevin Musgrave, Serge Belongie, Ser-Nam Lim
(Submitted on 18 Mar 2020)
Comments: Published by arXiv
Subjects: Computer Vision and Pattern Recognition (cs.CV)
介绍:
在ECCV2020上,Facebook的研究人员指出,过去4年所做的远程学习并没有从基本的对立/三联输发展起来。原因有很多,评价太粗放。此外,我们还提出了一些研究,可能在测试中设置了超参数。
这个研究将是2020年8月24-27日召开的ECCV的内容,我们在4月份的时候就已经介绍过了,这是ECCV上的一个热门话题,希望大家在重新编写下再追问一下。尤其是从不公平的业绩比较部分开始,这一点尤为重要。
什么是远程教育?
度量学习是训练函数的通用术语,训练函数对数据进行嵌入,使相似的数据相互靠近,不相似的数据相互远离,并映射到一个嵌入空间。
这样做的原因是,虽然区分A和C或B和C很容易,但比如在对下面这样的数据进行分类时,似乎很难区分A和B。
这是因为A、B两类数据所属的距离很接近。如果我们能将这些数据用某种函数嵌入到一个独立的空间中,使同一类的数据相互靠近,不同类的数据相距较远,如下图所示,应该更容易区分A和B。
深度度量学习指的是所有使用深度神经网络(DNNs)作为嵌入输入数据的函数的方法。深度距离学习的目的是通过使用在各种任务(包括图像识别任务)中具有较高泛化性能的DNNs作为嵌入函数,以达到比传统方法更高的精度。
要阅读更多。
你需要在AI-SCHOLAR注册。
或与本文相关的类别