摘要 近年来,卷积神经网络(CNNs)和 transformers 等深度神经网络在图像分类领域取得了诸多成功。已有研究不断证实,图像分类的最佳实践是在丰富的标注数据上训练大型深度模型。然而,在许多现实世界场景中,获取最佳性能所需的大量训练数据的要求无法得到满足。在这些场景下,迁移学习有助于提高性能。迄今为止,尚无综述全面回顾与图像分类整体相关的深度迁移学习。我们认为,梳理现有知识并分析讨论总体规律,对该领域的未来发展至关重要。在本综述中,我们形式化定义了深度迁移学习及其在图像分类中试图解决的问题。我们调研了该领域的现状,并指出了近期的进展。我们展示了当前知识中存在的空白,并就如何推进该领域以填补这些知识空白提出了建议。我们提出了针对图像分类迁移学习解决方案和应用的新分类法。这些分类法有助于更容易看清迁移学习在哪些方面有效、在哪些方面未能发挥其潜力的总体规律。这也使我们能够指出问题所在以及如何更有效地利用它。我们证明,在此新分类法下,考虑到源数据集和目标数据集以及所使用的技术,迁移学习被证明无效甚至阻碍性能的许多应用场景实际上是在预料之中的。在许多此类案例中,关键问题在于将针对大型且高度相似的目标数据集设计的方法和超参数设置,应用到了规模较小且相似度低得多的目标数据集上。我们指出了有助于获得更好结果的替代选择。
Plested et al. (Thu,) 研究了这个问题。
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: