关于迁移学习的概述_迁移学习源域建立的目的

1. 概述

背景

传统的机器学习需要标注大量的数据，而使用过程中不同数据集可能存在一些问题：数据分布差异、标注数据过期、训练数据过期，也就是好不容易标定的数据要被丢弃，有些应用中数据的分布随着时间的推移会发生变化。

定义及分类

定义：给定由特征空间X和边缘概率分布P(X)组成的源域D-s和学习任务T-s，和同样由特征空间和边缘概率分布组成的目标域D-t和学习任务T-s，迁移学习的目的在于利用源域和源域中的学习任务中的知识来帮助学习在目标域和目标函数的过程。

目标：将某个领域或任务上学习到的知识或模式应用到不同但相关的领域或问题中。

主要思想：从相关领域中迁移标注或者知识结构、完成或改进目标领域或任务的学习效果。

迁移学习的形式定义及一种分类方式：

迁移学习中两个非常重要的概念：域和任务。域可以理解为某个时刻的某个特定的领域；任务就是要做的事。

关键点

1. 研究可以用哪些知识在不同的领域或者任务中进行迁移学习，即不同领域之间有哪些共有知识可以迁移
2. 研究在找到了迁移对象之后，针对具体问题所采用哪种迁移学习的特定算法，即如何设计出合适的算法来提取和迁移共有知识
3. 研究什么情况下适合迁移，迁移技巧是否适合具体应用，其中涉及到负迁移的问题

（当领域间的概率分布差异很大时，上述的假设通常难以成立，这会导致严重的负迁移问题。负迁移是旧知识对新知识的阻碍作用，比如学习汉语拼音对学习英文字母的影响）