赞
踩
比如说,我们想要训练对3类图片分别是 猪,牛,羊的模型,传统的监督学习是拿这3类的大量数据进行训练,然后得到一个模型。
而小样本学习是想要通过其他大量的图片样本(不包括猪,牛,羊)训练出一个模型(比如相似度函数),这个模型具有先验知识(判别两类相同或者不相同的能力),所以使用这个模型,可以用来分类猪,牛,羊这三类,因为此时我们的模型已经具有分类两种类别异同的先验知识了。这是元学习的其中一种思想,可以参考下https://www.bilibili.com/video/BV1aT4y1u7e6?p=3。
先验知识:cos函数可以用来评判两个向量之间的相似度,cosx=(a*b)/(|a|*|b|) ,当a和b为单位向量时,cosx=a*b (向量a和b的内积)
这里主要是想讲一种做小样本学习的有效简单的方法,方法的思路如下:
例如: 使用CNN训练,训练完成后将最后一层去掉。
回顾一下上面的few-shot实现问题,主要是:
这里我们设W=M b=0, W表示support_set中每类对应的均值归一化特征向量,如果support_set有三个类别,这样表示 ,这里并没有学习w和b
fine-tuning:思想是使用support_set的样本学习w和b。
学习的三个技巧:
(实际上就是把w和q在求内积之前,把w和q做归一化),得到:
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。