【机器学习】有监督、无监督、自监督、半监督、弱监督的区别
发布时间
阅读量:
阅读量
- 有监督:用有标签的数据训练;
- 无监督:用无标签的数据训练;
K-means等
半监督方法基于数据分布的特征假设,在未标注样本上构建学习器以完成标注任务。通常分为两个阶段:首先使用(较小规模)带有标注的数据来训练Teacher模型;然后使用该教师模型对(大规模)未标注的数据进行预测以生成伪标签,并将这些伪标签作为Student模型的训练数据来源;此外还有知识蒸馏技术。
自监督学习的核心思想在于利用数据本身生成简单的标签信息进行学习,并理论上能够提取图像中的特征信息;随后在此基础上可接续其他任务(如拼图还原、图像修复或角度预测等)。具体实施时可采用以下方法:将图片分割为多个区域并打乱顺序后恢复;将部分区域挖空使其预测还原;或对图片旋转一定角度使其预测旋转幅度等操作。
- 弱监督:用包含噪声的有标签数据训练。
标签的强弱指的是标签蕴含的信息量的多少,比如 相对于分割的标签来说,分类的标签就是弱标签 ,如果我们知道一幅图,告诉你图上有一只猪,然后需要你把猪在哪里,猪和背景的分界在哪里找出来,那么这就是一个已知若标签,去学习强标签的弱监督学习问题。
比如使用一个分类网络,然后加入注意力机制,根据空间注意力的值,获得分割效果。(貌似是什么grad网络)
参考链接
深度学习的基本概念涵盖多种类型的学习方法包括基于数据的有标签(supervised)学习、无标签(unsupervised)学习以及混合型的学习框架如半监督(semi-supervised)、弱监督(weak-supervision)、多示例(multi-example)以及迁移式(transfer learning)技术。这些方法各有其特定的应用场景和发展背景
全部评论 (0)
还没有任何评论哟~
