Consistent Teacher:一种简单有效的半监督目标检测器

原文:Wang X, Yang X, Zhang S, et al. Consistent Teacher Provides Better Supervision in Semi-supervised Object Detection[J]. arXiv preprint arXiv:2209.01589, 2022.

在这项研究中,我们深入探讨了半监督目标检测(SSOD)中的独特挑战。我们观察到目前的检测器普遍存在3种不一致问题。(1)匹配不一致,即传统匹配策略对标注噪声敏感。(2)子任务不一致,即分类和回归预测在同一特征点不一致。(3)时间不一致,即在不同的训练步骤中,伪bboxes会发生显著变化。这些问题导致学生网络的优化目标不一致,进而导致模型性能下降,收敛速度变慢。为了应对上述挑战,我们提出了一个系统的解决方案,称为Consistent-Teacher。首先,我们用自适应锚匹配替代基于IoU的静态策略,使学生网络能够抵抗噪声干扰。然后,我们通过特征对齐模块来校准子任务预测。最后,我们采用高斯混合模型(GMM)动态调整伪bboxes的阈值。Consistent-Teacher为一系列SSOD评估提供了新的强大基线。Consistent-Teacher仅使用10%的MS-COCO标注数据,用ResNet-50就达到了40.0 mAP,超过之前的基线约4 mAP。当同时使用10%的MS-COCO标注数据和90%的无标注数据时,Consistent-Teacher的性能进一步提高到了49.1 mAP。

图1:(a)匹配不一致问题。(b)分类-回归子任务不一致问题。(c)时间不一致问题。

图2:Consistent-Teacher的流程图。

图3:Consistent-Teacher中不同PB-bboxes的匹配结果。黄色和红色矩形分别表示正特征点和负特征点。每个矩形内的数字表示其匹配成本。

图4:Consistent-Teacher的检测头结构。左侧为头部结构,右侧为3D FAM模块。

图5:两种高斯混合的分数分布和拟合结果。正、负分布分别用橙色和蓝色线条表示。蓝色虚线表示最终阈值。

表1:使用IOU-Confidence线性回归误差进行分类和回归不一致性分析。

图6:训练步数和噪声比对IOU匹配分数的影响。

图7:GMM阈值随训练步数的变化情况。

表2:在COCO-partial基准上,Consistent-Teacher与其他半监督检测器的比较。所有模型均采用ResNet50-FPN作为骨干网络。

表3:在VOC-partial基准上,Consistent-Teacher与其他半监督检测器的比较。所有模型均采用ResNet50-FPN作为骨干网络。

表4:在COCO-addition基准上的实验结果。

表5:在COCO 10%基准上,IOU-based和ASA匹配方案的比较。

表6:检测头结构的消融研究。

表7:基于GMM的伪标签过滤方法的消融研究。

表8:在不同比例的COCO标记数据上,GMM的消融研究。

图8:仅使用10%的COCO标记数据微调Consistent-Teacher和Mean-Teacher的定性结果比较。紫色边框是预测结果,橙色边框是真实结果。红色边框是假阳性预测结果。

图9:仅使用10%的COCO标记数据微调Consistent-Teacher的良好检测结果。紫色边框是预测结果,橙色边框是真实结果。

图10:仅使用10%的COCO标记数据微调Consistent-Teacher的失败检测结果。紫色边框是预测结果,橙色边框是真实结果。

表9:用于有标记图像的数据增强方法。

表10:用于无标记图像的弱数据增强。

表11:用于无标记图像的强数据增强。

表12:Appearance transformations。

表13:Geometric transformations。

本文系统地研究了半监督目标检测中的三种不一致问题,即匹配不一致、分类-回归子任务不一致和时间不一致。为了缓解上述挑战,我们提出了一种简单有效的半监督目标检测器,称为Consistent-Teacher。我们引入了Consistent anchor assignment和FAM方法,使分类和回归任务保持一致。我们利用高斯混合模型(GMM)动态调整自训练阈值,以解决时间不一致的问题。Consistent-Teacher为一系列SSOD评估提供了新的强大基线。

多模态人工智能

为人类文明进步而努力奋斗^_^↑

欢迎关注“多模态人工智能”公众号^_^↑

Civisky
关注 关注
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
MATLAB算法实战应用案例精讲-【深度学习】多尺度特征融合-目标检测(论文篇五)
qq_36130719的博客
04-15 1590
检测的图像,首先设置输入网络大小,然后将滑动窗口按照一定步长对图像进行滑动,微小的卷积神经网络,其使用卷积核在卷积神经网络中对输入图像信息进行卷积处理,传统行人检测技术进行分析,然后介绍基于深度学习行人检测算法,为后续行人检测。出,能够很好的描述行人的边缘,因此广泛应用于行人检测。的静态图像,往往采用梯度直方图方法获取行人图像的局部特征信息,然后计算所有。个单元格的特征将以不同的结果出现在最后的向量中,所有的小单元特征信息将构成。目的成果,使得行人检测检测技术成为基于深度学习目标检测领域的研究热点。
【ICLR 2021】半监督目标检测:Unbiased Teacher For Semi-Supervised Object Detection
梁瑛平的博客
06-27 1314
半监督学习,即同时使用有标记和未标记数据的训练网络,最近取得了重大进展。 然而,现有的工作主要集中在图像分类任务上,而忽略了目标检测。 因此在这项工作中,作者重新讨论了半监督对象检测(SSOD),并确定了SSOD中的伪标记偏差问题。为了解决这个问题,作者引入了无偏见教师模型(Unbiased Teacher),这是一种简单有效的方法,以互惠互利的方式共同训练学生模型和逐步进步的教师模型。...
总结 | 半监督目标检测
小白学视觉
10-30 656
点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达近期阅读了一些半监督目标检测(Semi-Supervised Object Detection,SSOD)的文章,特此总结,以供未来查阅。什么是半监督目标检测?传统机学习根据训练数据集中的标注情况,有着不同的场景,主要包括:监督学习、弱监督学习、弱半监督学习、半监督学习。由于目标检测任务的特殊性,在介绍半监督目标检测方法之前,...
深度学习半监督学习:一文梳理目标检测中的半监督学习策略
最新发布
absence521的博客
07-02 1116
传统机学习根据训练数据集中的标注情况,有着不同的场景,主要包括:监督学习、弱监督学习、弱半监督学习、半监督学习。由于目标检测任务的特殊性,在介绍半监督目标检测方法之前,我们查看一下目标检测在四个方向上的具体设定:有监督目标检测:拥有大规模带标签的数据,包括完整的实例级别的标注,即包含坐标和类别信息弱监督目标检测:数据集中的标注仅包含类别信息,不包含坐标信息弱半监督目标检测:数据集中拥有部分实例级别的标注,大量弱标注数据,模型希望利用大规模的弱标注数据提升模型的检测能力半监督目标检测
半监督目标检测(一)
wutongxdf的博客
11-07 2196
总结一些阅读过的半监督目标检测论文:A Simple Semi-Supervised Learning Framework for Object Detection / Rethinking Pseudo Labels for Semi-Supervised Object Detection
半监督目标检测(四)
wutongxdf的博客
11-24 2051
Dense Learning based Semi-Supervised Object Detection / Dense Teacher: Dense Pseudo-Labels for Semi-supervised Object Detection
半监督目标检测(二)
wutongxdf的博客
11-11 1838
Humble Teachers Teach Better Students for Semi-Supervised Object Detection / Instant-Teaching: An End-to-End Semi-Supervised Object Detection Framework
半监督目标检测yolo+FixMatch
weixin_38640670的博客
05-19 2171
目前实验发票印章检测,只需1张训练集即可达到0.921(mAP.5),如果用31张训练集可达到0.952(mAP.5),无标签数据均使用600张。 待填坑,敬请期待……
混图块和非混特块用于半监督目标检测
145120MUM:混合图像块和非混合特征块用于半监督目标检测0JongMok Kim 1 , 2 JooYoung Jang 1 , 2 Seunghyeon Seo 2 Jisoo Jeong 2 Jongkeun Na 1 Nojun Kwak 201 SNUAILAB,韩国 2 首尔...
SESS:自我集成的半监督三维物体检测
110790SESS:自我集成的半监督三维物体...受到半监督图像分类任务中自我集成技术的最近成功启发,我们提出了SESS,一种自我集成的半监督三维物体检测框架。具体而言,我们设计了一个全面的扰动方案,以增强网络在未标
基于不确定性引导的交叉头共训练用于半监督语义分割
我们提出了一种新的学习框架,称为基于不确定性引导的交叉头共训练(UCC),用于半监督语义分割。我们的框架在共享编码内引入了弱增强和强增强,以实现共训练,自然地结合了一致性和自训练的优势。每个分割头与其...
基于半监督学习的SAR目标检测网络.pdf
03-04
现有的基于卷积神经网络(CNN)的合成孔径雷达(SAR)图像目标检测算法依赖于大量切片级标记的样 本,然而对SAR图像进行切片级标记需要耗费大量的人力和物力。相对于切片级标记,仅标记图像中是否含有目 标的图像级标记较为容易。该文利用少量切片级标记的样本和大量图像级标记的样本,提出一种基于卷积神经网 络的半监督SAR图像目标检测方法。该方法的目标检测网络由候选区域提取网络和检测网络组成。半监督训练过 程中,首先使用切片级标记的样本训练目标检测网络,训练收敛后输出的候选切片构成候选区域集;然后将图像 级标记的杂波样本输入网络,将输出的负切片加入候选区域集;接着将图像级标记的目标样本也输入网络,对输 出结果中的正负切片进行挑选并加入候选区域集;最后使用更新后的候选区域集训练检测网络。更新候选区域集 和训练检测网络交替迭代直至收敛。基于实测数据的实验结果证明,所提方法的性能与使用全部样本进行切片级 标记的全监督方法的性能相差不大。
It’s All In the Teacher ZeroShot Quantization Brought Closer to the Teache
青灵_Yaffa的博客
04-25 1404
@TOC(Oral) paper) 作者:Kanghyun Choi1, Hye Yoon Lee1, Deokki Hong1 学校:1College of Computing, Yonsei University,CLOVA影像视觉,CLOVAAI实验室,NAVER Abstract 模型量化被认为是一种大大降低深度神经网络资源需求的有前途的方法。为了处理量化误差引起的性能下降,一种常用的方法是利用训练数据对量化网络进行微调。然而,在现实环境中,这种方法往往是不可行的,因为由于安全、隐私或保密性的问题,
Consistent-Teacher
whaosoft143ai的博客
05-30 205
据观察,静态作业对教师预测的边界框中的噪声很敏感,因为假边界框中一个小的扰动可能会极大地影响作业结果。该论文提出了一种新的方法,称为“Consistent-Teacher”,用于减少伪目标(pseudo-targets),这些伪目标是由于标签的不一致性而引入到训练中的错误对象。如下图所示,教师输出的微小变化导致伪框边界中的强噪声,导致在基于IoU的静态分配下,错误目标与附近对象相关联。在Mean-Teacher中,不一致的伪目标导致分类分支上的过拟合,而回归损失变得难以收敛。(右)伪标签和分配动态的快照。
半监督目标检测
Highlight_Jin的博客
02-03 1372
半监督学习框架
【论文笔记】半监督目标检测(Semi-Supervised Object Detection,SSOD)
m0_61899108的博客
02-16 5925
前言 本文转载于半监督目标检测(Semi-Supervised Object Detection,SSOD)相关方法介绍 - 知乎 本文结合相关论文介绍了一些半监督目标检测(Semi-Supervised Object Detection,SSOD)算法,即如何利用大量的 unlabeled data 提升模型的检测性能。 什么是半监督目标检测? 传统机学习根据训练数据集中的标注情况,有着不同的场景,主要包括:监督学习、弱监督学习、弱半监督学习、半监督学习。由于目标检测任务的特殊性,在介绍半监
半监督目标检测(五)
wutongxdf的博客
12-01 1130
Semi-supervised Object Detection via Virtual Category Learning
写文章

热门文章

  • SimCLR:一个简单的视觉表示对比学习框架 10969
  • BYOL:一种新的自监督学习方法 7888
  • GLIP:语言-图像关联预训练模型 7067
  • 多模态深度学习 6418
  • DALL·E:用文本生成图像 4717

最新评论

  • DETR:基于Transformer的端到端目标检测方法

    m0_47974888: 想问下推理阶段第三步的置信度是怎么来的呀?

  • Consistent Teacher:一种简单有效的半监督目标检测器

    Civisky: 目前还没开源

  • Consistent Teacher:一种简单有效的半监督目标检测器

    xx忘记思考了: 代码没开源吗

  • 人工智能辅助检测儿童自闭症谱系障碍

    Civisky: sorry,我当时也没存

  • CLIP4Clip:用于端到端视频检索的CLIP实证研究

    梦坠凡尘(AICV与前沿): 为什么tight_Tranf的相似度计算模块效果很差

最新文章

  • FixMatch:简单有效的半监督学习算法
  • EMAN:自监督和半监督学习的指数移动平均归一化
  • 掩码自编码器(MAE)是时空学习者
2022年32篇
2021年38篇

目录

目录

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

玻璃钢生产厂家金昌景区玻璃钢雕塑价格商场中秋美陈方案阜康玻璃钢卡通座椅雕塑贵州创意玻璃钢雕塑定制三亚专业玻璃钢花盆制造厂家玻璃钢喷水龙雕塑玻璃钢战争雕塑江苏玻璃钢雕塑设计及定制上等玻璃钢雕塑玻璃钢人物浮雕雕塑计价清单玻璃钢铜雕塑生产福州玻璃钢人物雕塑定制新密铸造玻璃钢雕塑厂家北京节庆商场美陈制作福州玻璃钢雕塑三明模压法玻璃钢雕塑黑龙江玻璃钢仿铜雕塑价格宁夏玻璃钢雕塑加工厂家户外玻璃钢雕塑价位玻璃钢雕塑艺术照湖北玻璃钢熊猫雕塑厂家白云大型玻璃钢雕塑潮州人物玻璃钢动物雕塑个性山羊玻璃钢雕塑陆丰玻璃钢伟人像雕塑安徽玻璃钢商城广场美陈雕塑厂家商场秋冬美陈门头布置南平玻璃钢卡通雕塑厂家赤峰仿铜玻璃钢雕塑厂家南通玻璃钢雕塑厂价格如何计算香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声单亲妈妈陷入热恋 14岁儿子报警汪小菲曝离婚始末遭遇山火的松茸之乡雅江山火三名扑火人员牺牲系谣言何赛飞追着代拍打萧美琴窜访捷克 外交部回应卫健委通报少年有偿捐血浆16次猝死手机成瘾是影响睡眠质量重要因素高校汽车撞人致3死16伤 司机系学生315晚会后胖东来又人满为患了小米汽车超级工厂正式揭幕中国拥有亿元资产的家庭达13.3万户周杰伦一审败诉网易男孩8年未见母亲被告知被遗忘许家印被限制高消费饲养员用铁锨驱打大熊猫被辞退男子被猫抓伤后确诊“猫抓病”特朗普无法缴纳4.54亿美元罚金倪萍分享减重40斤方法联合利华开始重组张家界的山上“长”满了韩国人?张立群任西安交通大学校长杨倩无缘巴黎奥运“重生之我在北大当嫡校长”黑马情侣提车了专访95后高颜值猪保姆考生莫言也上北大硕士复试名单了网友洛杉矶偶遇贾玲专家建议不必谈骨泥色变沉迷短剧的人就像掉进了杀猪盘奥巴马现身唐宁街 黑色着装引猜测七年后宇文玥被薅头发捞上岸事业单位女子向同事水杯投不明物质凯特王妃现身!外出购物视频曝光河南驻马店通报西平中学跳楼事件王树国卸任西安交大校长 师生送别恒大被罚41.75亿到底怎么缴男子被流浪猫绊倒 投喂者赔24万房客欠租失踪 房东直发愁西双版纳热带植物园回应蜉蝣大爆发钱人豪晒法院裁定实锤抄袭外国人感慨凌晨的中国很安全胖东来员工每周单休无小长假白宫:哈马斯三号人物被杀测试车高速逃费 小米:已补缴老人退休金被冒领16年 金额超20万

玻璃钢生产厂家 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化