没有绿幕,AI也能完美视频抠图,发丝毕现,毫无违和感|CVPR

时间:2022-10-12 00:04:16 | 浏览:575

在阳台上给小姐姐拍个视频:再把她P到喷泉广场:需要几步?现在,无需绿幕,AI 就能搞定这件事。就像这样,随便用手机给小姐姐拍张照片,再在同一地点拍张不带人像的背景图。深度神经网络就能自动分析出 alpha 遮罩和前景色,把小姐姐的发丝都抠得

在阳台上给小姐姐拍个视频:

再把她P到喷泉广场:

需要几步?

现在,无需绿幕,AI 就能搞定这件事。

就像这样,随便用手机给小姐姐拍张照片,再在同一地点拍张不带人像的背景图。

深度神经网络就能自动分析出 alpha 遮罩和前景色,把小姐姐的发丝都抠得根根分明。

视频也是如此。

让憋着笑的同事在实验室白板前表演一段广播体操,再给背景板单独来一张,就可以无中生有把同事“转移”到大厅里,引来路人围观了。

这是来自华盛顿大学的一项最新研究,无需绿幕,无需手动创建 Trimap,一个具有对抗性损失的深度神经网络,就能准确预测遮罩,给照片视频抠图。

论文已经中了 CVPR 2020,代码即将开源。

深度抠图网络 + 鉴别器网络

那么,这样的抠图特技是如何炼成的?

研究人员表示,是具有对抗性损失的深度网络 + 判断合成质量的鉴别器。

深度抠图网络

研究人员先在 Adobe Matting 数据集中的非透明对象子集上对深度神经网络 G 进行了监督训练。

输入是带人像的照片 I 和照片中的背景 B’,以及人像软分割 S 和 运动先验 M(仅对视频而言)。

需要注意的是,在真实环境中,B’ 是通过在真实背景的前景区域随机加入噪声而生成的。

依据输入,网络会预测出 alpha 遮罩 α 和前景图像 F。

研究人员提出用背景切换块(Context Switching block,CS block)来取代基于残差块的编码器-解码器。

有什么不同?

举个例子,当人的一部分与背景相匹配的时候,网络会将更多精力放在该区域的细分线索上。

G 网络有四个不同的编码器,分别适用于 I,B’,S 和 M 四种输入。每个编码器分别生成256个通道的特征图。

通过 1×1 卷积,BatchNorm 和 ReLU,I 中的图像特征分别与 B’,S 和 M 结合,每一对组合都会生成 64 通道特征。

最后,将这 3 个 64 通道特征与原始的 256 通道图像特征组合在一起,生成编码后的特征,并传递到由残差块和编码器组成的其余网络。

在未标记真实数据上的对抗训练

CS block 和数据增强的结合,可以有效弥合真实图像与 Adobe数据集创建的合成图像之间的差距,但真实图像中仍然有存在一些难点:

  • 将手指、手臂、头发周围的背景痕迹复制到遮罩中;

  • 分割失败;

  • 前景色的重要部分与背景颜色接近;

  • 人像照片和背景照片之间没有对准。

为了应对这些问题,研究人员还提出了一种自监督方案,从未标记的真实数据(真实图像 + 背景)中学习。

用深度抠图网络 G 的单独副本 GReal 组成对抗网络,对抗网络会生成类似于 GAdobe 输出的遮罩,而鉴别器网络 D 会判别结果的真假。

研究人员使用真实输入(手机拍摄)联合训练 GReal 和 D,并用 GAdobe 来提供监督。

与SOTA方法的对比

研究人员将新方法与以下几种 SOTA 方法进行了定性比较:

  • 基于 Trimap 的 Context Aware Matting (CAM)和 Index Matting(IM);

  • 自动遮罩算法 Late Fusion Matting(LFM);

不难看出,效果改进着实明显。

你觉得怎么样?不妨mark一下,坐等开源。

毕竟有些大胆的想法,可能已经在酝酿了,是吧?

传送门

项目地址:
http://grail.cs.washington.edu/projects/background-matting/

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

相关资讯

南宁市新冠肺炎疫情防控指挥部召开视频会商调度会

农生文在市新冠肺炎疫情防控指挥部视频会商调度会上强调精准高效落实各项防控措施以最快速度阻断疫情传播链条廖立勇主持7月17日,市新冠肺炎疫情防控指挥部召开视频会商调度会,深入学习贯彻习近平总书记关于疫情防控工作的重要指示精神,坚决贯彻“外防输

果然视频|张店区十七届人大六次会议闭幕,苏振华当选区政府区长

果然视频|张店区十七届人大六次会议闭幕,苏振华当选区政府区长找记者、求报道、求帮助,各大应用市场下载“齐鲁壹点”APP或搜索微信小程序“壹点情报站”,全省600多位主流媒体记者在线等你来报料!

如何抠图到另一张图?抠图的方法分享

如何抠图到另一张图?众所周知,现在拍照已经成了记录生活最平凡的方式了,不管男女老少都有拍照片的习惯,拍照难免需要PP图、修修图片,拍了那么多的照片,最后结果只能用几张是不是特别的可惜,其实当一些背景不满意等等情况下,完全可以靠抠图把照片拯救

如何用微信给照片抠图换背景?方法非常简单,1分钟就能学会

生活中我们都喜欢拍照,有时候拍出来的照片背景不好看,想给照片换个背景,又不知道怎么操作。其实用微信给照片抠图换背景,方法非常简单,下面用1分钟教你学会。01 抠图AI首先我们打开手机上的微信,点击底部的「发现」,找到「小程序」,进入后在顶部

5秒抠图:PS设计大神是如何快速抠(扣)图的?

做设计的过程当中,特别是需要合成场景的设计中,经常要用到比较多的一个方面,就是素材,而素材却是需要抠(勾)图,才能更好的完成一幅作品。接下来,教大家抠(扣)图的一个简单实用而又快捷的方法:先看一张图:原图(一个盆栽)抠图效果大家看到这张图片

通过慧抖销配合AI智能,从抖音线上获取精准客户

推广渠道有哪些,推广引流方法、推广平台怎么选择、线上推广怎么做、抖音推广怎么做,抖音推广有几种方式,抖音推广合作方式、抖音推广怎么做有用,抖音推广要花多少钱、抖音怎么做推广慧抖销是一款基于短视频平台的智能营销获客系统,具备有多元化智能视频创

36氪专访丨「Whale帷幄」叶生晅:AI技术入驻直播间,通过算法提高消费者触达效率

随着近两年直播行业的蓬勃发展,用户对短视频依赖程度的持续加深,如何打造爆款直播间,增加直播流量,成为品牌方和网红主播高度关注的问题。短视频直播营销依托其表现力和传播能力方面的优势,受到了资本和品牌方的青睐,这也使得短视频直播成为品牌数字营销

最近大火的“AI外呼”就是换了马甲的“电销”吗?

最近网上对“AI外呼”的讨论非常多,许多人将其等同于“骚扰电话”、“电销机器”,前天我们从法规上说明了,“大厂做的AI外呼不是骚扰电话”,依然有用户跟我们掰扯说AI外呼就是换了马甲的电销,今天我们再从技术上、功能上来看看AI外呼到底是不是电

AI+大数据赋能精准营销和智能风控百融云创助推金融数字化转型

“十三五”以来,伴随新一代信息技术的快速演进,推动数字经济不断发展壮大,使得消费互联、产业互联与金融服务更紧密结合,线上化、数字化、智能化的“非接触服务”逐渐普及。特别是在新冠肺炎疫情倒逼之下,我国金融业积极谋变,数字化转型进程明显加快。提

小初高学英语难?讯飞AI翻译笔P20Plus深度同步教材,对症下药

随着“双减政策”的实施,课外辅导机构已经基本被取缔了,家长又要开始担心孩子的学习问题了,尤其是英语,作为一门主流的沟通语言,学好它对孩子未来的发展大有裨益。这也就意味着学科类学习重心回归课本的教育方式再次到来,回归课本有利于巩固孩子们的基础

友情链接

天天财经元宇宙中国SEO域名抢注宝宝起名网网站监控妈妈知道家电维修论坛唐嫣影迷网王源歌迷网吊顶品牌网风再起时电影网营养师学习网免费素材网股票证券网杭州旅游网泰迪狗资讯网袁大头银元收藏奥斯陆旅游网老凤祥黄金水族养鱼器材网理财投资网
PS抠图网-初学者ps抠图步骤、ps教程入门抠图、photoshop在线修图、免费的ps修图软件、下载ps修图软件免费版、下载ps修图软件免费版、美图秀秀网页版入口、美图秀秀下载官网、秀秀app下载免费版下载新版、美图秀秀最新版本、美图秀秀最新官方版下载资讯。
PS抠图网 nimeiling.cn©2022-2028版权所有