让视频拍摄更智能 OPPO FDF全维人像视频系统解析

让视频拍摄更智能 OPPO FDF全维人像视频系统解析
2020年11月25日 15:42 新浪科技-自媒体综合

  随着移动互联网的发展,视频已经日渐成为了用户之间交流主要内容形式。同时拍摄各类长短视频也已经成为了用户使用手机的主要需求之一,并且普通用户常常将短视频用于社交用途,因此在用户拍摄的视频内容当中以人为主体的人像视频占比非常高。

  针对这一流行趋势,在近日举办的OPPO“未来科技大会2020”上,OPPO公布了最新研发的“OPPO FDF全维人像视频技术系统”,该系统由感知人像和画质增强两大引擎组成。据OPPO官方介绍,该系统可以有效提升人像视频的拍摄体验。

  OPPO FDF全维人像视频技术系统

  OPPO FDF全维人像视频技术系统作为一种新生事物,不由得令人好奇,其能在哪些方面提升人像视频的拍摄体验?OPPO又为这一技术系统配备了哪些新技术;下面便为大家详细解析一下。

AI助力人像视频拍摄

  在人像视频拍摄中,对于拍摄算法而言首要的自然是要精准的识别人脸。因为在成功识别并捕捉到人脸之后,算法才能够进行相应的优化,而要做到快速精准的人脸识别,需要用到感知人像引擎中的AI人脸检测技术。

  AI人脸检测

  OPPPO的AI人脸检测技术采用了深度可分离卷积模型,在卷积结构中,每个卷积核只负责卷积单一通道,可以以更少的参数量完整特征图谱的生成。该模型相比其它方案,体量更小、运算耗时更短,可以更快的做到人脸识别。

  为了加强AI人脸检测的检测效果,OPPO还在模型中引入了FPN结构,对金字塔中的每一层尺寸不同的特征图进行融合,可以实现准确率更高的检测效果。由此,OPPO FDF全维人像视频技术系统的AI人脸检测技术可以做到高达99.78%的AI人脸检测准确率,移动平台单帧检测耗时低至25ms。

  在快速精准的进行了人脸识别之后,便需要对人脸进行分析,进一步的优化提供数据基础。在这一环境下OPPO采用了感知人像引擎的AI人脸关键点检测技术。

  AI人脸关键点检测

  该技术能够检测296个人脸关键点数量,同时通过对AI人脸关键点检测模型的LOSS函数进行优化,并在算法中加入关键点是否可见判断、人脸角度判断等辅助信息,来为之后的AI算法提供数据模型基础。

  在掌握了人脸的数据模型之后,OPPO FDF全维人像视频技术系统的感知人像引擎便可以对人像的拍摄质量进行优化。其不但可以通过AI算法实现人像图像清晰度的提升,还能对肤质进行优化、并实现人脸畸变矫正等功能。

  感知人像引擎

  用户在暗光、长焦拍摄、拍摄时手抖等情况下往往会拍摄到画面模糊、不清晰的视频画面。因为在生活中值得记录的瞬间往往是不能二次拍摄的,所以如何拯救这些模糊的视频画面变得特别重要。

  AI超清人像

  感知人像引擎的AI超清人像功能,可以对模糊的画面进行处理,得到更清晰、细节表现更细腻的画面。该功能的AI算法神经网络模型中加入了Portrait SR Model(超分模型),并可以在PostProcessing(后处理模型)中进一步优化画面噪点表现。

  AI超清人像

  国内用户对于人像视频中的美颜算法是十分关注的,为此OPPO在FDF全维人像视频技术系统中引入了OFL肤质优化算法,可以实现AI肤色检测和AI祛瑕疵功能。

  OFL肤质优化算法

  在AI肤色检测功能的神经网络模型中,OPPO改进了网络架构和LOSS函数,使模型收敛速度更快。再经过海量大数据进行验证和测试,最终实现96.5%的皮肤区域检测准确率和97.4%的脸部皮肤精度。

  AI肤色检测

  同时,还实现了针对脸部、脖子、手部的大范围皮肤区域检测。进而避免画面出现脸、脖子和手皮肤表现不一致的问题。

  AI肤色检测

  AI祛瑕疵功能可以精准区分用户脸部的“瑕疵”是天生的特征还是后天的瑕疵,比如斑、痘痘、眼袋、法令纹等影响用户表现的瑕疵会经过AI算法处理消除。其还具备分阶采样能力,确保AI祛瑕疵神经网络模型适用更广泛的用户场景。

  AI祛瑕疵

  AI祛瑕疵

  在用户使用前置广角镜头进行人像视频拍摄时,往往会遇到因超广角镜头光学特效导致的画面畸变问题。而以往的算法在对人脸畸变进行矫正的过程中,通常会出现“人脸畸变矫正的同时,背景画面也变形了”。OPPO人脸畸变矫正算法则可以实现人脸畸变矫正,且保持背景画面自然、不变形。

  人脸畸变矫正算法

  据OPPO官方资料介绍,感知人像引擎在获取到传感器上的透视投影图像后,再对画面进行一次球面投影,两次投影分别得到真实形态的背景画面和人物画面,而后对两个画面进行叠加生成矫正后的新画面,实现人物和背景的自然矫正,最终实现人美,景也美。

多技术融合 视频画质再升级

  OPPO FDF全维人像视频技术系统除了能够通过AI算法来改善用户在拍摄人像视频时的诸多特别之外,该技术系统的画质增强引擎还能够有效提升人像视频的画质。

  画质增强引擎

  视频拍摄时的画面抖动一直以来都是视频作品创作的难题,对此画质增强引擎引入了新一代超级防抖算法。该算法加入了场景检测功能,可以通过检测手机陀螺仪、加速度计和Sensor的数据,对运动轨迹、姿态和曝光进行判断,建立不同拍摄场景下的抖动模型,并针对性地匹配防抖策略。

  新一代超级防抖算法

  OPPO新一代超级防抖算法应用到移动延时摄影中,还额外增加了运动趋势判断,使被抽取出来的多帧画面过渡更平滑,并且实现更长时间跨度的防抖。

  移动延时摄影

  画质增强引擎中还集成了超级夜景和视频HDR 融合算法,可以根据环境自适应调节各模块处理效果,实现画面亮度表现更均匀、过渡更自然、噪点更少和色彩表现更真实的效果。同时其还打造了在3-HDR基础之上发展而来的DOL-HDR(准同时多帧动态融合)方案,DOL-HDR算法中多帧的长短曝光几乎同时进行,可以大幅缩减前后帧的间隔时间,有效地改善拍摄时出现“鬼影”的问题。

  超级夜景和视频HDR

  超级夜景和视频HDR

  OPPO FDF全维人像视频技术系统的画质增强引擎所集成的各项技术能够有效提升人像视频最后的成片质量,并且OPPO会陆续把HDR、夜景、超级防抖等方面的技术开放给抖音和快手等第三方平台使用,未来在使用第三方视频APP进行拍摄时也同样可以使用OPPO先进的视频画质增强技术。

  共享技术接口

OPPO人像视频技术领先的背后

  通过上文大家已经了解到了OPPO FDF全维人像视频技术系统的领先优势,那么OPPO又是如何做到这一点的呢?

  首先这自然离不开OPPO在影像多年来的技术积累,从2012年开始,OPPO便在全球范围陆续布局人像拍摄相关专利,包括中国、美国、德国、法国、英国、印度以及日韩等25个国家地区。截至目前,专利申请总数量700+件、500+专利族,其中已授权专利200+,发明专利占比约为80%,涉及人像美颜、虚化、防抖、夜景、AI人像等多方位技术。

  专利布局

  并且OPPO同时也十分重视影像团队的建设,目前影像团队在全球拥有五大影像团队,包括深圳团队、上海团队、成都团队、日研所(横滨)团队和美研所(硅谷)团队。

  OPPO魔镜专项

  在进行技术研发的同时,OPPO也没有忽视用户的意见。OPPO通过OPPO魔镜专项,对对用户、导购、人像摄影师、明星修图师、资深肌肤专家进行访谈、跟拍,挖掘用户在人像拍摄时在意的因素,进而总结出“好的人像视频”新定义。

  “好的人像视频”新定义

总结

  由于普通用户很难像专业的摄影师一样使用手动对焦、辅助打光、大光圈虚化等专业手法去拍摄人像视频,因此对于用户而言如果有一套表现优秀的人像视频技术进行系统级优化,便可帮助用户提升人像视频的拍摄质量。而这正是OPPO想要通过OPPO FDF全维人像视频技术系统做到的,也对行业进入人像视频专业化时代起到了引领作用。

  据OPPO方面透露,首款搭载OPPO FDF全维人像视频技术新品将于12月面世,届时我们便可以实际体验到FDF全维人像视频技术系统所带来的视频拍摄体验升级。

OPPO
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片