1.Apple Vision Pros使用的视频视频MV-HEVC编码格式
Apple Vision Pros使用的MV-HEVC编码格式
MV-HEVC,全称Multiview High Efficiency Video Coding,源码源码是视频视频HEVC(High Efficiency Video Coding)编码标准的扩展部分,记为HEVC version 2。源码源码这一视频编码标准自年7月发布以来,视频视频相关标准于年月发布。源码源码lsqcurvefit源码然而,视频视频尽管这一标准已发布近十年,源码源码但在具体业务中的视频视频应用却并不多。
年6月,源码源码在WWDC开发者大会上,视频视频苹果公司宣布,源码源码通过iOS .2 Beta版本,视频视频iPhone Pro能够拍摄出Apple Vision Pro的源码源码空间视频,而Apple Vision Pro所采用的视频视频视频编码格式,正是MV-HEVC。
为何苹果选择使用MV-HEVC格式来实现3D视频编码?在开发者大会上,苹果介绍了3D视频的视频,链接地址如下:developer.apple.com/vid...
苹果表示,排版软件源码下载MV-HEVC实际上是HEVC,而目前对HEVC视频编码格式支持最好的或许就是苹果。无论是基于HEVC的HEIF静态格式、HEVC的动图live photo,还是苹果的HEVC视频hvc1,苹果都提供了良好的支持。
苹果在开发者大会上所提到的“空间视频”,其原理与我们在**院看的3D**类似,都是什么是公式源码利用人眼的左右眼视差来制造和表现“立体”效果。
从视频编解码的角度来看,使用MV-HEVC方案的好处是,它可以在不改变slice层以下的HEVC原有语法和解码过程下,通过layer间预测技术实现对3D和多视角视频的支持。这也意味着MV-HEVC可后向兼容和使用现有的HEVC编码器和解码器,不需要有较大的修改,仅修改high level语法即可。
如果对MV-HEVC格式做了Block Level语法的修改,此时对应的无驱强制源码便是JCT-3V制定的3D-HEVC格式,它的压缩性能要比MV-HEVC更高,会有额外的压缩性能的工具。
目前MV-HEVC和3D-HEVC的参考软件都是同一套代码,叫做HTM。hevc.hhi.fraunhofer.de/...
HTM的代码是使用SVN进行版本管理的,如果想下载源码,在macOS上可以在终端直接使用下面的命令检出代码:
在HTM源码的TypeDef.h头文件中,可以看到有一个HEVC_EXT宏,如果这个宏的在线编辑excel源码值是1,此时编译的就是MV-HEVC,而如果是2,此时就是3D-HEVC。
在MV-HEVC标准中语法元素LayerId,表示该NALU所归属的view。在空间视频中,通常用LayerId 0表示该帧属于左视点(通常也是主视点),LayerId 1则表示属于右视点(辅视点)。
属于主视点的图像编码参考帧规则保持和沿用标准HEVC,它得到的码流就是标准HEVC码流,而辅视点每一帧图像编码多了视点间的参考帧,如果显示设备还不支持解码和播放MV-HEVC格式,那就可以只解码和显示主视点的标准HEVC码流,就像把3D**用2D来看一样。
实际上3D-HEVC,MV-HEVC以及Scalable HEVC有一样的层间预测技术,都可以抽取出base view码流,且能用支持Main profile的HEVC解码器来解码。而3D-HEVC里还可以抽取出MV-HEVC的码流,因为MV-HEVC加上Depth信息就是3D-HEVC,而HEVC加上delta信息就是MV-HEVC。
最后,再来看一下MV-HEVC名字里的view具体是什么?view表示All layers belonging to the same camera perspective,包括像苹果的MV-HEVC格式,通常是有2个view,分别是left view和right view,对应人眼的左眼和右眼。
当然也可以有多个view,下图是4个layer和2个view的编码结构和参考依赖图。
以上是对MV-HEVC的简单介绍,由于目前能够支持对其进行正常解析和解码的硬件和软件几乎没有,所以暂时不能对实际拍摄的空间视频做更多分析和介绍。更多MV-HEVC对高层语法的修改内容请参考文章后面的参考资料4。
虽然今天来看MV-HEVC不是什么新技术,但苹果能在自家手机和消费终端Apple Version Pro上首次推广和使用这个技术,让这个技术更接近用户,此举是值得点赞的。而对我们这些视频编解码算法工程师来说,一项编码技术能有更多的业务应用,也是好事。
参考资料
1. ieeexplore.ieee.org/sta...
2. developer.apple.com/av-...
3.Standardized Extensions of High Efficiency Video Coding (HEVC)
4.Overview of the Multiview and 3D Extensions of High Efficiency Video Coding
5. pastebin.com/qZ1xSmuc#...