Spectator View与Mixed Reality Capture不同之处
参加过HoloLens体验展的朋友们都曾反馈过一个信息,佩戴HoloLens时,混合现实产生的真实感固然不错。但是其他排队等待体验的人却无法体验到佩戴者所观测的场景,而由于HoloLens的混合现实技术与真实环境存在很多交互设计,所以在其他没有佩戴HoloLens的人们眼里,大家观看这些佩戴者的演示动作未免会显得有些“奇怪”。
为解决这一问题,在HoloLens设计时我们曾推出过Mixed Reality Capture(以下简称:MRC)系统。通过Device Portal中MRC系统,可以将HoloLens第一人称视角的混合现实画面实时捕捉并投射在屏幕之上,从第三人称视角解决方案来说,MRC系统仅仅是一种简单的解决方案,因为它直接内置在设备上,所以也受到设备本身的限制,屏幕画面效果上难免会有一些差强人意。为了增强这一效果,今年推出的Spectator View技术应运而生。
初次见到Spectator View时,了解过MRC系统的伙伴们对高清混合现实画面的同步效果非常讶异,对它的原理既好奇又新鲜。实际我们在很多场发布会上展现的混合现实画面就是利用Spectator View所拍摄的。从混合现实展现方式上,如果我们把它当成是HoloLens混合现实画面捕捉在各项性能上的增强版MRC就好理解的多,不过在展现方式上对比HoloLens本身的混合现实技术两者又略有不同。
今天将为大家细说Spectator view和MRC之间的区别在哪里。
我们先来大致熟悉一下什么是Spectator View?
Spectator View是一套解决高清混合现实画面,同时实时捕捉并录制的工具。做到这点,从硬件上首先需要有两台HoloLens、一部支持HDMI输出的摄录设备和一套高性能计算机来支持。
顶部支架的HoloLens为混合现实画面提供空间坐标信息,HDMI单反捕捉采集真实环境,再将两者信息传输回PC中,预制在PC内的虚拟物件结合真实环境和坐标位置进行实时合成渲染,形成最终屏幕上看到的混合现实画面。
相较于依靠HoloLens成像方式的MRC系统,Spectator View具有以下特性:
支持高清混合现实画面录制
多人视角协同
那么对比MRC系统,它的独特优势又有哪些?
1.视角更多元
MRC图像输出视角我们知道是以佩戴者第一人称视角看到的混合现实画面实时同步到屏幕上,而Spectator View在视角上借助单反等摄像设备,可以做到以第三人称视角捕捉混合现实画面,捕捉到包含佩戴者在内的混合现实画面视角。这样看来,Spectator View自上而下的兼容性对比MRC要强不少。
2.输出画面效果更佳、视野更广
由于MRC上的画面来自于HoloLens上200万像素的RGB摄像头,而Spectator View对于外接影像录制设备,具有HDMI接口的摄录装置都可以连接, 使用者可以根据环境的不同来选择摄录装置。输出画面分辨率可以达到1080p甚至4K左右。同时依靠单反等HDMI影像录制设备可以提供更旷阔的视野。
3.成像方式不同
Spectator View是将HoloLens上的部分运算移植到了具有更强计算能力的PC上,而对真实环境的捕捉也从只有200MP的RGB摄像头升级到了更好画质的单反,无论是虚拟环境还是真实环境画面的表现上,质量自然向前递进了一个层级。
HoloLens作为光线增强型设备本身具有的一些特性,如Unity中虚拟物体阴影设置,黑色不显现这类的特性,通过MRC上观测到的虚拟物体也受到这类的限制,画面真实感会大打折扣。而Spectator view是由显卡渲染到屏幕的方式,完全不受这类条件的制约。传统游戏渲染级别的画面在Spectator view显像端同样都能做到。
4.渲染效果提升
由于HoloLens自身运算能力有限,在利用MRC进行混合现实录制时,不能够完全展现出佩戴者所观测到的真实感。这是因为Unity工程在HoloLens上的结构所造成的,在HoloLens中,Unity所渲染的画面因为设备的计算限制,在部署时模型质量只能调设到最低质量(Fastest Quality),法线贴图、投影等效果在用HoloLens体验时,会被自动过滤。无法在HoloLens中观测,所以MRC屏幕展现自然也没有这些特性,而Spectator View的画面之所以能有质的飞跃,一方面因为图像采集摄像头的升级,另一方面要归功于PC更强的运算能力。渲染过程从HoloLens移植了PC,使其渲染方式回归到了传统的显卡渲染模式,自然运算能力也大幅提升。但凡Unity在HoloLens开发中的一些模型效果选择发布在Spectator view时统统可以勾选为高质量(Fantastic),效果表现会大大提升。
MRC作为一款解决第三视角观测的解决方案,从易操作、便携性强来说,对于大部分开发者还是能够基本满足的。而Spectator View虽然展现出的画面精美,但是对使用者需要有一定开发基础,使用时也需要做一些预制,例如预先对单反镜头中的畸变进行校对。正所谓“术业有专攻”,如果是对混合现实画面有一定要求的从业开发者来说,我们建议大家可以尝试一下Spectator View。
Spectator View 官方文档:https://developer.microsoft.com/en-us/windows/mixed-reality/spectator_view
代码库:https://github.com/Microsoft/HoloLensCompanionKit/tree/master/SpectatorView