vr的延迟和渲染效率优化与Nvidia VRWorks

ゞ浴缸里的玫瑰 2022-07-27 21:26 513阅读 0赞

vr现在正处于风生水起的阶段，但是vr的性能一直是大问题，最主要的问题就是响应延迟，玩家改变位置到这一位置的图像被cpu提交，gpu渲染，同步刷新到头部显示设备上，这中间的延迟会导致用户的头晕，减少相应的延迟，是vr从硬件到软件一直在优化的问题。Nvidia针对这个，新推出了VRWorks组件，这是一套软硬件结合的改善响应延迟以及提高vr渲染效率的方案，从硬件上做了一些改进和加速，同时也提供了一组api，去为你的vr应用和vr设备提供优化的方案，每当技术存在瓶颈时，硬件的改进永远是推动性巨大的。在vrwork的优化方案中，有很多很值得学习和研究的地方，也有助于我们理解vr的性能瓶颈所在，这里做一下归纳。

###  vr的性能瓶颈来源 ###

1.vr需要至少同时渲染2 张50fps的图像，比常规的pc渲染量都要大。

2.vr对输入延迟性要求很高，因为对输入超过20ms的延迟都会引起用户的不适。

### VR WORKS的优化 ###

### 1.vr sli 多显卡支持 ###

通过增加显卡，增加渲染性能。

常规的多显卡渲染是这样的，

![Center][]

即显卡0和显卡1轮流渲染第n帧和第n1帧，但是要求cpu要提交的足够快，因为cpu还是要提交两份drawcall，cpu不能成为瓶颈，这种方式从绘制n到n绘制出来的延时如图。

vrworks 做了改进，如图

![Center 1][]， ![Center 2][]

让显卡0和显卡1负责绘制左右两眼，而cpu为两个显卡提供一模一样的drawcall，因为zaivr的两眼绘制的东西基本是一样的，除了perspective矩阵不一样。而vrworks通过其api，实现了一组draw call 对多个显卡的广播，并可以为不同显卡设置不同的perspective（常量）。这样cpu一份drawcall对于两眼，而两眼的绘制在两个cpu并行，延迟大大节省。当然这里还有一些可能可以优化的，比如很多东西，例如shadow map，基于gpu的一些物理可能不需要在两个gpu都做一遍，可以优化一下。

### 2.Multy Resolution Rendering 多分辨率渲染。 ###

这个在vr领域算是经典的优化了，很多vr设备都做了这个，原理来源于，vr的图像为了适应眼镜的变形要做卷曲（wrap），如图

![Center 3][]

我们需要得到的是右边的图，但是渲染出来的都是左图，所以一般都是在最后将左图在图像上做处理，变成右图，这样我们可以看到其实左图在边缘处很多像素在卷曲后被浪费了，于是人们就像我们是不是可以对vr的图像做不同分辨率的渲染，即中心区域用比较高的分辨率，而边缘位置用较低的分辨率，极限情况下，将大部分边缘降低分辨率，可以减少50%的pixel的渲染，提高一倍的效率。

![Center 4][]

但是常规的渲染管线，要这样做，得不偿失，因为你要切分这个区域，定义多个不同大小的viewport，然后将物体依次渲染到多个viewport上，当然你可能会想到对不同的viewport可以剪裁掉不同的物体。

但是nvidia的maxwell架构的芯片，即GTX900以上（也就是为什么做vr要用好的显卡）支持了一种叫做multi-projection的技术，即在显卡层面，支持同时运行多个视口和投影，他不同于常规管线，他在管线中并行了多个投影，同时渲染到多个viewport，pipeline还是一次，只是在后面将这些像素绘制到多个viewport，这就是硬件层面的多适口多分辨率。

### 3.asyncchronous timewarp 异步时间卷曲 ###

timewarp也是vr很经典的优化，在occlus等早已使用，如果没有timewarp，我们会感觉很大的延时和眩晕。因为就算帧率再高，我们看到影响的那一刹那，渲染的也是过去某个时刻的图像，和我们当时所处的位置是不一样的，这种不一致随着帧渲染耗时的增长而增长，这种timewarp的做法是，在gpu绘制结束，扫描给显示屏前，将这个图像做一个图像空间的位移，以校准我们当前的位置，也就是说处于p0位置渲染的图像，在p1位置绘制好给我们，我们需要将其校准成p1位置的样子，这种校准有很多算法，都是在图像处理上做的平移，这样我们会感觉到看见的和我们的位置是同步的。

但是在传统的渲染中，这些工作是在一个流水线上的，也就是同步的，当某一帧很耗时很卡时，用户会迟迟收不到当前位置校准的图片，一直停留在上一帧的图片，因为gpu卡住了，后面的校准（timewarp）也不能进行，用户会感觉强烈的卡和眩晕。

这里就提出了一个异步 timewarp的概念，即在gpu上有一个独立的线程做这个warp，即不管你主线程渲染卡成什么样，我这个独立的线程会按照帧率给你每个位置的warp，给你最新的基于你位置的图像，这能解决很卡很卡时我们依然能够得到模拟的图像。但是传统的gpu不支持这种独立的线程。nvdia的vrworks加入了这个。他加入了一个high-priority context的概念，允许用户启动一个优先级最高的线程最warp，独立于你的渲染线程。

### 4. direct mode ###

传统的渲染，pc的显示器会把vr眼镜作为显示器的一个显示扩展，vr眼镜和gpu是没有直接交互的，而vrwroks里可以开启vr headset的直接模式，让gpui直接将图像扫描到vr设备。

### 5.Front Buffer Rendering ###

在direct mode下允许直接渲染到vr设备的front buffer上，还是为了减少延迟，但是直接到front buffer 上的画面撕裂问题怎么解决？

这就是nvidia vr works对vr的性能的优化，也许对于vr应用开发是个好的消息，同时从中我们也可以一窥vr中的性能瓶颈和解决思路。

最后这是vr works 现在的软硬件支持情况：

pc, D3D11 only, windows7 +, Multi resulution rendrering 要gtx 900+（maxwell arc），其他的那些要GTX 500 +。

nvidia的开发者页面、

[https://developer.nvidia.com/vrworks][https_developer.nvidia.com_vrworks]

[Center]: /images/20220727/ff8cccacf2874a98875b9a86a89105c4.png
[Center 1]: https://img-blog.csdn.net/20160323210625133?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 2]: /images/20220727/8e68ac26cd6c44e881aa48b617862e5a.png
[Center 3]: /images/20220727/4230f98e27f24d11a3cf58bc49adb4bb.png
[Center 4]: /images/20220727/9b00ec2e64fd4af5b0908dc2e102c54c.png
[https_developer.nvidia.com_vrworks]: https://developer.nvidia.com/vrworks