GAMES104：05游戏引擎中的渲染系统2：渲染中的光照、材质和shader-学习笔记

---

渲染计算的三大组成部分：Lighting、Material、Shader

一、渲染方程及其挑战

参见闫令琪老师101中：BRDF和渲染方程导论 和 cook-torranceBRDF方程计算

老师认为的图形学的三个挑战：

1. 对于任一给定方向如何获得radiance–阴影
2. 对于光源和表面shading的积分运算（蒙特卡洛积分）
3. 对于反射光多Bounce的无限递归计算

二、基础光照解决方案-简化版

简化光源

1. 用平行光、聚光灯、点光源作为MainLight 来简化各种光源，用Ambient Light替代光源外的环境光
2. 用可采样的环境贴图代替反射光线，环境贴图的mipmap代替粗糙度表现

最终结果 = MainLight + Ambient Light+Environment Map

简化材质

• Blinn-Phong模型：

基于光可叠加原理（渲染方程中用体现），Blinn-Phong模型通过Ambient + Diffuse + Specular来简单粗暴的着色。

但其也有缺点：

1. 能量不保守，使用Blinn-Phong模型的出射光照能量可能大于入射光照的能量，这在计算光线追踪时会带来很大的问题：这一过程在光线追踪中经过无限次反弹后，会使得本该暗的地方变得过于明亮。

2. 难以表现真实的质感，Blinn-Phong模型虽然比较经典，但它却很难表现出物体在真实世界中的模样，总是有一种”塑料“感。

简化阴影

最常见的处理方式就是Shadow Map：先在光源处放置相机，以z-buffer的方式储存一张深度缓冲，第二次将相机放置在view位置，并将视锥内的点的深度和深度缓冲中的对应点（矩阵变换）的深度进行对比，若前者大于后者，则认为视锥中的点处于阴影中

缺点：
光源处的采样率和观察处的采样率不一样，有分辨率限制，同时光源角度大时会出现自阴影锯齿的问题

三、基于预计算的全局光照

3.1挑战和计算思路

空间换时间

• 挑战
  1. indirect Light 要想去采样（整个球面）数据量非常大，需要有合适的方式压缩
  2. 并且还得便于在渲染方程中进行积分

傅里叶变换

可以把空间域信号转变为频域信号，截取频域的一小段就可以实现对频率整体的一个粗糙的表达，还可以反傅里叶计算还原会空间域。（高效压缩）

卷积定理是傅立叶变换满足的一个重要性质。卷积定理指出，函数 卷积的 傅立叶变换是函数傅立叶变换的乘积。具体分为时域卷积定理和频域卷积定理，时域卷积定理即时域内的卷积对应频域内的乘积；频域卷积定理即频域内的卷积对应时域内的乘积，两者具有对偶关系。

球谐函数（Spherical Harmonics）

SH是拉普拉斯方程的一组限制在球上的解，可以理解为一组sin\cos组成的正交基，数量越多，可以表达的精度越高；并且相互之间正交（卷积为0–简化计算的核心）且二阶导数为0（拟合表面光滑）

一般实时渲染只取前3阶就够了（9个），因为一般只需要低频信息（因此也无法表达更高频）；有时只需要知道光从哪里来，就只需0和1阶就够了（4个），如下图。「在这种情况下，压缩后只用32bits（4Bytes）就可以存储一个像素的颜色。卷积时先投影到SH正交基上再系数相乘即可」

3.2 SH Lightmap：预计算 GI

有了SH，我们就可以将场景参数化到一张巨大的lightmap贴图上（通常被称为地图集atlas）：对所有表面点的irradiance进行离线计算并压缩为SH系数、保存进atlas

• 计算过程：
  1. 对世界物体进行几何简化（因为要把三维空间复杂集合投影到二维空间），如下图，并且参数分配时需要尽可能在同样的面积或体积内分配的texel精度近似
     
  2. lighting：将lightmap映射到各级LOD上，应用模型细节，用HBAO(水平基准环境光遮蔽Horizon based ambient occlusion，升级版SSAO)加上短程（short-range）增加高频的灯光细节，再加上直接光照和材质的效果----下图1是单应用lightmap的光照效果，可以看到已经有很多细节和软阴影效果了，下图2是最终应用效果
     
     

Lightmap优缺点和可借鉴思想：

• 优点：
  1.实时运行效率很高；
  2.可以表现出环境中全局光照的许多细节
• 缺点：
  1.预计算时间非常长（因此老师自己的引擎宁死不用）；
  2.只能处理静态场景物体和静态光照（动态物体会有类似人物走到一小块阴影里整个人变黑的bug）；
  3.空间换时间，占用内存较大（几十到几百MB）
• 可借鉴优秀思想：
  1. 空间换时间
  2. 把整个场景参数化到二维的tex上（或三维vol上也一样），方便计算

3.3 探针 Probe：Light Probe + Refection Probe

• 优点：运行效率高，静动态物体都可用，可以处理漫反射和镜面反射
• 缺点：大量的光探测SH需要预计算，没办法做到像lightmap那样那么好的细节（采样太稀疏）

Light Probe

在空间中放置很多采样点，每个采样点采集对应光场信息，物体经过时寻找附近的采样点并插值计算

自动探测点生成：空间内均匀的产生采样点，再根据玩家的可到达区域和建筑物的几何结构进行延拓，相对均匀的分布采样点

Refection Probe

类似的反射probe，数量少，但采样精度很高，应用在镜面等场景

3.4 基于图像的光照（Image-Based Lighting，IBL)

主要思路还是预计算，把复杂的积分都先预计算过，以减少光照中的计算时间。我们会分别预计算漫反射项和镜面项，最终在实时渲染中只需通过简单的纹理采样即可得到结果

• diffuse:提前将cubemap与反射光卷积的结果计算并储存在Irradiance Map中，使用时只需要取位置上的结果就可以了，见下图左
• specular:近似为Lighting Term和BRDF Term的乘积
  1. Lighting Term：由于不同粗糙度造成的高光结果不一样，用cubemap的minmap存储多个粗糙度的结果，用minmap的精度刚好对应不同粗糙度下的不同精度，见下图右
  2. BRDF Term：直接预计算保存到了一张LUT图里，使用F和粗糙度加载即可

四，基于物理的材质

4.1 微平面理论

见闫老师相关课程笔记：
games101：Microfacet微平面理论+cook-torranceBRDF方程计算
games202：五，基于物理的材质：Microfacet、Kulla-Conty估计、LTC、NPR

• 迪士尼材质参数的设计原则（思路相当有参考性）
  1. 物理材质参数应当直白易懂（符合艺术家的直觉，让艺术家能理解）
  2. 材质参数应当尽可能的少
  3. 参数取值范围尽量是0-1
  4. 超过合理范围时最好能产生一个make sense的结果
  5. 各种参数的组合应当合理且有意义(每一个参数组合都有意义)

4.2 IBL放到3.4去了，但实际理论与PBR很相近

四，阴影（Shadow）

4.1大世界Cascade Shadow级联阴影

对视锥体进行分层，远处的精度降低，近处提高。

• 需要优化点：blend between Cascade Laters：在层级之间边界的地方做插值以避免出现视觉断层。
• 优点：解决透视混叠（perspective aliasing）问题；快速生成深度图，深度写入时可提升3倍；效果不错
• 缺点：存储空间大（空间换时间）；绘制时成本昂贵；几乎不可能生成高质量的区域阴影；没有彩色阴影，半透明投射出不透明阴影
  

4.2 软阴影

详情见闫老师的课程：games202：二，实时阴影Shadow Mapping、软阴影PCF、PCSS、VSSM、MSM、SDF

• PCF（Percentage Closer Filter）
• PCSS（Percentage Closer Soft Shadow）
• VSSM（Variance Soft Shadow Map)

4.3 Virtual Shadow Maps

原理：类似Tiled Virtual Texture
现代引擎可以关注这个方向
UE5中VirtualShadowMap的简易实现原理（一）

总结

5-10年前流行的3A配置：

• Lightmap+LightProbe
• PBR+IBL
• Cascade shadow + VSSM

技术展望

GPU显卡快速升级
real-time Ray-Tracing on GPU
Real-Time Global Illumination：SSGI、SDF based GI、Voxel-based GI(SVOG/VXGI)、RSM/RTX GI
更复杂的材质模型：BSSRDF、BSDF(Strand-based hair)

过量shader

• 艺术家搞出大量shadergraph
• 程序员给shader的各种变化都写了单独的shader（？？不就是我们公司）
• 不同平台编译语言不同

Uber Shader：每一种变化组合都写入同一个shader，通过宏定义控制分支（会产生大量变体）
优点：某个算法改进时需要更新所有相关shader，容易出错，用Uber shader就不会有这个问题