科研动态丨光明实验室黄惠教授团队:面向结构化模型的超逼真孪生纹理映射与生成
  • 发布时间:2023-10-08
  • 作者:光明实验室
  • 浏览:2258次

光明实验室黄惠教授团队的研究工作:面向结构化模型的超逼真孪生纹理映射与生成已同步发表在计算机图形学国际顶级期刊ACM Transactions on Graphics和会议SIGGRAPH Asia 2023上。


光明实验室黄惠教授团队的研究工作TwinTex: Geometry-aware Texture Generation for Abstracted 3D Architectural Models(面向结构化模型的超逼真孪生纹理映射与生成)已同步发表在计算机图形学国际顶级期刊ACM Transactions on Graphics和会议SIGGRAPH Asia 2023上,并获得中国发明专利授权与软件著作权登记。

随着主动式传感器、全自动多视点立体视觉、无人机摄影测量的发展,获得与城市建筑实体对应的稠密几何模型与纹理已不是难事。与稠密模型相比,结构化模型具有轻量级的特性,在存储、显示、交互、传输等方面具有显著实用性。对模型进行抽象化可以大幅度减少资源消耗,但会丢失模型已有的外观纹理。现有的纹理映射方法,主要面向稠密、光滑的三维模型,而抽象化的建筑代理模型通常仅有C0连续,使得纹理与纹理、纹理与几何之间的特征不匹配问题格外明显,十分影响建筑外观纹理的真实感。

本工作针对结构化和轻量化的三维建筑模型,构建三级直线特征引导图像拼接,实现纹理与纹理、纹理与几何的自动对齐,并结合基于扩散模型的inpainting方法,为缺失区域生成结构协调的立面内容,实现照片级高精纹理的全自动生成,解决数字孪生产业界的一大痛点问题。

本工作满足了现代计算机科学与技术发展对数字孪生的更高要求,在几何重建的基础上,进一步探索超逼真孪生纹理生成,拉近虚拟和现实之间的距离。具有超逼真纹理的重建物体在诸如元宇宙、虚拟现实、数字孪生等实际应用中使用广泛,对计算机视觉、计算机图形学等相关领域具有较大贡献。


图1. 面向结构化模型的超逼真孪生纹理重映射与生成


图2. TwinTex在有限无人机采集图像数据输入下的纹理映射与生成结果


图3. TwinTex在大规模室外场景上与成熟商用软件Reality Capture、经典映射方法Let there be color、纹理优化算法PBO的纹理生成结果对比


图4. TwinTex在大规模室外复杂场景上与成熟商用软件Reality Capture、经典方法Let there be color的纹理生成结果对比


图5. TwinTex在室内场景与真实物体上与成熟商用软件Reality Capture、经典方法Let there be color的纹理生成结果对比


项目主页: vcc.tech/research/2023/


供 稿 丨 熊卫丹

编 辑 丨 李沛昱