
图1遮挡人体三维重建流程图
人体动态三维重建是计算机视觉、计算机图形学、虚拟现实领域中的一个非常重要的问题。高质量的人体三维重建对新一代信息技术产业的发展至关重要,可能会催生新的产业形态,如运动重定向、第一人称动画等。当前,精确的人体三维重建需要依赖较为复杂的硬件设备(如:多视角相机,IMU传感器等)。近年来,随着深度学习的发展,从单张彩色图像中恢复人体的形状与姿态取得了飞速发展。然而值得一提的是,现有的方法无一不是针对无遮挡或少量自遮挡情形开展研究,在本项工作发表之前,尚未有研究工作针对有严重的物体遮挡进行分析与讨论。事实上,人与物体之间的遮挡在实际场景中非常普遍,如快递员搬运货物等。此项研究工作弥补了物体遮挡的人体三维重建技术和方法的缺失,并提出了有效的解决方案。
本研究中,团队针对复杂物体遮挡的单彩色图像人体三维重建问题,提出基于纹理图的三维人体模型表示方法,将遮挡人体三维建模转化为纹理图补全问题,构建二分支神经网络训练策略,保证隐空间高维特征一致性,实现复杂物体遮挡的实时人体动态三维重建,图1为人体重建的流程框图。本研究提出的方法重建出的三维人体2项指标(MPJPE、PAMPJPE)均领先于世界同期最好结果。

该研究工作由自动化学院模式识别学科组硕士一年级学生张天舒、黄步真共同完成,王雁刚副教授为通讯作者,东南大学为唯一完成单位。该研究成果受到国家自然科学基金,江苏省自然科学基金,以及东南大学至善****奖励计划资助。
论文链接:https://www.yangangwang.com/papers/ZHANG-OOH-2020-03.pdf
供稿:自动化学院
(责任编辑:吴涵玉 审核:宋晓燕)