专栏名称: 雷峰网
中国智能硬件第一媒体
目录
相关文章推荐
51好读  ›  专栏  ›  雷峰网

周昆:让人人都可参与 3D 建模和特效制作丨微软亚洲研究院院友会

雷峰网  · 公众号  · 科技媒体 硬件  · 2016-11-15 18:29

正文

请到「今天看啥」查看全文



第一个方向:数字化身


目前数字化身的研究主要集中在人脸上,周昆团队希望用普通的相机就能人脸进行追踪和捕捉。当然,这个方向的研究,计算机图形学和计算机视觉已经做了很多年,研究主要集中在追踪效果和抓取方式,以及两者是否能达到一个较好的妥协标准。虽然这些技术早已开始应用,但多为提供给专业人士使用的专业级产品。


周昆博士的设想是希望把这些技术应用在普通用户经常使用的移动终端和移动设备中,尤其是 VR 和 AR:普通人用普通的摄像头就能把人脸捕捉到,然后继续捕捉到表情,把表情抽取出来去应用在任意一个化身当中。



他们目前正在做的是,任意一个人进入相机视场中,他的人脸就会被捕捉到,他脸部 3D 数据随之被计算而出,然后定制到任意的化身上来。这当中需要应对三大挑战:


  • 恶劣的环境:如光线阴暗的网吧、户外环境下阳光直射造成阴阳脸,这些环境均是对算法的执行有着较大的干扰。


  • 计算性能问题:捕捉工具应用在移动设备中对计算性能要求较高,目前周昆博士的团队可在 iPhone上达到每一帧 10 毫秒,安卓平台上小米三每帧 20毫秒。


  • 对存储的要求:因为它只能放在端上计算,不能放在云端,放在云端存在视频带宽的问题。



数字化身中如何处理复杂的头发?


头发模拟是数字化身中的一个巨大难题,通常利用计算机图形学和计算机视觉的方式做头发非常困难,而且需要在实验室环境下,布置一定数量的相机,设置好特定的光照,抓取不同状态的 60 张的图像,根据照片中头发的特征,把 3D 头发重建出来。


周昆教授研究一项全新的单一视图发型模拟技术,在只有适度用户交互的情况下,生成在视觉上和物理上均表现合理的 3D 头发模型,以此创建的头发模型可以形象地匹配原始输入图像。


这是他们今年工作的重点,利用一张照片即可模拟头发:先利用深度学习为头发设计一个神经网络,然后做出发丝建模,并计算出发丝朝向的预测,最终把头发的 3D 形状重建。


上述提到的是头发建模问题,而如何把头发做成动态这又是一个新的挑战:


在现实世界中,头发的一点点变动都意味着发丝之间遮挡关系的变化:一些原来看不到的发丝暴露出来,另一些原先可见的发丝被遮挡住和交叉等问题。而在图像中,这种变化是无法用传统的基于像素操作的图像编辑工具实现的。


周昆博士提到,他们在 2014 年做出来的解决方案比当时最好的方法快过三个数量级,模拟 15 万根头发可以做到每帧 45 多毫秒。目前数字化身更多应用在脸部和头发上,未来还将继续涉及到身体、衣服等组成部分中,以至于达到把人“复制”出来,也就是数字替身(Digital Double)。



第二个方向:智能制造 Computational Fabrication


周昆博士指出,上述提到的研究是把物理的形状数字化 3D 化,而计算机图形 2.0 需要做的事情是把数字模型物理化,从而制造出新的东西。


把 3D 模型应用在工业制造领域,有些人会提到说用 3D 打印,但其实 3D 打印在复杂形状物体打印中表现不错,但要打印出具有复杂图案的全彩色三维物体仍然相当困难,这其中存在的巨大问题就是它对颜色的支持很弱,着色效果远不如二维彩打,而且价格昂贵。另外还受限于塑料和石膏等极少的材料。


环顾整个传统制造业,至今都没有一个很好的方式给 3D 曲面上色。以瓷器生产为例,瓷器的其他工艺自动化已非常成熟,唯独在上色和贴花方面仍旧保持着最原始传统的方式。







请到「今天看啥」查看全文