NVIDIA全球副总裁暴力拆解:如何用AI打造“超强大脑”与“城市之眼”


    GTC 2017 Keynote上,NVIDIA创始人兼CEO,黄掌门不止一次提到“Save money ”。
    当然,这是主会演讲“PPT闹情绪”期间,老黄为活跃气氛而讲的“玩笑话”。
    玩笑声的背后,NVIDIA正在将AI推广至每个计算平台、每个架构、以及人类的每项工作中。
    
    ▲ NVIDIA 全球副总裁兼智能机器事业部总经理 Deepu Talla
    Deepu Talla,现任NVIDIA 全球副总裁兼智能机器事业部总经理,主要负责在工业机器人、商用无人机和视频分析等设备上部署AI技术。
    现在,他手里掌握着NVIDIA两大最重要的应用领域:机器人和AI城市。
    在GTC2017大会期间,Deepu Talla带来一场名为“AI AT THE EDGE ”的主题演讲,专攻两个话题:
    一,NVIDIA机器人“大脑”——详解“AI超级计算机”Jetson TX2平台;
    二,AI城市,需要边缘到云的架构——详解NVIDIA Metropolis平台。
    在这场近50分钟“干货”分享中,我们highlight了Deepu Talla的精彩要点:
    一项深度学习工程的搭建,可分为训练(Training )和推理(Inference )两个环节。但第一步,需要创建神经网络。随着深度神经网络在多种应用上取得极大成功,网络架构也变得越来越深。
    在网络架构变化的同时,包括物联网在内的终端设备数量也越来越多。因为这些设备直接连接传感器数据(摄像头、麦克风、陀螺仪等),所以在终端设备上部署机器学习具有极大的吸引力。
    但现在看来,顶级的机器学习系统还无法满足终端设备的现状:
    1、要么把传感器数据输入到云端的大型神经网络模型;
    2、要么直接在终端设备上使用简单的机器学习模型。
    前者存在带宽、延时、数据隐私、网络连接这四大难题,但后者会降低系统的准确率。
    为了克服这些问题,自然而然地就想到了分布式计算方法。层级分布式计算架构包括云、边缘与终端设备,NVIDIA推出端到端Training到Inference,后端服务器到前端摄像头)的深度学习平台。
    Deepu Talla表示:
    对训练环节中神经网络的大量数据训练,主要用的是DGX-1;
    之后将训练好的数据存入到云和数据中心,这方面主要使用的是Tesla;
    当然,也可以将这些数据部署到录像机和摄像头之中,这里主要使用的是Jetson计算平台。
    这里他提到AI最主要的应用——机器人。
    事实上,机器人早已不是单纯地用来博人眼球的噱头,诸多机器人应用已经真实落地于多个行业终端,包括医疗、零售、公共事业和交通领域等垂直行业当中。
    在机器人部署中,如何让机器拥有与人一样的“意识”,Deepu Talla 提到三个环节:感知、思考、行动。为了让机器人为行业输出更大能力。于是,NVIDIA 升级Jetson计算平台,推出Jetson TX2。
    Jetson TX2是NVIDIA嵌入式计算系列产品继Jetson TK1和TX1之后的又一突破。
    它所提供的性能为早前版本的两倍,即能够以两倍以上的功效运行,且功率低于7.5W。这使得Jetson TX2能够在终端应用上运行更庞大、更深度的神经网络,让设备更加智能,具有更高的精度和更快的响应时间,以执行如图像分类、导航和语音识别等任务。
    NVIDIA Jetson嵌入式平台对机器人,IVA等行业的助益着实不容忽视。除此之外,NVIDIA也宣布推出Isaac机器人模拟器。
    NVIDIA Isaac机器人模拟器能够实现在部署前模拟现实条件对智能机器进行训练。Isaac将VR和AI这两个先进技术加以融合,可为机器人提供一个虚拟环境进行AI训练和测试。
    在其构建的虚拟环境中,开发人员可通过虚拟现实技术来搭建各类测试场景,然后在几分钟内对其进行模拟,从而可以在虚拟世界中快速得到大量训练数据,然后再利用AI技术从这些数据中训练得到知识。
    这些环节中,Deepu Talla特别强调了四点:1、搭建场景需要像现实一样真实; 2、虚拟环境必须符合物理法则,碰撞,压力,效果都要与现实世界一样;3、高性能计算,AI平台;4、虚拟世界入口,VR。
    机器人之后,Deepu Talla 将话题转到 AI 城市。
    AI城市共建:NVIDIA用AI装上“城市之眼”
    “AI城市是一个巨大的AI推理挑战,它可能需要使用大约1000万个Tesla V100 GPUs来监控10亿台摄像头。 ”Deepu Talla表示。
    至于为什么NVIDIA要进入到安防IVA领域,Deepu Talla表示,一方面是维护人身安全的需要;另一方面是行业需求,因为这个行业需要用到视频分析,需要进行语音辨识,这两个领域借助深度学习再合适不过。
    NVIDIA全球副总裁暴力拆解:如何用AI打造“超强大脑”与“城市之眼”?(附PPT)
    给智慧城市装上“城市之眼”,NVIDIA核心竞争力在于:从解决方案的层面,NVIDIA提供从训练到推理的解决方案,也可以提供从云到数据中心到服务器到端这样的解决方案,覆盖安防全行业。
    目前,NVIDIA为打造AI城市已部署NVIDIA Metropolis平台。
    Metropolis于今年5月份首次发布,是一个包含各种工具和技术从终端到云端的视频分析平台,以构建覆盖交通与停车管理、执法、城市服务等各个方面更智能、更快速的AI赋能应用。
    此外,NVIDIA正在与合作伙伴携手,以助力中国建设更智慧、更安全的城市为目标,加快脚步。
    海康威视在端到端解决方案中采用NVIDIA平台;
    大华的方案为大型活动提供了数以百计的虚拟保安;
    华为的方案用于监控交通流量;
    阿里巴巴的解决方案可以监控交通堵塞并改善交通状况。
    下一步,挑选软件合作伙伴
    Deepu Talla向科技行者透露,NVIDIA正在通过新的合作伙伴计划汇聚更多的全球最佳AI公司,以加速围绕Metropolis的新产品开发。
    在GTC2017现场,NVIDIA就展示不少“中国力量”。
    JDrone:高空配送
    京东 X已与北京、四川、陕西和江苏等省市合作推出了试点项目,旨在将无人机用于快递、农业、搜索和救援领域。凭借拥有高性能、低能耗、小尺寸和先进视觉能力的Jetson,JDrones具有每小时100公里的航速,同时可以配送重达30公斤的包裹。其它京东无人机测试可承载多达200公斤。
    NVIDIA全球副总裁暴力拆解:如何用AI打造“超强大脑”与“城市之眼”?(附PPT)
    海康威视:让安防“火眼金睛”
    海康威视将摄像机及网络录像机与NVIDIA Jetson终端相结合,使用由NVIDIA Tesla P4 GPU加速器提供支持的云服务器,以及利用DGX-1 AI超级计算机的大规模计算能力进行训练。 监控摄像头采集到的视频信息输入系统,系统会自动分离出所有人(包括人脸、衣着甚至背影)和所有汽车(包括车牌、颜色、年款)。