NVIDIA全球副总裁暴力拆解：如何用AI打造“超强大脑”与“城市之眼”

    GTC 2017 Keynote上，NVIDIA创始人兼CEO，黄掌门不止一次提到“Save money ”。
    当然，这是主会演讲“PPT闹情绪”期间，老黄为活跃气氛而讲的“玩笑话”。
    玩笑声的背后，NVIDIA正在将AI推广至每个计算平台、每个架构、以及人类的每项工作中。
    
    ▲ NVIDIA 全球副总裁兼智能机器事业部总经理 Deepu Talla
    Deepu Talla，现任NVIDIA 全球副总裁兼智能机器事业部总经理，主要负责在工业机器人、商用无人机和视频分析等设备上部署AI技术。
    现在，他手里掌握着NVIDIA两大最重要的应用领域：机器人和AI城市。
    在GTC2017大会期间，Deepu Talla带来一场名为“AI AT THE EDGE ”的主题演讲，专攻两个话题：
    一，NVIDIA机器人“大脑”——详解“AI超级计算机”Jetson TX2平台；
    二，AI城市，需要边缘到云的架构——详解NVIDIA Metropolis平台。
    在这场近50分钟“干货”分享中，我们highlight了Deepu Talla的精彩要点：
    一项深度学习工程的搭建，可分为训练（Training ）和推理（Inference ）两个环节。但第一步，需要创建神经网络。随着深度神经网络在多种应用上取得极大成功，网络架构也变得越来越深。
    在网络架构变化的同时，包括物联网在内的终端设备数量也越来越多。因为这些设备直接连接传感器数据（摄像头、麦克风、陀螺仪等），所以在终端设备上部署机器学习具有极大的吸引力。
    但现在看来，顶级的机器学习系统还无法满足终端设备的现状：
    1、要么把传感器数据输入到云端的大型神经网络模型；
    2、要么直接在终端设备上使用简单的机器学习模型。
    前者存在带宽、延时、数据隐私、网络连接这四大难题，但后者会降低系统的准确率。
    为了克服这些问题，自然而然地就想到了分布式计算方法。层级分布式计算架构包括云、边缘与终端设备，NVIDIA推出端到端Training到Inference，后端服务器到前端摄像头）的深度学习平台。
    Deepu Talla表示：
    对训练环节中神经网络的大量数据训练，主要用的是DGX－1；
    之后将训练好的数据存入到云和数据中心，这方面主要使用的是Tesla；
    当然，也可以将这些数据部署到录像机和摄像头之中，这里主要使用的是Jetson计算平台。
    这里他提到AI最主要的应用——机器人。
    事实上，机器人早已不是单纯地用来博人眼球的噱头，诸多机器人应用已经真实落地于多个行业终端，包括医疗、零售、公共事业和交通领域等垂直行业当中。
    在机器人部署中，如何让机器拥有与人一样的“意识”，Deepu Talla 提到三个环节：感知、思考、行动。为了让机器人为行业输出更大能力。于是，NVIDIA 升级Jetson计算平台，推出Jetson TX2。
    Jetson TX2是NVIDIA嵌入式计算系列产品继Jetson TK1和TX1之后的又一突破。
    它所提供的性能为早前版本的两倍，即能够以两倍以上的功效运行，且功率低于7．5W。这使得Jetson TX2能够在终端应用上运行更庞大、更深度的神经网络，让设备更加智能，具有更高的精度和更快的响应时间，以执行如图像分类、导航和语音识别等任务。
    NVIDIA Jetson嵌入式平台对机器人，IVA等行业的助益着实不容忽视。除此之外，NVIDIA也宣布推出Isaac机器人模拟器。
    NVIDIA Isaac机器人模拟器能够实现在部署前模拟现实条件对智能机器进行训练。Isaac将VR和AI这两个先进技术加以融合，可为机器人提供一个虚拟环境进行AI训练和测试。
    在其构建的虚拟环境中，开发人员可通过虚拟现实技术来搭建各类测试场景，然后在几分钟内对其进行模拟，从而可以在虚拟世界中快速得到大量训练数据，然后再利用AI技术从这些数据中训练得到知识。
    这些环节中，Deepu Talla特别强调了四点：1、搭建场景需要像现实一样真实； 2、虚拟环境必须符合物理法则，碰撞，压力，效果都要与现实世界一样；3、高性能计算，AI平台；4、虚拟世界入口，VR。
    机器人之后，Deepu Talla 将话题转到 AI 城市。
    AI城市共建：NVIDIA用AI装上“城市之眼”
    “AI城市是一个巨大的AI推理挑战，它可能需要使用大约1000万个Tesla V100 GPUs来监控10亿台摄像头。 ”Deepu Talla表示。
    至于为什么NVIDIA要进入到安防IVA领域，Deepu Talla表示，一方面是维护人身安全的需要；另一方面是行业需求，因为这个行业需要用到视频分析，需要进行语音辨识，这两个领域借助深度学习再合适不过。
    NVIDIA全球副总裁暴力拆解：如何用AI打造“超强大脑”与“城市之眼”？（附PPT）
    给智慧城市装上“城市之眼”，NVIDIA核心竞争力在于：从解决方案的层面，NVIDIA提供从训练到推理的解决方案，也可以提供从云到数据中心到服务器到端这样的解决方案，覆盖安防全行业。
    目前，NVIDIA为打造AI城市已部署NVIDIA Metropolis平台。
    Metropolis于今年5月份首次发布，是一个包含各种工具和技术从终端到云端的视频分析平台，以构建覆盖交通与停车管理、执法、城市服务等各个方面更智能、更快速的AI赋能应用。
    此外，NVIDIA正在与合作伙伴携手，以助力中国建设更智慧、更安全的城市为目标，加快脚步。
    海康威视在端到端解决方案中采用NVIDIA平台；
    大华的方案为大型活动提供了数以百计的虚拟保安；
    华为的方案用于监控交通流量；
    阿里巴巴的解决方案可以监控交通堵塞并改善交通状况。
    下一步，挑选软件合作伙伴
    Deepu Talla向科技行者透露，NVIDIA正在通过新的合作伙伴计划汇聚更多的全球最佳AI公司，以加速围绕Metropolis的新产品开发。
    在GTC2017现场，NVIDIA就展示不少“中国力量”。
    JDrone：高空配送
    京东 X已与北京、四川、陕西和江苏等省市合作推出了试点项目，旨在将无人机用于快递、农业、搜索和救援领域。凭借拥有高性能、低能耗、小尺寸和先进视觉能力的Jetson，JDrones具有每小时100公里的航速，同时可以配送重达30公斤的包裹。其它京东无人机测试可承载多达200公斤。
    NVIDIA全球副总裁暴力拆解：如何用AI打造“超强大脑”与“城市之眼”？（附PPT）
    海康威视：让安防“火眼金睛”
    海康威视将摄像机及网络录像机与NVIDIA Jetson终端相结合，使用由NVIDIA Tesla P4 GPU加速器提供支持的云服务器，以及利用DGX－1 AI超级计算机的大规模计算能力进行训练。 监控摄像头采集到的视频信息输入系统，系统会自动分离出所有人（包括人脸、衣着甚至背影）和所有汽车（包括车牌、颜色、年款）。