微软推深度学习系统Project Brainwave 面向实时人工智能应用
Project Brainwave是微软的一套深度学习加速平台,主要面向实时人工智能应用。其在基于云端的深度学习模型的性能和扩展性上实现了一项重大的飞跃。
这并不是我们首次听到它的名字,因为微软去年时就曾多次提及。在Hot Chips 2017大会上,微软披露了Project Brainwave的更多实质性细节。微软解释了近年为Project Brainwave平台推出的FPGA(现场课编程门阵列)基础设施、并结合了神经网络处理单元。如果说过去几十年的主题是开发通用CPU来处理各种各样的计算任务,过去几个月的主题则变成了开发具有卓越表现的专用芯片,很多企业都把目标瞄向了机器学习专用芯片。
总的来说,Project Brainwave 的系统可分为三个层面:高性能分布式系统架构;整合到FPGA 硬件上的深度神经网络(DNN)引擎;能low-friction部署已训练模型的编译器和runtime。第一个层面上,Project Brainwave利用了微软数年建立起来的FPGA基础设施。第二点,Project Brainwave使用了一个非常强大的“软”DNN 处理单元(即 DPU),并整合到可购买的FPGA中。第三点,Project Brainwave内置了一个能支持各种深度学习框架的软件堆。
据悉,微软采用了与硬化DNN处理单元(DPU)的公司不同的、可基于数据类型进行扩展的所谓“软”DPU。技术人员曾实际演示过这项技术,在极具挑战性的演示中展现了前所未有的实时人工智能性能水平。