鲲云科技与百度飞桨完成适配,共同推进自主AI应用落地


    鲲云科技近日携手百度飞桨(PaddlePaddle),完成了搭载CAISA芯片的鲲云星空X3加速卡对PaddlePaddle框架模型转化的全面支持。这意味着鲲云自主研发的全球首款数据流AI芯片CAISA,可快速适配百度飞桨PaddleX模型格式,支持主流算法网络,稳定运行,能够达到兼容性及性能、可靠性要求,便于开发者快速实现多样化AI应用部署,这次合作进一步扩大了双方在AI产业的创新生态。
    
    Paddle模型到星空X3加速卡转换部署流程
    鲲云科技自成立以来,一直深耕数据流AI芯片的自主研发,已实现量产的CAISA芯片,在芯片利用率上提升了最高11.6倍,其高算力性价比、高架构通用性及高软件易用性的优势,在与百度飞桨的适配过程中得到了更好的呈现。搭载CAISA芯片的星空X3加速卡峰值性能为10.9TOPs,实测结果显示运行ResNet50的延时低至3.38ms,吞吐率达到1181.68fps,在精度保证的情况下,性能表现优于同类产品。
    
    星空X3加速卡
    百度飞桨深度学习平台提供了快速有效搭建训练深度学习模型的方案,并透过Paddle2ONNX模块与鲲云的星空X3加速卡完成了简单快速的适配。在飞浆全流程开发图形化工具PaddleX和鲲云自行研发的RainBuilder编译器支持下,星空X3加速卡在离线状态将ONNX等模型格式转换成IR格式后在RainBuilder Runtime上部署,支持ResNet, YOLO, DeepLab 等各种CNN类主流算法推断模型,开发者只需两步,便可轻易实现模型到硬件的部署和运行。
    
    RainBuilder端到端自动编译工具链
    飞桨是中国首个开源开放、技术领先、功能完备的产业级深度学习平台,鲲云是国内数据流AI芯片研发的先行者,致力于加速人工智能在产业的落地和应用。本次合作为人工智能开发者提供了更高效的多样化AI部署选择,进一步降低了 AI 应用的开发难度,提高开发效率,未来,百度飞桨与鲲云科技将在底层架构和硬件上进一步推进合作,为自主人工智能产业的发展提供新的探索方向。
    关于百度飞浆PaddlePaddle
    飞桨(PaddlePaddle)以百度多年的深度学习技术研究和业务应用为基础,集深度学习核心训练和推理框架、基础模型库、端到端开发套件和丰富的工具组件于一体,是中国首个自主研发、功能完备、开源开放的产业级深度学习平台。飞桨企业版针对企业级需求增强了相应特性,包含零门槛AI开发平台EasyDL和全功能AI开发平台BML。EasyDL主要面向中小企业,提供零门槛、预置丰富网络和模型、便捷高效的开发平台;BML是为大型企业提供的功能全面、可灵活定制和被深度集成的开发平台。目前,飞桨累计开发者320万,服务企业12万家,基于飞桨开源深度学习平台产生了36万个模型。飞桨助力开发者快速实现AI想法,快速上线AI业务。帮助越来越多的行业完成AI赋能,实现产业智能化升级。
    关于鲲云RainBuilder编译工具链
    专为CAISA架构设计的RainBuilder编译工具链提供从算法模型到板级产品部署的一整套开发套件,包括RainBuilder Compiler、RainBuilder Runtime和RainBuilder Driver三层。RainBuilder Compiler支持算法模型的智能解析、自动化量化压缩、节点融合、内存优化,能够将模型转化为适用于CAISA架构的中间表达和数据。RainBuilder Runtime提供性能模型分析、精度验证、自动线程调度、软硬件并行、异常处理等功能,为用户提供丰富易用的开发接口以完成对底层AI硬件的高效应用。RainBuilder Driver支持CAISA硬件架构驱动、硬件模块计算调度以及硬件模型分析,可以自动进行细粒度性能优化及调度。RainBuilder使用过程简单便捷,支持用户自定义算子,用户无需对底层硬件有深入的了解,只需两步,即可通过基于C++/Python的标准开发流程实现算法快速部署。