开放智能参评“‘维科杯’·OFweek2020(第五届)人工智能行业技术创新奖”


    ““维科杯”·OFweek 2020(第五届)人工智能行业年度评选”活动由高科技行业门户OFweek维科网主办,OFweek人工智能网承办,活动旨在表彰人工智能领域具有突出贡献的优秀产品、技术及企业,鼓励更多企业投入技术创新;同时为行业输送更多创新产品、前沿技术,一同畅享人工智能的未来。
    2020人工智能行业年度评选“OFweek (5th.)  AI Awards 2020”将于2020年9月21日-10月10日进入网络投票阶段,颁奖典礼将于10月28日在深圳举办。
    目前,活动正处于火热的报名评审阶段,业内企业积极响应。开放智能已正式参评“‘维科杯’·OFweek2020(第五届)人工智能行业技术创新奖”
    
    OPEN AI LAB(开放智能)于2016年成立,公司专注边缘智能计算及应用,致力于推动芯片级算力、算法、产品工程化、行业应用等完整产业链的深度协作,加速人工智能产业化部署和场景的边界拓展,赋能场景化细分行业快速实现+AI。为AIoT产业上下游合作伙伴提供端、边、云一体化人工智能基础软硬件开发平台及应用级解决方案。
    参赛产品/项目名称:开放的边缘AI推理框架Tengine
    2017年Tengine发布
    开发背景:由于AIoT技术在行业的普及对低成本、实时性低功耗、高可靠性的需求,以及隐私安全等问题的浮现,AI计算正从云端下移到边缘节点中,如智慧交通、自动驾驶、智能家居和城市大脑等领域,数以亿万计的边缘节点和终端设备需要实现本地智能化,称之为边缘AI计算。
    边缘计算的需求对硬件成本、功耗、兼容和易用性提出了较大的挑战,硬件上面临着芯片种类复杂、算力利用率低,软件开发环境复杂、兼容性差等关键问题。如何能简单快速地实现AI算法模型从云端向下迁移到边缘节点部署,充分发挥边缘节点上的芯片算力与硬件性能,已成为AI在行业落地和规模部署经济性的关键所在。
    OPEN AI LAB的边缘AI推理框架Tengine为了解决AIoT应用落地问题。
    技术扼要说明
    从架构上看,Tengine自上而下主要可分为模型兼容层、基础工具链、模块化架构层、操作系统层、异构计算层五大框架层级,具有跨算法框架兼容、跨芯片适配、算力异构调度加速、轻量无依赖、一致性开发移植部署工具链几大核心能力,共同助力AI生产力的有效提升。
    其技术创新的亮点在哪里
    1. 高性能
    使用多种性能优化技术,对神经网络模型的端侧推理提供加速,包括模型图的优化,基于NEON的算子的性能优化等。
    2. 轻量级
    Tengine 的开发,除了标准库(如 C++标准库或 C 标准库)以外不依赖于任何第三方库。不仅降低了软件的依赖性,也最大程度上降低了内存的占用。同时针对内存敏感的平台,还提供功能简化的版本,支持自有格式的模式文件,不包含调度/优化/调试等功能。
    3. 易部署
    对于不同平台提供统一的API,底层库根据硬件自动使用不同的优化策略,无需客户关注底层硬件。
    4. 高安全
    提供多种加密技术,对客户模型进行加密。不仅能良好的保护知识产权,适合商用部署。
    参评述说/理由:
    Tengine是OPEN AI LAB开放的自主知识产权的边缘AI推理框架,重点关注嵌入式设备上的边缘AI计算推理,为海量AIoT应用和设备提供高性能AI推理的技术支持。Tengine于2017年在GitHub开源,一方面可以通过异构计算技术同时调用CPU、GPU、DSP、NPU 等不同计算单元来完成AI网络计算,另一方面,它和TensorFlow、Caffe、MXNet 等训练框架相互配合,并且支持Pytorch、PaddlePaddle 等业内主流框架,并且是国际上为数不多的通过ONNX官方认证的战略合作伙伴之一。技术层面上,其通过如图优化、对arm 架构处理器系列的硬件后端性能深度优化、低精度推理、异构计算调度等技术打造端测最高效的AI计算框架,广泛受到开源社区开发者欢迎,在今年4月CSDN发布的《中国 AI 应用开发者报告》上,被评为“开发者最喜爱的本土 AI 框架工具”。
    
    作为拥有完全自主知识产权的开源AI推理框架,Tengine与众多芯片厂商建立了深度合作关系,致力于打造AIoT底层生态圈,为AIoT应用开发打通在各类硬件平台部署算法的工作流,加速面向场景的AI算法在嵌入式终端/边缘上快速迁移,大大推动了AIoT领域技术的发展,也加快了AIoT领域产业化的步伐。
    
    本届“‘维科杯’·OFweek 2020(第五届)人工智能行业年度评选”活动将于9月21日进入网络投票阶段,欢迎各位踊跃投票!