翱捷科技(上海)有限公司参评“OFweek2019‘维科杯’人工智能核心技术奖”


    “OFweek2019‘维科杯’(第四届)中国人工智能行业年度评选”活动由中国高科技行业门户OFweek维科网、高科会主办,OFweek人工智能网承办,活动旨在表彰人工智能领域具有突出贡献的优秀产品、技术及企业,鼓励更多企业投入技术创新;同时为行业输送更多创新产品、前沿技术,一同畅享人工智能的未来。
    2019中国人工智能行业年度评选“OFweek (4th.) China Artificial Intelligence Awards 2019”将于2019年7月5日-7月20日进入网络投票阶段,颁奖典礼将于8月9日在上海举办。
    目前,活动正处于火热的报名评审阶段,业内企业积极响应。翱捷科技(上海)有限公司已正式参评“OFweek 2019‘维科杯’中国人工智能核心技术奖”。
    
    翱捷科技成立于2015年4月,注册资本3.55亿美元。2018年被评为高新技术企业。总部位于上海张江高科技园区,在美国、韩国、香港、北京、大连、成都、合肥、深圳建立了分支机构,全球拥有600名员工。拥有多项国际核心发明专利。核心骨干团队由国内外顶尖的科研管理人员组成,已经具备完整强大的移动通信芯片研发平台、成熟优秀的软硬件方案解决能力及领先的芯片IP自主化研发水平。经过连续几年的产品研发,以及对Marvell移动芯片部门的收购和技术整合,已成为国内在物联网技术方面覆盖面最广的公司之一。未来,将进一步通过在5G、低功耗广域物联网、智能可穿戴等领域的深度布局和产品创新,成为业界一流的高科技公司。
    翱捷科技AI团队拥有强大的专家顾问团队,包括国家视觉信号处理国家工程实验室的首席科学家龚怡宏教授等。研发团队90%具有知名院校硕士及以上学历,拥平均工作经验8年。团队参与开发的FPGA拟态异构计算机项目,获得2014年上海科学技术发明奖。团队基于神经网络的FPGA实现架构取得的研究成果被FPL2016国际会议录用。2018年,从2014年支持的公安部第三研究所,新知股份的视频结构化国家项目获得公安部科技一等奖。2018年,参加中国电信视频识别(人脸、车辆)算法测试,顺利通过。
    参评核心技术:一体化智能分类存储技术
    
    核心技术介绍:
    随着2016 年以来人工智能技术在视频分析领域的突破,视频监控行业正处在高清化、网络化以来,第三次重要的变革阶段。随着AI的逐步深入,呈现在人们面前的不再是原始的视频数据,而是AI根据感知到的视频数据对视频进行分析后的结果。传统安防行业正在向广义的视频监控行业演变。传统安防行业的主要客户是公安部门和交通部门,大企业和个人安防的应用非常有限,基本局限在传统的视频监控。随着AI 的发展,海量视频数据的可利用性增加,更多的视频解决方案被应用在零售、金融等大企业,以及个人安防案例中。根据研究机构的数据显示,2017年中国安防视频数据已经达到了859PB,到2020年IP摄像头数据量将达1亿部,75%摄像头将会通过网络连接。显然,随着这些联网的摄像头数量的增长,每天所产生的视频流数据也将会呈现爆炸式增长。相对于其他物联网设备来说,网络摄像头所产生的数据更为庞大,原有的单纯云端数据处理方式已经难以满足需求,再加上安防市场的特殊性,这也使得这个市场对于终端侧的人工智能计算需求更为迫切。安防监控将是人工智能最先落地的细分市场。
    “视频结构化”,简言之即从视频中结构化提取关键目标,包括车辆、人及其特征等。需要把云端算法的实现前移,对边缘的计算和存储提出了新的挑战,主要是AI产品结构的创新,提高了AI计算的存算瓶颈。
    2018年6月,针对目前图像分类及检索在互联网,安全防护,刑事侦查等领域的应用需求,翱捷科技AI团队基于 FPGA 应用 CNN 分类算法的一体化智能存储设备技术开发完成。
    翱捷科技AI团队的一体化智能存储技术,利用 FPGA 的可编程硬件的特性,在一块 FPGA 芯片内集成 SATA 数据通信和 CNN 算法,在图像的存储中实现分类功能,同时运用向量比对的方式,在读取数据中,对图像进行特征检索及排序。从而设计出了一款具有图像分类和检索功能的高性能智慧固态硬盘。该产品技术可以应用于图像存储服务器,在服务器处理器性能较低的条件下,实现高速的分类和检索功能。
    众所周知,卷积神经网络(CNN)是一个广为人知的深度学习架构,它拓展与人工神经网络并在视频监控,移动机器人视觉,图像搜索引擎等领域里被广泛使用。CNN 的设计灵感来源于生物的视觉神经。通过处理具有多层神经链接特性的数据,来达到图像识别的高精度要求。目前基于深度学习算法的急速需求也极大的推动了深度卷积神经网络(Deep CNN)的研究。由于 CNN 特殊的运算模式,通用处理器(CPU)很难有效的实现 CNN 算法并满足较高的性能需求。继而基于可编程门阵列器件(FPGA),显卡(GP模块也被设计出来用以改善 CNN 的运算性能甚至专用集成电路(ASIC)等各种加速 FPGA 的加速模块被广泛的研究者关注。这主要是由于它具有高性能,高能效,开发周期和可重构等特点。
    另一方面,随着信息传播的爆发式增长,数据存储也遇到容量和速度的挑战。近年来,固态硬盘(SSD)的技术日趋成熟。由于 SSD 特有的存取速度优势,传统的磁碟硬盘正在逐步被速度更快的 SSD 所取代。
    翱捷一体化智能存储技术设计结合以上两种技术开发出了一套基于卷积神经网络的图像分类及检索的智能存储设备。解决了服务的配置要求和硬件的可扩展性。其一,服务器CPU只需要负责通信和存储的控制调度,不需强大的计算性能,其二,硬盘本身就是服务器内的必要设备,而且具有高于 PCIe 插槽的数目,具有更好的扩展性。
    其主要功能特性有以下几点:
    高能效的分类检索性能
    1)对CNN算法进行性能优化,达到可实用的产品要求。
    2)基于文件系统的存储方案在硬件端(FPGA)实现,提高了能效比。
    先进优越的技术,确保传输效能历久不辍
    除拥有高速传输、耐久抗震、低耗电、无噪音、不产生高热等多项传统固态硬盘的特色优点外,再加上均衡磨损技术(Wear Leveling)的应用,让每个内存区块的覆写次数平均化,有效减缓效能下降与耗损机率,非常小的WA(写入放大因素),减少过多的向 flash中写入数据,大幅延长 SSD 的使用寿命。
    严苛的测试,保证稳定的品质
    1)性能测试
    2)高温老化测试
    3)可靠性测试
    4)稳定性测试
    5)Endurance 测试
    6)Compatibility 测试
    7)Power Consumption 测试
    性能优势
    除了上述软件优势外,硬件设计上基于 Xilinx Kintex-Ultrascale 系列 FPGA 器件开发。该器件基最先进的TSMC20nm工艺,最高I/O带宽可达2.9Tb/s,并带有最高72万个逻辑单元和5.3TMAC/s的DSP等。
    性能参数如下图:
    
    典型应用
    1)分类操作,如下图所示。主机通过内存将图片传入 SATA 接口,通过 FPGA 内部 CNN 运算模块,对图片进行分类判断。根据得到的分类结果,图片会存入初始化过程中,根据模型的信息预先建立的目录文件中。
    
    2)检索操作,如下图所示。主机输入目标检测对象(支持以模型 ID 的形式输入)。FPGA 通过 SATA 接口遍历分类后模型 ID 对应的目录文件,对文件中的图片文件进行特征提取及向量比对。根据计算欧式距离的结果,将目标文件进行相似度从高到低的排序,并存入检索目标目录文件内。
    
    此外,结合 CNN 的设计需求需要有模型的读取和更新机制。可以通过主机传输,通过在SSD 内开辟特定的存储空间,在每次初始化过程中,将模型信息读入 FPGA 板载 DRAM 内,用于计算。
    参评述说/理由:
    国际上最早定位于高性能嵌入式AI的人工智能团队
    翱捷科技AI团队致力于人工智能 Deep Learning 算法的研究,以及Deep Learning 在DSP、GPU、FPGA上的应用和实现,在国际上最早定位于高性能嵌入式AI的人工智能的团队之一,是中国首家成功开发出并行异构处理系统并运用于智慧城市应用中。在视频、图像以及其他模式的人工智能检索与识别上有非常深的基础,在人工智能、大数据领域拥有多项相关技术的发明专利和软件著作权等自有自主知识产权。2016年9月,与香港应用科学技术研究院成立视觉智能联合实验室,专注于视觉智能的开发和应用。2017年10月阿里云栖大会,成为阿里人工智能生态的人工智能算法加速IP战略合作供应商。
    技术拥有自主知识产权
    技术拥有两项发明专利,以及两个软件著作权
    
    国际领先水平及市场领域
    翱捷科技AI团队的一体化智能存储设备技术领先于国内国际领域,技术早于2016年底立项,2018年初通过公安的产品指标测试。以智能算法为主,集算力,固态存储以及AI算法一体的存储上的计算为新的架构,在国际上首先实现了为AI应用提供边算边存的边缘计算存储设备。AI团队在基于FPGA的AI算法加速模块,于2014年起便与海康,大华,宇视等厂商有合作的基础,结合翱捷科技在芯片领域的积累和优势,可形成视频安防所迫切需要的AI芯片。
    而国内外视频安防监控存储供应商主要以传统的存储为主,在2018年下半年才开始设计带智能分析的视频安防存储。
    本届“OFweek2019‘维科杯’(第四届)中国人工智能行业年度评选”活动将于7月5日进入网络投票阶段,欢迎各位踊跃投票!