耐能推出最新款 AI芯片KL730,驱动轻量级 GPT解决方案的大规模应用
·解决了人工智能模型落地方面最大的瓶颈-能源成本-与行业及以往耐能的芯片相比,KL730在能效方面的进步达到了3到4倍。
·KL730芯片提供每秒0.35 - 4 tera有效计算能力,支持最先进的轻量级GPT大语言模型,如nanoGPT等。
2023年8月15日,总部位于圣迭戈,以开创性的神经处理单元(NPU)而闻名 的AI公司耐能,今日宣布发布KL730芯片。KL730集成了车规级NPU和图像信号处理器 (ISP),并将安全而低能耗的AI能力赋能到边缘服务器、智能家居及汽车辅助驾驶系统等各类应用场景中。
KL730作为耐能最新款芯片,从设计之初就以实现AI功能为目的,并突破了多项节能及安全的技术创新。该芯片具备多通道接口,可无缝接入图像、视频、音频和毫米波等各种数字信号,支持多类行业的人工智能应用开发。
该芯片还解决了目前人工智能的广泛瓶颈之一:普遍的低能效硬件导致的系统高成本。
在该芯片的研发上,KL730在能效方面取得了极大的进步,能效比相较于过往耐能的芯片提升了3至4倍,且比主要行业同等产品提高了150%~200%。
耐能创始人兼CEO刘峻诚表示:“运行AI功能需要专用AI芯片,其体系架构与我们以前了解的芯片完全不同。简单地重新使用相邻技术(如图形处理专用的GPU芯片),並不能很好地胜任这项工作。KL730将会是边缘AI的革新者。凭借其前所未有的效率和对Transformer等框架的支持,我们正在为千行百业提供强大的AI能力,在极具安全性和保护数据隐私的情况下充分发挥人工智能的潜力。”
耐能长期专注于边缘AI,并研发了一系列轻量且可扩展的AI芯片,以安全地推动AI能力的发展。2021年,耐能发布了首款支持Transformer神经网络架构的边缘AI芯片KL530。而Transfomer神经网络架构是所有GPT(Generative Pre-trained Transformer)模型的基础。KL730芯片进一步丰富该产品系列,提供每秒0.35 - 4 tera有效计算能力,扩展了支持最先进的轻量级GPT大语言模型(如nanoGPT)的能力。
KL730具有独特的定位,可以改变AIot领域的安全性,从而使用户能够部分或完全离线地在终端运行GPT模型。该芯片配合耐能的私有安全边缘AI网络Kneo,让AI运行在用户的边缘设备上,从而让他们更好地数据隐私。这些应用是全行业的:从企业服务器解决方案到智能驾驶车辆再到以AI驱动的医疗设备,所增加的安全性允许设备之间进行更大的协作,同时保护数据的安全。例如,工程师可以设计新的半导体芯片,而无需与大型云公司运营的数据中心共享机密数据。
自2015年成立以来,耐能以可重构的NPU架构获得诸多行业内认可,并获得奖项。例如IEEE Darlington Award。使用耐能芯片的终端产品已进入多个行业领域,从AIoT到智能驾驶及边缘服务器,包含丰田、广达电子、中华电信、松下、韩华等诸多企业。
关于耐能
耐能2015年创立于美国圣迭戈,是全球领先的全方案边缘AI计算解决方案厂商。耐能自研的高能效轻量级可重构神经网络架构解决了边缘AI设备所面临的三个主要问题,延迟、安全性和成本,从而使AI无处不在。迄今为止,耐能已经获得了超过1.4亿美元融资,并得到了李嘉诚旗下的维港投资、红杉资本、高通、鸿海、光宝科技、华邦电子、旺宏电子、威刚科技、全科科技等诸多投资方的支持。