存储器在AI发展中的重要性

    选择存储器并将它们构建到系统中变得更加困难。
    边缘计算性能的提升给存储器的设计，类型的选择和配置都带来挑战，这也导致在不同的应用市场中需要进行更复杂的权衡。
    芯片架构正在与新市场一起发展，但数据在芯片、设备之间以及系统之间如何移动并不总是很清楚。汽车和AI应用的数据正变得越来越多和复杂，但芯片架构在处理时有时不清楚如何优先处理数据。这让芯片设计人员面临抉择，是选择共用内存降低成本，还是增加不同类型内存提高性能和降低功耗。
    所有这些都是以安全为前提，并且不同的市场设计的要求也不一样。比如，汽车中的各种类型的图像传感器（如激光雷达和摄像头）的大量数据需要在本地处理。AI芯片则希望性能能够提升100倍。
    解决内存问题有一些方法，其中一种是片上存储器，也就是将存储器分散地集成在运算单元旁，最大程度减少数据搬移，这种方法的目标是通过减少负载和存储的数量来突破内存瓶颈，也能降低功耗。
    “存算一体（In－memory computing）可能是模拟的、数字的，或两者都有。” Cadence Digital＆Signoff Group的高级首席产品经理Dave Pursley说，“虽然在内存中进行计算的想法可能是日益增长的趋势，但在这种计算中实际发生的情况似乎大不相同。”
    SRAM和DRAM仍是主流
    尽管市场出现了新的变化，但片上SRAM和片外DRAM仍是主流。已经有专家预测DRAM多年后将“死亡”，但它仍然是最经济和可靠的选择。DRAM具有高密度、架构简单、低延迟和高性能的特性，兼具耐用和低功耗的特性。
    DRAM密度的增速正在放缓，但HBM2等新架构允许通过堆叠模块的方式而不是使用DIMM来垂直增加密度，这种方法还让DRAM更靠近处理单元。
    另外，SRAM价格昂贵且密度有限，但其高速性能多年来已被验证。片上存储器的挑战是采用分布还是共用的方式，在某些情况下，为保证安全性需要增加冗余。
    “所有这些要求都会影响存储器的类型和数量的选择，还涉及片上和片外存储器之间的权衡，以及访问每个存储器互连的复杂性。”Arm高级物联网架构师Ryan Lim表示。
    低功耗存储器是关键
    存储器的一个关键问题是功耗，其中存储器类型和配置等多种因素都会影响功耗。例如，在7nm的存储器中进行数据的存取可能消耗更多功耗，这是因为线路中的RC延迟。当然，这也会产生热量，有可能会破坏输入输出存储器的信号的完整性。
    不过，较慢的片外数据使用高带宽内存可以节省功耗，并且可以与高速GDDR6一样快。如何做出这些决定取决有多种因素，包括设备的平均售价和选择的存储器类型。
    还有针对手持移动设备的极低功耗的存储器，包括越来越多使用电池的边缘设备。
    “这些存储器具有极高的效能，可在一定程度上提升电池供电设备的功耗和数据速率。” Rambus杰出的院士Steven Woo说。“它们也可以在多种模式下工作，当处于待机状态时，可以消耗很少的能量满足手机和平板电脑等产品的需求，并在需要进行处理时快速切换到更高性能／更高功率的模式。 ”
    低功耗存储器还支持多种封装方式，允许它们与手机处理器堆叠在一起，满足智能手机的轻薄需求，也能集成在PCB上支持平板电脑和其他消费类设备高容量内存配置的需求。
    毫无疑问，开发低功耗存储器是一项挑战。“当设计低功耗存储器时，它们支持的速率范围很广，相对低功耗存储器而言，这些数据速率往往是相当高的。”Woo说。“这通常是由一两个主要应用市场驱动，所以它必须面向一个市场很大的行业，拥有足够大市场的行业才能催生新的存储器。从历史上看，手机市场是成功的例子。如果与不同的手机制造商交谈，他们都希望获得性能和电源效率更高的存储器，因为他们希望能够延长电池寿命。对于其他想要使用低功耗存储器的公司，他们会很庆幸其他人正在帮他们实现。“
    通常，这些合格的存储器可能在几种不同的数据速率下运行，但速率很接近。“这些存储器可能有一个是每秒4．2千兆比特的速率，另一个是3．2千兆比特。”他解释道，“这可以让内存制造商在生产所有这些存储器时，进行所谓的分级。当某些部件没有全速运行时会发生这种情况，但制造商依旧会出售这些内存，因为有些客户需要以更便宜的价格购买性能较低的存储器。Binning（数据合并）允许这种情况。这些产品的性能在一定的范围内，都属于合格品。“
    
    
    1  2  下一页>