欢迎访问集团网商讯

Alphawave Semi采用尖端HBM4技术提升AI性能

金融科技 2024-06-283729user639632

  随着生成式 AI 和机器学习技术在数据中心内不断发展和扩展,克服内存带宽和容量限制对于开发更复杂的大型语言模型 (LLM) 至关重要。高带宽内存 (HBM) 因其高效的设计而成为首选解决方案,提供可扩展和增强的性能,这对未来的 AI 进步至关重要。HBM 的架构允许堆叠以增加内存容量和带宽,从而促进创建更复杂的 LLM。 现代 AI 芯片集成了 GPU 和加速器,配备封装 HBM 内存和尖端连接 SerDes,通常具有高速 I/O 选项,如 112G/224G 以太网或 64G/128G PCIe,以提高性能。

  过渡到 HBM4 架构

  随着 HBM 存储器技术的进步,每一代每一代的数据速率都在增加。然而,从 HBM3 到 HBM4 的过渡标志着每引脚数据速率的降低,从 HBM3 的 1024 位接口的 9.2 Gbps 到 HBM4 的双倍接口宽度 2048 位的 6 Gbps。尽管引脚速度最初有所下降,但这一变化允许总带宽的提升。值得注意的是,HBM4 保留了与其前身相同的海岸线宽度,但密度的增加带来了更大的串扰挑战,以及 HBM4 和 HBM4E DRAM 未来数据速率增强的复杂问题。

  HBM4的系统级分析

  Alphawave Semi 利用其在先进封装、信号和电源完整性以及复杂芯片设计方面的专业知识,正在从其现有的 HBM3 框架向更强大的 HBM4 架构推进。该公司正在仔细评估各种CoWoS转接层配置、EMIB和桥接互连,以及ASE等OSAT提供的封装技术。这些评估对于优化密集路由,同时保持高数据速率至关重要,这对于下一代系统的性能需求至关重要。Alphawave Semi 广泛审查了传统 CoWoS-S 硅中介层、CoWoS-R 再分配层和 EMIB 的通道参数,以确定中介层、再分配层或桥接互连的最有效布局,从而最大限度地提高 HBM4 子系统的性能和效率。

  HBM 子系统的创建包括内存 IP、通道和 DRAM 设备的协同优化,每个子系统都是实现峰值组合性能不可或缺的一部分,必须精确校准才能实现最佳运行。

  利用 3D 建模工具通过 S 参数模型推导频率响应,可以精确识别关键信道参数,例如特性阻抗、插入损耗、回波损耗和串扰。这种全面的分析可以深入了解信道在各种操作条件下的性能特征,有助于准确预测链路的性能和数据眼图,这对于保持信号完整性至关重要。该方法已应用于评估多个转接板布局,显著提高了 HBM 子系统的效率和可靠性。

  均衡

  在系统层面,对 PHY 和 DRAM 的 IBIS-AMI 模型进行眼图模拟有助于检查整个 HBM4 通道的信号质量。这种分析有助于优化信号传输,并确保整个存储器子系统的稳健性能。

  通过分析导致眼睛闭合的关键通道参数,Alphawave Semi 的团队能够确定和量化影响信号完整性的因素。优化了 I/O 架构,以增强组件之间的数据传输和通信。该团队研究了DFE均衡技术,以最大限度地提高眼图张开度(由眼图高度和宽度决定),以有效抵消垂直和水平噪声源(如抖动),而不会影响系统性能。

  正在进行的关于信号和电源完整性 (SI/PI) 和路由可行性的迭代研究有助于完善信道参数,改进仿真数据眼图。抖动分解分析使团队能够确定额外的系统裕量,以实现更高的数据速率。均衡技术经过微调,以抵消任何剩余的信号衰减,从而在数据通过中介层时保持数据的完整性。

  转接层设计

  随着系统级封装 (SiP) 设计的复杂性随着尺寸和组件数量的增加而增加,封装设计和布局方面的挑战也越来越大,受到可用于布线的海岸线有限的限制。随着通道范围通过更长的转接层路由从 PHY 扩展到 DRAM,信号损耗可能会增加。通过评估插入损耗、回波损耗、码间干扰 (ISI) 和串扰等关键信道参数,确定最佳转接板布局。使用 2D 和 3D 提取工具分析了信号和接地走线宽度及其间距,从而形成了一个优化的模型,该模型将微凸块连接集成到信号走线,包括各种互连层和通孔连接。迭代方法改进了接地密度和信号路由模式,以有效屏蔽层之间的串扰。

  用于信号、电源和去耦电容器的中介层对 CoWoS-S 和 CoWoS-R 技术进行了全面评估,为向 HBM4 的过渡做准备。这包括对信号层叠层、接地走线宽度、过孔和信号走线之间的间距进行详细分析,从而优化转接层布局,以减轻不利影响并提高性能。

  为了获得更高的数据速率,对转接板进行了抖动分解和分析,以预算随机抖动、电源引起的抖动、占空比失真和其他因素,从而设置必要的工作裕量。该团队设计了先进的硅中介层布局,可提供额外的裕量,确保这些配置能够支持HBM4技术未来增强和不同工作条件所需的高数据速率。

  HBM4 面向未来的性能

  串扰被确定为导致眼睛闭合的主要因素。为了解决这一关键问题,Alphawave Semi的设计团队设计了创新方法来最大限度地减少串扰,包括开发正在申请专利的结构,以减少中介层内的串扰。这些正在申请专利的先进解决方案对于保持信号完整性和提高整体性能至关重要。

  这些增强功能确保转接板能够满足 HBM4 的高数据速率、信号密度和性能要求。布局设计不仅解决了当前的挑战,而且为下一代 HBM 提供了面向未来的转接板,展示了 Alphawave Semi 致力于推进技术和保持行业领先地位的奉献精神。

The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

Copyright © 2099 集团网商讯 版权所有

苏ICP备2023036119号-9 |——:合作/投稿联系微信:nvshen2168

|—— TXT地图 | 网站地图 |