光互连与HBM的结合：三星在存储技术领域的新动向
发布时间：2024-01-24 09:42:14 热度：964
1/24/2024，光纤在线讯，据逍遥科技整理。在高性能计算领域，如 GPU 等核心芯片对数据的渴望日益增长，高带宽内存（HBM）技术的重要性不断提升。随着应用程序越来越依赖于大量数据，提高 HBM 的速度成为了一个迫切的课题。本文综述了三星、SK 海力士和美光等领先内存制造商，如何通过光互连技术和直接逻辑集成来提升 HBM 的性能。文中还探讨了这些方法可能带来的利益与风险，尤其是非标准化解决方案可能引发的供应商锁定问题。同时，也对未来的 JEDEC HBM 标准，如 HBM4 和 HBM4e 的发展方向进行了讨论。
高带宽内存（HBM）使得 GPU 这类处理能力强大的芯片能够访问更大的外部内存带宽。随着人工智能、机器学习以及高性能计算（HPC）等领域对数据需求的不断增长，急需通过提升 HBM 接口速度来缩短处理时间（Mellor，2023年）。本文回顾了主要内存供应商为提高 HBM 速度而采取的最新措施，包括光学和直接集成的创新手段，并讨论了关于 HBM 技术的未来标准化工作。
当前 HBM 现状 HBM 技术依赖于堆叠内存，这些内存在逻辑上作为一个整体运行。目前，HBM3e 能提供每堆栈最高 24GB 的容量，速度可达 1.2TB/s，使用的是 1024 位的宽接口（Mellor，2023年）。HBM 堆栈通过一个中间连接器与主处理器相连。尽管已经相当快速，行业内还是在寻求进一步提升 HBM 性能，以便更快地处理数据。
三星的光互连创新
近期，三星提出了创新想法：在 HBM 堆栈和处理器封装内部使用光互连来提升传输速度，声称可达飞秒级延迟。图 1 从概念上展示了这一光互连创新。三星认为，这种方法将大幅提高带宽和功耗效率。但是，如何将这一创新落到实处，目前还存在一些不确定性（Mellor，2023年）。
图 1. 三星在 2023 年 OCP 全球峰会上的展示。
直接集成
除了光互连创新之外，制造商还在探索将 HBM 堆栈直接集成到处理器芯片上的可能性，这与内存中处理（PIM）的理念类似。图 2 展示了 SK 海力士对这种被称为 “HBM4” 技术的构想。这种紧密集成可能带来更快的互联速度，但如果缺乏行业标准，也可能面临专有技术锁定的风险（Mellor，2023年）。
图 2. SK 海力士互连器（顶部）与组合的 HBM+GPU 芯片（底部）HBM 概念。
未来标准
美光，作为另一家主要的内存供应商，预计基于 JEDEC 标准的 HBM4 将在 2026 年推出，每堆栈带宽将超过 1.5TB/s，使用 2048 位总线，并在容量和功耗效率方面有所提升。此外，还有一个后续版本 "HBM4e" 正在规划中。表 1 总结了各供应商对这些未来规格的预期目标，尽管官方批准的具体参数还未确定（Mellor，2023年）。
表 1. HBM4和HBM4e用斜体显示，因为它们还不是正式的JEDEC标准。
讨论
目前，HBM 的发展重点集中在光互连和集成创新上，这些创新有望大幅提升带宽、容量和能效。然而，过于深入的集成可能会在缺乏开放标准的情况下导致供应商锁定。业界应对专有技术偏离公认的接口标准（如 JEDEC）持谨慎态度。尽管存在挑战，HBM4 和 HBM4e 为满足未来加速内存需求设定了令人期待的性能目标。标准机构、GPU 设计者和内存公司之间的持续合作，对于实现创新与互操作性的平衡非常重要。
关于逍遥科技：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
高带宽内存（HBM）使得 GPU 这类处理能力强大的芯片能够访问更大的外部内存带宽。随着人工智能、机器学习以及高性能计算（HPC）等领域对数据需求的不断增长，急需通过提升 HBM 接口速度来缩短处理时间（Mellor，2023年）。本文回顾了主要内存供应商为提高 HBM 速度而采取的最新措施，包括光学和直接集成的创新手段，并讨论了关于 HBM 技术的未来标准化工作。
当前 HBM 现状 HBM 技术依赖于堆叠内存，这些内存在逻辑上作为一个整体运行。目前，HBM3e 能提供每堆栈最高 24GB 的容量，速度可达 1.2TB/s，使用的是 1024 位的宽接口（Mellor，2023年）。HBM 堆栈通过一个中间连接器与主处理器相连。尽管已经相当快速，行业内还是在寻求进一步提升 HBM 性能，以便更快地处理数据。
三星的光互连创新
近期，三星提出了创新想法：在 HBM 堆栈和处理器封装内部使用光互连来提升传输速度，声称可达飞秒级延迟。图 1 从概念上展示了这一光互连创新。三星认为，这种方法将大幅提高带宽和功耗效率。但是，如何将这一创新落到实处，目前还存在一些不确定性（Mellor，2023年）。
直接集成
除了光互连创新之外，制造商还在探索将 HBM 堆栈直接集成到处理器芯片上的可能性，这与内存中处理（PIM）的理念类似。图 2 展示了 SK 海力士对这种被称为 “HBM4” 技术的构想。这种紧密集成可能带来更快的互联速度，但如果缺乏行业标准，也可能面临专有技术锁定的风险（Mellor，2023年）。
未来标准
美光，作为另一家主要的内存供应商，预计基于 JEDEC 标准的 HBM4 将在 2026 年推出，每堆栈带宽将超过 1.5TB/s，使用 2048 位总线，并在容量和功耗效率方面有所提升。此外，还有一个后续版本 "HBM4e" 正在规划中。表 1 总结了各供应商对这些未来规格的预期目标，尽管官方批准的具体参数还未确定（Mellor，2023年）。
表 1. HBM4和HBM4e用斜体显示，因为它们还不是正式的JEDEC标准。
讨论
目前，HBM 的发展重点集中在光互连和集成创新上，这些创新有望大幅提升带宽、容量和能效。然而，过于深入的集成可能会在缺乏开放标准的情况下导致供应商锁定。业界应对专有技术偏离公认的接口标准（如 JEDEC）持谨慎态度。尽管存在挑战，HBM4 和 HBM4e 为满足未来加速内存需求设定了令人期待的性能目标。标准机构、GPU 设计者和内存公司之间的持续合作，对于实现创新与互操作性的平衡非常重要。
关于逍遥科技：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
