权威的存储市场资讯平台English

NEO半导体推出3D X-AI芯片:在3D DRAM中执行AI处理

编辑:Andy 发布:2024-08-06 14:49

NEO Semiconductor宣布开发其3D X-AI芯片技术,旨在通过在 3D DRAM 中实现 AI 处理来取代高带宽存储器 (HBM) 中的现有 DRAM 芯片,以解决数据总线瓶颈问题。3D X-AI 可以减少 AI 工作负载期间 HBM 和 GPU 之间传输的大量数据。

采用NEO 3D X-AI 技术的 AI 芯片可以实现:

100X性能加速:包含8,000个神经元电路,可在3D内存中执行AI处理。

降低99%功耗:最大程度减少将数据传输到GPU进行计算的要求,从而降低数据总线的功耗和发热量。

8 倍内存密度:包含 300 个内存层,允许 HBM 存储更大的 AI 模型。

单个3D X-AI芯片包含300层3D DRAM单元,容量为128GB,以及一层包含8,000 个神经元的神经电路。据 NEO 估计,每个芯片可支持高达 10 TB/s 的 AI 处理吞吐量。使用 12 个 3D X-AI 芯片与 HBM 封装堆叠可实现 120 TB/s 的处理吞吐量,从而将性能提高 100 倍。

NEO Semiconductor 创始人兼首席执行官 Andy Hsu 表示:“目前的 AI 芯片由于架构和技术效率低下而浪费了大量性能和功耗。目前的 AI 芯片架构将数据存储在 HBM 中,并依靠 GPU 执行所有计算。这种分离的数据存储和数据处理架构使数据总线成为不可避免的性能瓶颈。通过数据总线传输大量数据会导致性能受限和功耗非常高。3D X-AI 可以在每个 HBM 芯片中执行 AI 处理。这可以大大减少 HBM 和 GPU 之间传输的数据,从而提高性能并大幅降低功耗。”

推荐:电脑用的少,手机扫一扫,资讯快一步!

扫码关注我们

本文标签:

股市快讯 更新于: 12-23 23:48,数据存在延时

存储原厂
三星电子53500KRW+0.94%
SK海力士169600KRW+0.65%
铠侠1580JPY-7.33%
美光科技88.627USD-1.66%
西部数据60.635USD+0.66%
南亚科31.00TWD+1.97%
华邦电子15.20TWD+1.33%
主控厂商
群联电子479.5TWD+3.34%
慧荣科技54.900USD+1.86%
联芸科技43.73CNY+2.05%
点序45.30TWD+0.67%
国科微72.50CNY-1.53%
品牌/模组
江波龙93.95CNY-1.38%
希捷科技87.655USD+0.40%
宜鼎国际214.5TWD+1.90%
创见资讯90.3TWD+1.46%
威刚科技79.0TWD+0.13%
世迈科技19.215USD+3.81%
朗科科技22.03CNY-3.50%
佰维存储65.70CNY-2.87%
德明利90.40CNY-2.16%
大为股份12.54CNY-4.13%
封测厂商
华泰电子34.60TWD+1.76%
力成124.5TWD+2.47%
长电科技39.03CNY-2.38%
日月光160.5TWD+1.90%
通富微电29.43CNY-2.49%
华天科技11.93CNY-2.21%