编辑:Andy 发布:2024-07-09 16:07
韩国科学技术研究院(KAIST)郑明洙教授的研究团队宣布,开发出一项可提高大规模人工智能速度的图形处理单元(GPU)技术。该技术无需连接多个GPU即可确保内存容量,有望降低构建大规模AI模型的成本。
由于模型和数据规模越来越大,大规模 AI 服务需要数十TB 的内存。但 GPU 的内存容量只有几十GB,因此需要使用多个 GPU 来为 AI 服务提供支持。这种方法虽然有效,但会大大增加成本——Nvidia 最新的 GPU H100 每台售价在 4000 万至 5000 万美元之间。
该团队利用CXL开发出一种“CXL-GPU”结构,可直接将大容量内存连接到GPU设备。该技术通过CXL将内存扩展设备集成到GPU内存空间中,无需连接多个GPU即可增加内存容量。
同时,研究团队还设计了内存扩展设备,以接收来自所连接 GPU 的信号,从而主动执行内存读取并自行确定写入时间。
研究团队预计,其开发的CXL-GPU技术将打破 Nvidia 在 AI 加速器市场的垄断。
存储原厂 |
三星电子 | 54400 | KRW | +1.68% |
SK海力士 | 168500 | KRW | -0.65% |
铠侠 | 1554 | JPY | -1.65% |
美光科技 | 89.220 | USD | -0.56% |
西部数据 | 61.355 | USD | -0.33% |
南亚科 | 31.90 | TWD | +2.90% |
华邦电子 | 15.60 | TWD | +2.63% |
主控厂商 |
群联电子 | 487.5 | TWD | +1.67% |
慧荣科技 | 56.060 | USD | -0.02% |
联芸科技 | 46.89 | CNY | +7.23% |
点序 | 46.00 | TWD | +1.55% |
国科微 | 72.33 | CNY | -0.23% |
品牌/模组 |
江波龙 | 96.50 | CNY | +2.71% |
希捷科技 | 88.510 | USD | -0.02% |
宜鼎国际 | 218.0 | TWD | +1.63% |
创见资讯 | 88.4 | TWD | -2.10% |
威刚科技 | 79.6 | TWD | +0.76% |
世迈科技 | 19.420 | USD | -0.05% |
朗科科技 | 22.52 | CNY | +2.22% |
佰维存储 | 69.72 | CNY | +6.12% |
德明利 | 90.70 | CNY | +0.33% |
大为股份 | 12.41 | CNY | -1.04% |
封测厂商 |
华泰电子 | 36.00 | TWD | +4.05% |
力成 | 125.0 | TWD | +0.40% |
长电科技 | 39.24 | CNY | +0.54% |
日月光 | 164.5 | TWD | +2.49% |
通富微电 | 29.87 | CNY | +1.50% |
华天科技 | 12.09 | CNY | +1.34% |
深圳市闪存市场资讯有限公司 客服邮箱:Service@ChinaFlashMarket.com
CFM闪存市场(ChinaFlashMarket) 版权所有 Copyright©2008-2023 粤ICP备08133127号-2