MemoryS 2025 存储峰会完美闭幕

2025年3月12日 深圳宝安前海·JW万豪酒店

MemoryS 2025:平头哥诠释镇岳510如何助力企业级SSD解锁AI存力

峰会新闻 2025-03-07 12:05 CFM

AI浪潮之下,LLM的出现带动算力规模呈指数级增长,而从文本到图像、音频、视频等多模态形式的发展也令LLM变得更加复杂和深入需要消耗更多的计算资源,然而计算平台从以CPU为中心转移到以GPU/NPU为中心,并未突破“Memory Wall”的限制。

相对算力的提升,存储解决方案在带宽和容量上的增加仍显不足,同时总计算量的大量增加也令系统的总热设计功耗(TDP)显著提高。从云端训练到边缘推理,LLM的应用场景也更加复杂多样,那么什么样的企业级SSD才能更好地满足AI时代对存力提出的更高要求?

3月12日,平头哥半导体产品总监周冠锋先生将莅临MemoryS 2025峰会现场进行主题演讲,深度解读镇岳510如何助力企业级SSD解锁AI存力,敬请期待!

在LLM训练中,因为涉及海量的数据和复杂的计算,GPU的利用率直接受限于数据供给速度。由于SSD的I/O延迟(50-100 μs)远高于DRAM延迟(50-100 ns),数据从存储到内存的传输可能成为系统瓶颈,具备高速读写和超大容量的SSD将能够最大限度地减少数据预处理和降低训练期间GPU的频繁等待时间。而在LLM推理中,尽管容量需求不似训练时那般严苛,但存储设备的响应速度至关重要,需要更低的时延以满足高效的数据访问速度来支持实时决策。此外,在AI大模型的训练和部署中会间歇性大量写入Checkpoint检查点环节,存储设备需要满足检查点所需的高写入吞吐量。

从HDD到SATA SSD再到PCIe5.0 SSD,凭借更高的的带宽和更低的延迟,PCIe 5.0 SSD能够显著优化GPU驱动的工作负载,从而更好地满足AI服务器和云计算等对存储性能的严苛要求。PCIe 5.0 SSD已经成为企业级存储的标配,据CFM闪存市场预计,PCIe 5.0 SSD在2025年的服务器市场应用中将扩大到30%较2024年的10%显著提升。

来源:CFM闪存市场

平头哥半导体推出的镇岳510企业级PCIe5.0主控芯片,具备4μs超低延迟,超高可靠性,灵活调度机制,以及高性能计算支持等核心优势,专为云计算场景深度定制。更多平头哥镇岳510产品详情,欢迎莅临MemoryS 2025展位了解!