华为发布三款自研AI SSD, 单盘物理容量高达245TB
在8月27日举办的华为数据存储AISSD新品发布会上,三款全新AISSD产品重磅登场。具体来看,高性能品类包含HUAWEIOceanDiskEX56和HUAWEIOceanDiskSP560,而HUAWEIOceanDiskLC560则归属于大容量产品系列。
HuaweiOceanDiskEX560作为极致性能盘,随机写性能最高可达1,500KIOPS,随机写时延低于7?s,耐久性可达60DWPD(每日全盘写入次数),适用于AI一体机训练场景,通过高性能AISSD将单机可微调的模型参数扩大6倍,实现千亿参数大模型轻松可微调。
HuaweiOceanDiskSP560定位为高性能盘,主打高性价比。它的随机写性能最高可达600KIOPS,随机写时延同样低于7?s,耐久性为1DWPD,适用于一体机和集群的推理场景。可推理序列长度提升了2.5倍,推理体验得到进一步优化,成本也更具优势。不仅如此,其还实现了TPS提升1~2倍,首Token时延降低75%,让推理环节更加高效流畅。
HuaweiOceanDiskLC560为大容量盘。它实现了超大容量突破,最大单盘物理容量高达245TB,读带宽可达14.7GB/s。对于集群训练场景而言,该产品的作用十分关键,它能助力数据采集预处理效率提升6.6倍,高效存储海量多模态语料库,为AI训练提供充足的数据“弹药库”,有力支撑了集群训练在数据存储与读取方面的高要求。
在发布会现场,华为公司副总裁、数据存储线总裁周跃峰表示,AISSD(固态硬盘)将以技术创新提升AI业务体验,攻克效率与成本难关。此外,华为还推出DiskBooster驱动软件,支持AISSD与HBM、DDR内存智能协同,通过内存扩展技术实现虚拟池化内存20倍扩展。
就在此前的8月12日,华为正式发布AI推理创新技术UCM(推理记忆数据管理器)。据了解,作为一款以KVCache为中心的推理加速套件,UCM融合了多类型缓存加速算法工具,分级管理推理过程中产生的KVCache记忆数据,可扩大推理上下文窗口,实现高吞吐、低时延的推理体验,降低每Token推理成本。