存储芯片一夜狂飙,AI到底有多"吃"存储?

作者:存储芯片一夜狂飙,AI到底有多"吃"存储?

一、什么是存储芯片? 存储芯片就是专门"记忆数据"的芯片。它和CPU/GPU(负责"计算")不同,存储芯片的核心任务就一个——把数据"存住"再"取出来"。 按功能分两大类:第一类是DRAM(内存),负责临时记忆,断电就消失,但速度极快。它下面又分DDR5(电脑/服务器内存条)和HBM(AI芯片专用"超级内存")。第二类是NAND Flash(闪存),负责永久记忆,断电不消失。SSD固态硬盘、U盘、存储卡、手机存储空间都属于这一类。 🤖 二、为什么AI这么吃存储 这个问题是理解本次热点最核心的一环。 首先,AI模型是"超级大胃王"。 一个AI大模型(比如ChatGPT、文心一言)有数千亿个参数,每个参数都是一个数字。当你向AI提问时,AI需要把所有参数"读"出来,进行计算,再算出回答。以GPT-4为例,它约有1.8万亿个参数,全部加载到内存需要约3.6TB的存储空间。对比一下,你的电脑内存通常只有16GB到32GB,差了整整一个数量级。结论就是:没有大容量、高速度的存储芯片,AI根本跑不起来。 其次,存储速度和AI算力之间存在"瓶颈之战"。 AI芯片(GPU/NPU)的算力这几年飞速发展,每年增长约60%,但存储芯片的速度每年只增长约15%。差距越拉越大,导致算力在"等数据"——再快的AI芯片,数据喂不进去也是白搭。这个问题被称为"存储墙",而HBM就是为了打破这堵墙而生的。 最后,HBM到底厉害在哪 HBM(高带宽内存)是专为AI芯片设计的"超级内存",它的核心技术叫3D堆叠。传统内存(DDR5)是平铺"一层楼",数据带宽约50GB/s;而HBM3E把8到12层芯片叠成"高楼",数据带宽达到1.2TB/s,快了整整24倍,功耗还比DDR5省电60%。当然价格也很贵,一颗HBM3E约200到300美元。 一句话理解HBM: 普通内存像"单车道马路",HBM像"八车道高架桥"——数据可以同时多路高速通行。 🔬 三、小白也能懂的一页纸速查 存储芯片:专门"记住数据"的芯片,分DRAM(内存)和NAND(闪存)两大类 DRAM:临时记忆,速度快,断电消失,相当于"书桌" NAND:永久记忆,断电不消失,相当于"书架" HBM:把多个DRAM叠起来的"超级内存",AI芯片标配 DDR5:最新一代电脑内存条,速度是DDR4的两倍 TSV:在芯片上打垂直孔的技术,让数据"坐电梯"上下传 CoWoS:把HBM和GPU"粘"在一起的封装技术 封测:芯片制造的最后一步——“包装"和"考试”#财经热点 #半导体 #AI #芯片 #英伟达 #CPU

📰 返回新闻列表