site stats
对的,不知道哪里冒出了一个推特长文,对hbm,nand,ddr做出了完全不合常理的区分本来hbm就是ddr堆起来的,而nand是为了给超大上下文推理任务offload用的也就是说,如果你这个agentic inference任务上下文超出了一个gpu所附带HBM的大小,他就得把一部分先存到nand上去
发布时间:
1
数据加载中
Markdown支持
评论加载中...
您可能感兴趣的: