샌디스크(SanDisk·$SNDK)의 고대역폭 플래시(HBF) 기술 시연이 고대역폭 메모리(HBM)와의 성능 비교 기준에 대한 논란을 일으켰다. 이와 관련해 제퍼(Zephyr)의 애널리스트 시트리니(Citrini)는 샌디스크가 HBF와 HBM의 대역폭을 각각 12.8TB/s로 설정하고, 특정 모델을 bfloat16 방식으로 실행하는 조건을 적용했다는 점을 지적했다.
현재의 AI 모델 추론에서는 대부분 FP4 또는 FP8을 사용하고, 이 경우 필요한 메모리 용량은 240GB에서 480GB로 늘어난다고 주장했다. 샌디스크가 제시한 HBM의 단일 GPU 용량이 192GB로 고정되어 있지만, 16단 HBM4E를 8개 스택으로 구성하면 용량이 512GB, 대역폭은 약 32TB/s에 이를 수 있다는 설명도 덧붙였다. 이 수치는 샌디스크가 시연에 적용한 HBM 대역폭보다 약 3배 많다.
쟁점은 샌디스크의 시연 결과다. HBF가 1~4개의 GPU만 필요하다고 주장한 반면, HBM에는 8개의 GPU가 요구된다는 결론이 도출되었다. 이에 대해 시트리니는 HBM 구성의 사양이 충분히 반영되지 않았으며, HBF가 이미 HBM에 비해 불리한 조건 하에서 비교되었다고 비판했다.
HBF는 낸드 기반 메모리를 사용하여 AI 추론에 최적화된 고대역폭 구조를 목표로 하고 있으며, 샌디스크는 HBF가 HBM에 비해 8배에서 16배의 용량을 제공하면서 동일한 읽기 대역폭을 목표로 한다고 강조하였다. 이 회사는 HBF 메모리의 첫 번째 샘플을 2026년 하반기에 공급할 계획이며, HBF 기반의 AI 추론 장치 샘플은 2027년 초에 출시할 예정이다.
샌디스크의 HBF 기술은 AI 추론에서 발생하는 ‘메모리 월’ 문제에 대한 해결책으로 제시되었다. 대규모 AI 모델이 모든 데이터를 GPU 메모리에 배치하기 어렵고, GPU 간 데이터 이동 시 병목이 발생할 수 있다는 점을 감안한 것이다. 그러나 이번 논란은 HBF와 HBM의 비교 조건의 적정성에 중점을 두고 있다.
정확히 말씀드리자면, HBM은 국내 반도체 업계에서 매우 중요한 제품군으로 자리잡고 있으며, HBF는 이를 보완하거나 경쟁할 수 있는 기술로 주목받고 있다. 특히 샌디스크는 HBF 기술에 대한 자문위원회를 구성하고 SK하이닉스와의 양해각서를 체결하여 개발을 진행 중이다.
이번 사안은 구체적인 제품 출시 일정이나 고객 수주와는 관련이 없다. 하지만 AI 추론 시장에서 어떤 메모리 조건을 표준 비교값으로 설정할지가 HBF와 HBM의 향후 평가 기준이 될 것이란 점에서 중요한 의미를 갖는다. 따라서 샌디스크가 발표한 HBF 메모리의 첫 샘플 출시 일정은 더욱 주목받을 필요가 있다.
