더지엠뉴스 조익철 기자 | AI 산업의 핵심 병목이 GPU에서 메모리로 이동하면서 글로벌 반도체 시장의 돈 흐름도 바뀌기 시작했다. 미국 낸드플래시 기업 샌디스크는 AI 경쟁이 사실상 ‘메모리 확보 전쟁’으로 변했다며 차세대 HBF 메모리 제품을 내년 출시하겠다고 공식화했다.

29일 차이롄서에 따르면 미국 저장장치 기업 샌디스크의 알퍼 일크바하르 CTO는 최근 인터뷰에서 “AI 산업이 점점 메모리 중심 구조로 바뀌고 있다”고 말했다. 그는 대형언어모델과 AI 추론 시스템 확대가 메모리 수요를 폭발적으로 끌어올리고 있다고 설명했다.

오픈AI 챗GPT와 구글 제미니, 앤트로픽 클로드 같은 생성형 AI 서비스는 대화 기록과 문맥을 유지하기 위해 KV 캐시 구조를 대규모로 사용한다. AI 모델이 더 긴 문맥을 처리할수록 메모리 용량 부담도 함께 커지는 구조다.

최근 AI 업계 주류로 자리잡은 MoE(전문가 혼합형) 모델 역시 메모리 의존도를 키우는 요소로 꼽힌다. 여러 개의 전문가 모델을 동시에 배치한 뒤 필요한 연산만 선택적으로 호출하는 방식이라 GPU 연산량은 줄일 수 있지만 메모리 접근과 저장 수요는 더 커질 수밖에 없다는 설명이다.

알퍼 CTO는 “30년 넘게 반도체 업계에 있었지만 고객들이 지금처럼 장기간 메모리 공급을 강하게 선점하는 상황은 처음 본다”고 말했다. 실제 샌디스크는 최근 최대 5년짜리 공급 계약 5건을 체결했고 예상 계약 규모는 최소 420억달러(약 57조5000억원)에 달한다.

그는 과거 메모리 업체들이 수요 예측 실패 위험을 떠안은 채 증설에 나섰다면 이제는 고객사들이 먼저 장기 구매 계약을 맺으며 공급 확보 경쟁에 나서는 구조로 시장이 바뀌었다고 설명했다.

시장 관심은 샌디스크가 공개한 HBF 기술에도 집중됐다. HBF는 기존 HBM처럼 DRAM을 적층하는 방식이 아니라 낸드플래시를 기반으로 대용량 AI 메모리를 구현하는 구조다. 저장 용량은 더 크고 가격은 낮출 수 있으며 AI 추론 분야에서는 HBM에 근접한 성능을 낼 수 있다는 평가가 나온다.

샌디스크는 현재 SK하이닉스와 함께 HBF 기술 표준 작업도 진행 중이다. 알퍼 CTO는 올해 말 샘플 칩을 먼저 공급한 뒤 내년에 컨트롤러를 포함한 완성형 제품을 출시할 예정이라고 밝혔다.

중국 메모리 업계도 HBF 흐름에 민감하게 반응하고 있다. 중국 메모리 기업 창신메모리(CXMT)와 양쯔메모리(YMTC)는 AI 서버용 고대역폭 메모리와 기업용 SSD 시장 확대를 동시에 추진 중이며, 중국 AI 인프라 확대와 맞물려 낸드·DRAM 투자 경쟁도 다시 커지는 분위기다.