에버퓨어(구 퓨어스토리지)는 최근 공개된 엠엘퍼프 스토리지 v3.0(MLPerf Storage v3.0) 벤치마크에서 자사의 플래시블레이드//EXA(FlashBlade//EXA)가 체크포인팅과 KV 캐시 성능 전 부문 1위를 기록했다고 밝혔다. 이번 평가는 405B 및 1.25T 매개변수 모델을 대상으로 진행됐다.

인공지능(AI) 학습 작업에서 체크포인트를 저장하거나 추론 워크로드에서 KV 캐시 데이터를 검색할 때, 스토리지는 전체 시스템 성능을 좌우하는 핵심 요소로 꼽힌다. 스토리지의 데이터 처리 속도가 충분하지 못하면 고가의 GPU와 가속기가 유휴 상태로 대기하면서 운영 비용이 늘어나는 문제가 발생한다.

가속기 1024개를 시뮬레이션한 대규모 테스트 환경에서, 에버퓨어는 데이터 노드 30개를 구성해 1.25T 매개변수 모델 기준 877.52GiB/s의 쓰기 대역폭(소요 시간 17.74초)과 588.28GiB/s의 읽기 대역폭(소요 시간 28.99초)을 기록했다고 전했다. 특히 데이터 노드 수를 10개에서 30개로 늘리는 과정에서 쓰기 처리량은 327.65GiB/s에서 877.52GiB/s로 비례해 늘어났다. 컴퓨팅 성능 증대와 모델 규모 확장에 맞춰 스토리지 성능을 예측 가능하게 확장할 수 있음을 보여준 결과다.

추론 영역에서도 의미 있는 수치를 나타냈다. 대규모 AI 모델 서비스 과정에서 KV 캐시의 중요성이 높아지는 가운데, 플래시블레이드//EXA는 라마 3.1 8B(Llama 3.1 8B) 워크로드에서 스토리지만 사용한 구성으로 초당 8만 5736토큰을 처리했다. 스토리지와 메모리를 함께 사용한 8B 워크로드에서는 초당 6만 7642토큰을, 스토리지만 사용한 70B 워크로드에서는 초당 3만 3403토큰을 기록했다.

이 같은 성능의 배경에는 메타데이터 관리와 데이터 전송을 분리한 분산형 아키텍처가 있다. 벤치마크 테스트에서는 메타데이터 전용 다이렉트플래시 모듈(DirectFlash Modules) 120개를 탑재한 블레이드 30개가 리눅스/NVMe(Linux/NVMe) 데이터 노드 30개와 연동해 통합 파일 시스템에서 약 866TB의 가용 용량을 구성했다. 파일 레이아웃 협상에는 TCP 기반 NFSv4.1/pNFS를 적용하고, 고속 데이터 전송에는 RoCEv2 기반 원격 직접 메모리 접근(RDMA)을 통한 NFSv3를 활용해 데이터가 중앙 집중식 경로를 거치지 않고 네트워크 패브릭을 통해 바로 이동하도록 설계했다.

에버퓨어의 롭 리(Rob Lee) 최고 기술 및 성장 책임자(CTGO)는 “이번 결과는 플래시블레이드//EXA가 AI 워크로드의 갈수록 높아지는 요구 사항에 대응하며 업계 최고 수준의 성능과 확장성을 제공한다는 사실을 다시 한번 입증한다”면서, “최첨단 AI 개발을 추진하는 조직은 안정성과 운영의 간소성을 포기하지 않으면서 최고의 성능과 확장성을 제공하는 인프라가 필요하다. 플래시블레이드//EXA는 이 모든 요건을 독보적으로 충족한다”고 말했다.