레노버가 지난 10월 15일 개최된 자사 연례 글로벌 행사 ‘테크월드(Tech World) 2024’에서 ‘씽크시스템 (ThinkSystem) N1380 넵튠(Neptune)’을 공개했다. 레노버의 파트너 생태계 전반에 걸쳐 출시된 6세대 넵튠 액체 냉각 기술은 데이터 센터의 전력 소비를 최대 40%까지 줄이고, 생성형 AI를 위한 효율적인 컴퓨팅 환경을 구축 및 운영할 수 있도록 지원한다는 것이 레노버의 설명이다. 레노버 넵튠은 공랭 시스템에 비해 열을 효과적으로 제거하고 전력 소비를 감축해, 40개 이상의 특허를 보유하고 전 세계에서 널리 사용되는 액체 냉각 플랫폼이다. 레노버 넵튠은 맞춤형 동관 워터 루프와 특허를 받은 CPU 콜드 플레이트 등 최첨단 소재를 사용해 전체 시스템을 수냉식으로 냉각한다. FEP 플라스틱보다 내구성이 높은 스테인리스와 EPDM 호스를 사용해 성능이 견고한 것도 특징으로 내세운다. 이번 행사에서 레노버는 엔비디아와의 협력에 기반해 ‘레노버 하이브리드 AI 어드밴티지(Lenovo Hybrid AI Advantage with NVIDIA)’ 및 ‘씽크시스템 SC777 V4 넵튠’을 선보였다. 신규 시스템은 ‘씽크시스템 N1380 넵튠’을 활용해 엔비디아 블랙웰(Blackwell)과 엔비디아 NB200을 엔터프라이즈 시장에 도입하는 것을 지원하며, 트릴리언 파라미터 AI 모델을 컴팩트한 디자인으로 구현한다.  AI 도입의 확산에 따라, 데이터 센터들이 보다 높은 열 밀도를 처리할 수 있도록 재설계가 요구되고 있다. 레노버는 ‘씽크시스템 N1380 넵튠’과 ‘씽크시스템 SC777 V4 넵튠’을 통해 100KW 이상의 서버 별도 특수 냉각 장치 없이도 작동할 수 있는 데이터 센터를 구축하고 있다. 이 혁신은 AI 시대에서 더욱 밀도 높은 하드웨어를 제공하고, 냉각용 전력을 재배치한 차세대 데이터 센터를 구현하기 위한 것이다. ‘씽크시스템 N1380 넵튠’은AI 및 연구 목적의 데이터 센터 전력 효율을 극대화하면서 시스템 냉각 자체에 대한 부담을 해소한다. 이 기술은 차세대 액체 냉각 섀시를 활용해 전력 소모가 큰 팬을 제거하여 소형 시스템에서도 높은 효율의 가속 컴퓨팅을 구현한다. 산업 표준 19인치 랙에 맞춰 설계되어, 표준 전력을 사용하면서도 개방형 생태계에서 가장 강력한 가속 컴퓨팅을 한 번에 한 트레이씩 활용할 수 있다. ‘씽크시스템 SC777 V4 넵튠’은 고성능 가속 네트워킹을 위한 차세대 엔비디아 ‘퀀텀-X800 인피니밴드(NVIDIA Quantum-X800 InfiniBand)’ 및 ‘스펙트럼-X800 이더넷(Spectrum-X800 Ethernet)’ 플랫폼을 지원한다. 나아가 ‘엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)’를 지원해 생성형 AI, 컴퓨터 비전, 음성 AI 등 실무급 AI 솔루션의 개발 및 배포를 간소화하는 클라우드 네이티브 소프트웨어 플랫폼을 제공한다.   레노버는 엔비디아 GB200 랙 시스템을 통해 AI 훈련, 데이터 처리, 엔지니어링 설계 및 시뮬레이션을 향상시킨다고 소개했다. 이 시스템은 엔비디아 엔비링크(NVIDIA NVLink) 인터커넥트를 포함한 전체 엔비디아 GB200 그레이스 블랙웰(Grace Blackwell) 시스템 아키텍처에 대한 개방형 루프의 직접 온수 냉각을 특징으로 하며, 모든 규모의 엔터프라이즈 고객이 레노버 ‘씽크시스템SC777 V4 넵튠’을 통해 더 빠르게 제품을 시장에 출시하고, 비용을 절감해 에너지 효율성을 높이도록 돕는다. 새로운 씽크시스템 서버는 첨단 수냉 기능을 통해 주요 부품을 더 낮은 온도에서 작동시키고 GPU, 메모리, I/O, 로컬 스토리지, 전압 조절기를 포함한 모든 요소에 있어 효과적으로 열을 제거한다. 최대 10조 개의 매개 변수로 확장되는 모델에 대한 AI 교육과 실시간 LLM 추론을 수행하는 동시에 컴팩트하고 조용한 시스템으로 성능, 에너지 효율성 및 신뢰성을 확보했다. 한편, 레노버는 모든 규모의 기업에게 고성능 AI 구현을 지원한다고 소개했다. 컴팩트한 13U 인클로저부터 랙, 열, 데이터센터 전체까지 확장 가능한 ‘씽크시스템 N1380 넵튠’은 8개의 트레이 슬롯, 4개의 15kW 전력 변환 스테이션 탑재에 정교한 수냉식 분배 시스템으로 공간, 전력, 냉각 효율이 최적화된 패키징이 특징이다. N1380은 데이터센터의 랙 규격을 준수하면서도 증가하는 성능 요구사항에 필요한 공간을 제공하도록 최적화되었다. 확장성을 갖춘 설계를 통해 모든 규모의 기업이 최신 고성능 기술을 활용할 수 있도록 지원한다. 또한, 수냉식 냉각 방식을 차용해 내부 팬을 제거하고 공기 흐름을 최소화함으로써 공랭식 시스템 대비 전력 소비량을 최대 40%까지 절감한다. N1380 인클로저는 최대 4개의 씽크시스템 15kW 티타늄 PCS를 탑재하여 48V 버스바를 통해 시스템에 전력을 공급한다. 전력 변환, 정류, 전력 분배 기능을 단일 PCS(전력 변환 스테이션)에 통합하여 기존의 분리된 장치 구성 방식 대비 전력 효율성을 극대화한다. 그리고, 특허받은 블라인드 메이트 메커니즘과 누수 방지 기능을 갖춘 항공 우주 등급 커넥터를 통해 컴퓨팅 트레이에 냉각수를 공급하는 통합 매니폴드를 탑재해 안전한 운영을 지원한다. 엔비디아의 밥 페트(Bob Pette) 엔터프라이즈 플랫폼 부문 부사장은 “엔비디아 블랙웰 플랫폼은 생성형 AI를 구동하는 엔진으로서 새로운 산업 혁명을 정의한다”며, “레노버의 ‘씽크시스템 N1380 넵튠’과 엔비디아 GB200의 혁신적 성능은 가장 기술적으로 진보한 가속 워크로드를 지원하는 동시에 운영 비용과 에너지 소비를 대폭 줄여 AI 확장의 약속을 실현하는 데 기여할 것”이라고 전했다. 레노버의 양 위안칭(Yuanqing Yang) 회장 겸 CEO는 “레노버는 고성능 컴퓨팅의 힘을 확장하고자 10년이 넘도록 액체 냉각의 혁신을 선도해 왔다. ‘씽크시스템 N1380 넵튠’은 첨단 수냉식 엔지니어링 기술을 바탕으로 엔비디아 블랙웰과 트릴리언 파라미터 AI를 모든 곳에 도입하고, 데이터 센터의 전력 사용 방식을 변화시키는 새로운 패러다임을 제시한다”고 말했다.

퍼블릭 클라우드, 에지 컴퓨팅 및 에지 AI 전문 기업인 지코어코리아는 AI 플랫폼 전문기업 몬드리안에이아이와 GPU 클라우드 사업의 고도화를 위한 양해각서(MOU)를 체결했다고 밝혔다. 지코어는 엔비디아 GPU 기반으로 고성능 머신러닝 및 AI 작업을 지원하는 클라우드 인프라를 제공한다. 또한 엄격한 기준을 충족하는 6개 대륙 180개 이상의 PoP(point of presence)를 토대로 한 글로벌 저지연 네트워크를 통해 클라우드 및 에지 AI 솔루션을 운영하고 있다.  몬드리안에이아이는 AI 클라우드 서비스 'Runyour AI’를 통해 고성능 GPU 자원을 저렴한 비용으로 수요자에게 연결하는 서비스를 제공하고 있다. 이번 협약으로 양사는 지코어의 고성능 GPU 데이터센터 자원과 Runyour AI 플랫폼을 결합해 클라우드 사업에서 시너지를 창출할 예정이다. 몬드리안에아이는 지코어의 GPU 기반 클라우드 및 스토리지 인프라를 활용해 한국을 비롯한 아시아 시장에서 구독형 AI 클라우드 서비스인 GPUaaS(GPU-as-a-Service)를 공급해 나갈 예정이다. 지코어코리아의 정현용 지사장은 “지코어의 빠르고 안정적인 GPU 클라우드가 몬드리안에이아이의 플랫폼과 만나, 그 동안 지코어의 클라우드를 선듯 도입하지 못했던 기업들에게 익숙하고 편리한 UI 환경을 제공할 수 있게 되었다”며, “양사의 이번 협업을 통해 국내 AI 비즈니스 시장 저변 확대에 기여할 것이라 자신한다”고 말했다. 몬드리안에이아이의 홍대의 대표는 “이번 지코어와의 협력으로 Runyour AI의 글로벌 시장 진출에 중요한 발판을 마련했다”며, “글로벌 AI 및 클라우드 시장에서의 경쟁력을 더욱 강화해 나가겠다”고 전했다. 몬드리안에이아이는 Runyour AI에 ‘Dev Cloud’ 기능을 추가할 예정이다. 몬드리안에이아이는 이 기능이 가상머신(VM) 기반의 CPU 상품을 월 단위로 제공함으로써 AI 모델 추론 및 데이터 분석 작업에 효과를 더할 것으로 기대하고 있다. 한편 지코어는 지난 6월에 ‘인퍼런스 앳더 에지’ 솔루션을 출시했다. 이 서비스는 사전 학습된 머신러닝 모델을 전 세계에 분포되어 있는 에지 추론 노드 중 사용자와 가장 가까운 경로 또는 위치에서 응답할 수 있도록 함으로써 원활한 실시간 추론을 지원하고 있다.