오라클은 전 세계 AI 혁신 기업이 AI 모델의 훈련 및 AI 추론과 애플리케이션 배포를 위해 오라클 클라우드 인프라스트럭처 AI 인프라스트럭처(OCI AI Infrastructure)와 OCI 슈퍼클러스터(OCI Supercluster)를 활용하고 있다고 밝혔다. “파이어웍스AI(Fireworks AI), 헤드라(Hedra), 누멘타(Numenta), 소니옥스(Soniox)를 비롯해 수백 개의 선도적인 AI 혁신 기업이 AI 워크로드 실행 위치에 대한 제어, 컴퓨트 인스턴스 선택권, 확장성, 고성능, 비용 효율성 등의 이유로 OCI를 선택하고 있다”는 것이 오라클의 설명이다. 산업 전반에서 AI 도입이 빠르게 확산됨에 따라, AI 기업들은 신속하고 경제적인 GPU 인스턴스 확장을 지원하는 안전하고 검증된 고가용성 클라우드 및 AI 인프라를 필요로 한다. AI 기업들은 OCI AI 인프라스트럭처를 통해 AI 훈련 및 추론, 디지털 트윈, 대규모 병렬 HPC 애플리케이션 등에 필요한 고성능 GPU 클러스터와 확장성 높은 컴퓨팅 파워에 접근할 수 있다.     파이어웍스 AI는 텍스트와 이미지, 오디오, 임베딩, 멀티모달 형식의 100개 이상의 최첨단 오픈 모델을 서비스하는 고성능 생성형 AI 애플리케이션 플랫폼으로, 개발자와 기업이 최적화된 생성형 AI 애플리케이션을 구축할 수 있도록 지원한다. 파이어웍스 AI는 엔비디아 호퍼(NVIDIA Hopper) GPU로 가속화된 OCI 컴퓨트(OCI Compute) 베어메탈 인스턴스와 AMD MI300X GPU를 탑재한 OCI 컴퓨트를 활용해 플랫폼에서 매일 2조 건 이상의 추론 토큰을 처리하고 글로벌 서비스 확장을 지원한다. 헤드라는 AI 기반 영상 생성전문 회사로, 사용자가 생생한 캐릭터 영상을 제작할 수 있도록 지원한다. 헤드라는 엔비디아 호퍼 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스에서 생성형 이미지, 영상, 오디오를 위한 멀티모달 기반 모델을 배포함으로써 GPU 비용 절감, 훈련 속도 향상, 모델 반복 시간 단축에 성공했다. 누멘타는 딥러닝 시스템의 성능과 효율성을 극대화하는 데 집중하는 AI 전문 기술회사다. 누멘타는 엔비디아 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스를 활용함으로써 고성능의 검증된 훈련 인스턴스에 접근할 수 있게 되었으며, 더 빨라진 훈련 속도 및 증가한 학습 사이클을 경험했다. 소니옥스는 오디오 및 음성 AI 분야 선도 회사로, 오디오, 음성, 언어 이해를 위한 기초 AI 모델을 개발하고 있다. 소니옥스는 OCI 상에서 다국어 음성 인식 AI 모델을 구동하며, 엔비디아 호퍼 GPU 기반 OCI 컴퓨트 베어메탈 인스턴스를 활용해 60개 언어의 음성을 실시간으로 정확하게 인식하고 이해할 수 있도록 학습했다. 오라클의 크리스 간돌포(Chris Gandolfo) OCI 및 AI 부문 수석 부사장은 “OCI는 다양한 규모의 훈련 및 추론 요구사항을 충족시켜 주며, AI 혁신 기업들이 선호하는 클라우드 플랫폼으로 빠르게 자리매김했다”면서, “OCI AI 인프라스트럭처는 초고속 네트워크, 최적화된 스토리지, 최첨단 GPU를 제공하여 AI 기업의 차세대 혁신을 돕는다”고 강조했다.

오라클이 인공지능 기업 xAI와의 협업을 발표했다. xAI는 오라클 클라우드 인프라스트럭처(OCI)의 생성형 AI(generative AI) 서비스를 통해 콘텐츠 제작, 연구, 비즈니스 프로세스 자동화를 비롯한 광범위한 사용 사례를 지원하는 그록(Grok) 모델을 제공한다. xAI는 또한 차세대 그록 모델의 추론 훈련 및 수행을 위해 확장성과 성능 및 비용 효율을 갖춘 OCI의 AI 인프라를 활용할 예정이다. 2023년 3월 설립된 xAI는 AI 혁신의 최전선에서 인간의 사고와 이해의 한계를 확장하는 기술을 개발하고 있다. xAI의 최신 모델인 그록 3은 대규모 강화 학습을 통해 정교한 추론 기능을 갖추었으며 수학, 코딩, 범용 이해 부문에서 높은 성능을 기록했다. xAI의 모델은 OCI의 엔터프라이즈급 기능으로 보강되어 기업 고객에게 강력한 데이터 거버넌스와 관리 및 보안을 제공한다. 또한 오라클이 그록 모델로 전송한 모든 데이터는 데이터가 저장되지 않는(zero data retention) 엔드포인트에서 처리되어 추가적인 보호 계층을 제공한다.  오라클은 기업의 데이터 저장소와 근접한 지점에서 첨단 AI 기술을 직접 제공하며, 보안, 적응력, 확장성을 우선시한다. 다양한 산업 분야의 기업은 이를 활용해 생성형 및 에이전틱 AI를 비롯한 AI 기술을 적절한 비즈니스 시나리오에 적용해 즉각적인 성과를 거둘 수 있다. 또한 수천 개에 달하는 AI 혁신 기업이 비용 효율적이고 맞춤형으로 구축된 OCI의 다양한 AI 기능을 활용해 가장 까다로운 AI 워크로드의 실행을 가속화하고 있다. OCI 베어메탈 GPU 인스턴스는 생성형 AI, 자연어 처리, 컴퓨터 비전, 제안 시스템을 위한 애플리케이션을 구동할 수 있다.     xAI의 지미 바(Jimmy Ba) 공동 설립자는 “그록 3은 AI 기능의 큰 도약을 이루어 냈으며 오라클의 선진화된 데이터 플랫폼은 그록 3의 기업 대상 영향력을 가속화할 것이다. xAI와 오라클의 협업은 엔터프라이즈급 AI의 개념을 재정의할 것”이라고 말했다. 오라클의 그렉 파블릭(Greg Pavlik) OCI AI 및 데이터 관리 서비스 담당 총괄 부사장은 “오라클은 기업 고객에게 xAI의 최첨단 그록 모델을 제공하여 AI 활용 가능성을 확장하고 있다. 이번 협력은 양사의 가장 선진화된 AI 설루션을 제공하기 위한 노력의 일환으로, 최신 AI 기술을 배포하고자 하는 기업에게 더 많은 선택권과 유연성을 제공한다”고 말했다.

델 테크놀로지스가 ‘뉴타닉스 클라우드 플랫폼’과 통합된 외장형 스토리지 오퍼링을 공식 출시했다. 델의 고성능 확장형 시스템과 뉴타닉스의 소프트웨어 정의 아키텍처가 결합된 이 오퍼링은 IT 현대화를 가속하고 운영 효율을 강화하는 동시에 스토리지 및 인프라 관리 간소화를 돕는다. ‘델 파워플렉스 위드 뉴타닉스 클라우드 플랫폼(Dell PowerFlex with Nutanix Cloud Platform)’은 회복탄력성, 보안, 확장성 및 고성능이 필수적인 대규모 미션 크리티컬 환경에 적합하도록 설계됐다. 소프트웨어 정의 설루션으로서 델 파워플렉스의 확장성 및 성능과 뉴타닉스의 하이퍼바이저, 통합형 재해 복구 기능 및 네트워크 보안을 결합했다. 이제 파워플렉스는 ‘뉴타닉스 AHV(Nutanix Acropolis Hypervisor)’에 대한 지원 확장으로 더욱 유연한 하이퍼바이저 옵션을 제공하게 됐다.      이번에 출시한 델 파워플렉스 위드 뉴타닉스 클라우드 플랫폼’은 가상화 및 베어메탈 미션 크리티컬 워크로드를 단일 플랫폼에 통합하여 사일로를 없애고 운영 비용을 절감한다. 컴퓨팅 및 스토리지를 독립적으로 확장하고 각각의 자원을 손쉽게 조정함으로써 운영 중단 없이 변화하는 요구사항에 대응하기 용이하다. 이 제품은 파워플렉스 매니저(PowerFlex Manager) 및 뉴타닉스 프리즘 센트럴(Nutanix Prism Central)과 같은 자동화 툴을 사용해 업데이트, 리소스 할당, 지속적인 관리와 같은 IT 프로세스를 간소화한다. 이를 통해 IT 팀은 비즈니스 성과에 직결되는 전략적 우선순위에 더 많은 시간을 할애할 수 있다. 또한, 최신 워크로드에 요구되는 고성능 및 엔터프라이즈급 보안을 제공한다. 이를 통해 워크로드를 통합하고, 동적으로 확장하며, 중요한 프로세스를 자동화하는 동시에 내장된 사이버 회복탄력성 및 재해 복구 기능을 통해 강력한 데이터 보호 기능을 활용할 수 있다. 중요한 애플리케이션의 보안과 고가용성, 변화하는 요구 사항에 대한 적응력을 유지하여 오늘날의 급변하는 디지털 환경에서 높은 안정성과 유연성을 확보할 수 있다.  델과 뉴타닉스는 전통적인 워크로드와 최신 워크로드를 모두 쉽게 관리할 수 있는 설루션을 제공하기 위해 지속적으로 협력하고 있다. 파워플렉스의 동급 최고 수준의 소프트웨어 정의 스토리지 및 컴퓨팅 기능과 뉴타닉스 클라우드 플랫폼의 가상화 및 관리 기능을 완벽하게 통합하여, 유연성, 성능, 효율성을 높인 유니파이드 설루션으로 제공한다. 한국 델 테크놀로지스의 김경진 총괄사장은 “급변하는 디지털 환경에 맞춰 성장을 촉진하기 위해서는 민첩성과 유연성은 물론 인프라 단에서의 강력한 보안 조치를 확보해야 한다. 뉴타닉스와의 협력은 혁신을 향한 델의 꾸준한 노력에 새로운 힘을 더한다”고 말했다. 

오라클은 국내 AI 기업인 업스테이지가 오라클 클라우드 인프라스트럭처(OCI)를 도입해 AI 모델 개발 및 배포를 가속화하고 글로벌 시장에서의 경쟁력을 강화할 수 있는 환경을 구축했다고 밝혔다. 업스테이지는 자체 사전학습 대규모 언어 모델(LLM)인 ‘솔라(Solar)’와 AI OCR 설루션 ‘다큐먼트(Document) AI’ 등 자사 AI 모델의 복잡한 학습 과정을 신속히 처리하고 지원할 강력한 인프라가 필요했다. 또한, 연구개발(R&D) 강화를 위해 고성능 컴퓨팅 리소스를 확보하고, 더 빠르고 확장이 가능한 AI 설루션을 고객에게 제공하기 위해 클라우드 서비스를 확장하고자 했다. 업스테이지는 고성능 컴퓨팅 요구사항에 대해 경쟁력 있는 가격을 제공하는 OCI의 장점과 AI 워크로드에 최적화된 인프라로 지연시간이 짧은 네트워크 클러스터를 제공하는 점을 높이 평가했다. 업스테이지는 OCI의 GPU 워크로드에 최적화된 네트워킹과 베어메탈 서비스를 통해 AI 모델 훈련 및 배포 시간을 크게 단축할 수 있었다. 이를 통해 운영 효율이 향상되었고, AI 설루션을 시장에 더 빠르게 출시할 수 있게 되었다. 이러한 혁신은 업스테이지가 고객에게 실질적인 가치를 제공하는 고급 AI 기반 제품 및 서비스를 통해 경쟁 우위를 확보할 수 있도록 지원한다. 업스테이지는 OCI를 활용해 AI 성능 개선 및 서비스 확장에 중점을 두고 있으며, 오라클 데이터베이스 23ai와의 연동을 통해 더 빠른 AI 배포와 글로벌 확장이 가능해질 것으로 예상하고 있다. 향후 업스테이지는 오라클과의 새로운 협력 기회를 활용하여 글로벌 고객을 위한 안전하고 규정을 준수하는 AI 서비스를 제공한다는 계획이다.     업스테이지의 김성훈 대표는 “이번 OCI 도입은 업스테이지의 글로벌 경쟁력을 강화하는 중요한 이정표가 될 것”이라면서, “업스테이지는 OCI의 고성능 컴퓨팅과 확장성을 기반으로 자체 모델 고도화에 박차를 가하는 한편, 오라클과의 협력을 통해 글로벌 AI 시장에서 더 많은 혁신을 이끌어낼 것”이라고 전했다. 한국오라클의 김성하 사장은 “국내의 대표 AI 혁신 기업으로 부상하고 있는 업스테이지의 OCI 채택 및 활용은 오라클이 AI 워크로드에 최적화된 클라우드 기반을 제공하고 있음을 의미한다”면서, “한국오라클은 업스테이지가 앞으로 업스테이지와 함께 AI 기술의 발전을 위해 지속적으로 협력을 강화할 것이며, 업스테이지가 국내 시장을 넘어 글로벌 시장에서도 경쟁 우위를 확보할 수 있도록 지원할 것”이라고 말했다.

슈퍼마이크로컴퓨터(SMCI)가 슈퍼클러스터 포트폴리오에 엔비디아 옴니버스 플랫폼용 플러그 앤 플레이 AI 인프라 솔루션을 새롭게 추가했다. 새로운 슈퍼클러스터 솔루션은 엔터프라이즈 규모에서 고성능 생성형 AI 기반 3D 워크플로를 제공한다. 또한 최신 슈퍼마이크로 엔비디아 OVX 시스템을 탑재했으며, 기업이 워크로드 증가에 따라 쉽게 확장할 수 있도록 지원한다. 슈퍼마이크로는 엔비디아 옴니버스용 슈퍼클러스터를 출시하며 애플리케이션 최적화 AI 랙 솔루션 제품군을 확장했다. 다양한 전문가들이 제품 디자인부터 산업 디지털 트윈에 이르기까지 다양한 용도로 사용 가능한 컴퓨팅 집약적인 3D 워크플로에 의존하고 있다. 생성형 AI는 기존 3D 워크플로를 향상시키면서 새로운 애플리케이션 시대를 맞이하고 있다. 엔비디아 옴니버스용 슈퍼클러스터는 3D 및 AI의 다중 워크로드 요구사항에 맞춰 확장 가능한 인프라 구축을 간소화한다.     슈퍼마이크로 엔비디아 OVX 시스템은 클러스터 컴퓨팅 성능의 기본 빌딩 블록 역할을 한다. 각 시스템 노드는 최신 엔비디아 PCIe GPU를 최대 8개까지 탑재함으로써 높은 수준의 3D 성능을 제공하며 텐서 코어 및 트렌스포머 엔진을 통해 생성형 AI 성능을 지원한다. 시스템은 공기 흐름이 원활한 섀시 내에서 2700W 티타늄 레벨 PSU 4개로 구동되며, 고사용 시나리오에서도 안정성을 보장한다. 시스템당 최대 4개의 엔비디아 블루필드-3 SuperNIC 또는 4개의 엔비디아 커넥트X-7 NIC를 탑재해 400Gb/s의 네트워킹 속도와 함께 높은 확장성 및 보안성을 제공한다. 슈퍼마이크로의 4U PCIe GPU 시스템은 성능, 안정성, 확장성, 그리고 보안에 대한 검증 프로세스를 거쳤으며, 엔비디아의 인증을 받아 엔비디아 옴니버스를 활용한다. 기업은 엔비디아 옴니버스 개발 플랫폼에서 전 세계에 구축된 오픈USD(OpenUSD) 생태계와 옴니버스 클라우드 API를 활용한 생성형 AI 기술을 비롯해 다양한 워크로드의 성능을 극대화할 수 있다. 엔비디아 옴니버스용 슈퍼클러스터는 상호 연결된 인프라 솔루션으로 개발자, 아티스트, 엔지니어 등이 필요에 따라 최고 수준의 GPU 컴퓨팅에 액세스할 수 있도록 지원하며, 가상 GPU에 대한 원활한 액세스 또는 전체 시스템 노드에 대한 베어메탈 액세스를 제공한다. 또한, 400Gb/s 고성능 네트워크 패브릭은 엔비디아 스펙트럼-X 이더넷 플랫폼을 지원한다. 이로 인해 맞춤형 LLM(대규모 언어 모델)을 개발하는 기업은 시스템 노드 전반에 걸쳐 결합된 GPU 메모리 풀을 활용할 수 있으며, 이는 대규모 AI 모델 훈련에 필수이다. 슈퍼마이크로의 랙 솔루션은 4개의 GPU부터 256개의 GPU 스케일러블 유닛까지 다양하며, 모든 규모의 기업에 맞춰 추가로 확장할 수 있다. 고객은 L12 레벨에서 테스트를 거쳐 철저하게 검증된 플러그 앤 플레이 랙을 제공받으며, 첫날부터 바로 사용할 수 있다. 엔비디아 옴니버스용 슈퍼마이크로 슈퍼클러스터는 고객의 요구 사항에 따라 다양한 크기와 옵션으로 구축될 수 있다. 시스템 노드는 시스템당 4개 또는 8개의 GPU를 탑재할 수 있다. 또, 배포 규모는 시스템 4개를 포함한 단일 랙부터 시스템 32개를 탑재한 5개의 랙까지 다양하다. 대규모 배포는 확장 가능한 장치를 통해 추가로 확대해 거의 모든 규모의 클러스터를 구축할 수 있다. 슈퍼마이크로의 찰스 리앙(Charles Liang) 사장 겸 CEO는 “AI의 등장으로 기업은 하나의 패키지에 모든 기능이 결합된 컴퓨팅 인프라를 찾고 있다”면서, “슈퍼마이크로가 그동안 3D 그래픽 및 애플리케이션 가속을 위한 GPU 최적화 제품을 개발하며 업계를 선도해왔다면, 이제는 AI를 위한 제품을 개발하는 중”이라고 전했다. 또한 “슈퍼마이크로 슈퍼클러스터는 엔비디아 L40S PCIe GPU를 최대 256개까지 확장 가능하며 엔비디아 옴니버스를 위해 상호 연결된 4U PCIe GPU 엔비디아 인증 시스템을 갖췄다. 생성형 AI 통합을 비롯해 옴니버스 플랫폼 전반에서 높은 성능을 지원한다. 슈퍼마이크로의 옴니버스용 슈퍼클러스터 개발은 단순한 제품 제공이 아닌, 애플리케이션 개발과 혁신의 미래를 향한 교두보가 될 것"이라고 설명했다.

오라클은 오라클 클라우드 인프라스트럭처 컴퓨트(OCI Compute)에 추가될 엔비디아 H100 텐서 코어(NVIDIA H100 Tensor Core) GPU, 엔비디아 L40S GPU, 암페어 암페어원(Ampere AmpereOne) CPU 기반 신규 인스턴스를 발표했다. 신규 OCI 컴퓨트 인스턴스는 AI 모델의 학습, 미세 조정, 추론에서부터 클라우드 전용 애플리케이션 및 비디오 트랜스코딩 애플리케이션의 실행에 이르는 다양한 워크로드를 더욱 간단히 실행할 수 있도록 설계되었고, 가성비 또한 향상되었다. 엔비디아 H100 GPU 기반 OCI 컴퓨트 베어메탈 인스턴스(OCI Compute Bare Metal Instances Powered by NVIDIA H100 GPUs)는 자연어 처리 및 추천 시스템용 모델과 같은 대규모 AI 모델의 학습 시간을 단축시킨다. 엔비디아 H100 텐서 코어 GPU 인스턴스를 사용하는 기업은 이전 세대 엔비디아 A100 텐서 코어 GPU 대비 AI 추론 사용 사례에서 최대 30배 성능 향상, AI 모델 학습에서 4배 성능 향상을 경험했다. AI 모델 학습과 같은 고강도 컴퓨팅 워크로드를 실행하는 고객의 경우 OCI 슈퍼클러스터(OCI Supercluster)의 고성능 초저지연 클러스터 네트워크를 통해 수만 개의 엔비디아 H100 GPU를 상호 연결할 수 있다. 이 인스턴스는 올해 말 오라클 클라우드 런던 리전 및 오라클 클라우드 시카고 리전에서 정식 출시되며, 이후 다른 리전에서도 지원될 예정이다. 엔비디아 L40S GPU 기반 OCI 컴퓨트 베어메탈 인스턴스(OCI Compute Bare Metal Instances Powered by NVIDIA L40S GPUs)는 AI 추론 또는 중소형 AI 모델 학습 등의 워크로드 실행을 위한 대체 옵션을 제공한다. 오라클의 테스트 결과 이 인스턴스는 이전 세대 엔비디아 A100 GPU 대비 생성형 AI 워크로드의 경우 최대 20%, AI 모델 미세 조정의 경우 최대 70%의 성능 향상을 기록했다. 정식 출시는 2024년으로 예정되어 있다. 암페어 암페어원 CPU 기반 OCI 컴퓨트 A2 인스턴스(OCI Compute A2 Instances Powered by Ampere AmpereOne CPUs)는 웹 서버 실행, 비디오 트랜스코딩, CPU 기반 AI 추론 요청 서비스 등 다양한 범용 클라우드 워크로드를 위한 가성비 및 높은 프로세서 코어 수(베어메탈 구성 320 코어, 유연한 VM 구성 최대 156 코어)를 제공한다. 이 인스턴스는 높은 코어 수를 기반으로 향상된 성능, 가상머신 밀도, 확장성을 제공함으로써 고객사가 컴퓨팅 워크로드를 보다 효율적으로 관리하고 데이터센터 설치 공간 및 전력 소비를 줄일 수 있도록 지원한다. 또한 고객사는 이 인스턴스의 유연한 가상머신용 구성을 통해 프로세싱 파워 및 메모리를 미세 조정함으로써, 리소스 활용도를 극대화하고 비용을 최소화함과 동시에 간단하고 예측 가능한 가격 모델을 제공할 수 있다. 정식 출시는 2024년으로 예정되어 있다.     오라클의 도널드 루(Donald Lu) OCI 소프트웨어 개발 담당 수석 부사장은 "OCI는 전용 베어메탈 인스턴스를 최초로 제공한 클라우드 제공업체 중 하나다. 이는 전 세계의 모든 고객사에 보다 간단히 사용 가능한 고성능 컴퓨팅 서비스를 제공하기 위한 핵심 요소다. OCI의 엔비디아 및 암페어 컴퓨팅 프로세서 기반 인스턴스는 고객사의 클라우드 인프라에 필요한 광범위한 성능, 효율성, 유연성을 제공하므로 고객사는 범용 워크로드부터 고성능 AI 프로젝트에 이르는 모든 작업을 자유롭게 수행할 수 있다"면서, "오라클은 AI의 개발 및 사용을 지원하기 위해 특별히 설계된 클라우드 컴퓨팅 오퍼링 시장을 선도하고 있다. 시장의 성장과 함께 증가해 나갈 AI 제공업체 및 사용자를 지원하며 클라우드 컴퓨팅 산업을 주도할 수 있는 유리한 위치를 선점했다"고 말했다. 엔비디아의 이언 벅(Ian Buck) 하이퍼스케일 및 고성능 컴퓨팅 담당 부사장은 "엔비디아와 오라클의 협업을 통해 OCI에서의 최첨단 GPU 사용을 보다 대중화할 수 있게 됐다"면서, "OCI의 엔비디아 H100 및 L40S GPU는 전 업종의 고객사에 전례 없는 성능, 확장성, 보안성을 제공함으로써 AI 혁신에 기여할 것"이라고 전했다.