오라클과 AMD는 고객이 AI 역량과 이니셔티브를 대규모로 확장할 수 있도록 지원하기 위한 양사의 오랜 다세대 협력 관계를 확대한다고 발표했다. 수년간의 공동 기술 혁신을 바탕으로, 오라클 클라우드 인프라스트럭처(OCI)는 AMD 인스팅트(AMD Instinct) MI450 시리즈 GPU 기반의 최초 공개형 AI 슈퍼클러스터의 출시 파트너가 될 예정이다. 초기 배포는 2026년 3분기부터 5만 개의 GPU로 시작되며, 2027년 이후까지 더욱 규모가 확대될 계획이다. 이번 발표는 2024년 AMD 인스팅트 MI300X 기반 셰이프(shape) 출시를 시작으로 AMD 인스팅트 MI355X GPU를 탑재한 OCI 컴퓨트(OCI Compute)의 정식 출시까지 이어지는 오라클과 AMD의 전략적 협업의 연장선상에 있다.  양사는 최종 고객에게 OCI 상의 AMD 인스팅트 GPU 플랫폼을 제공하기 위해 꾸준히 협업해 왔다. 이 플랫폼은 제타스케일 OCI 슈퍼클러스터(zettascale OCI Supercluster)에서 제공될 예정이다. 대규모 AI 컴퓨팅 수요가 급격히 증가함에 따라, 차세대 AI 모델은 기존 AI 클러스터의 한계를 뛰어넘고 있다. 이러한 워크로드의 훈련 및 운영을 위해서는 극한의 확장성과 효율성을 갖춘 유연하고 개방적인 컴퓨팅 설루션이 필요하다. OCI가 새롭게 선보일 AI 슈퍼클러스터는 AMD ‘헬리오스(Helios)’ 랙 설계를 기반으로 하며, 여기에는 ▲AMD 인스팅트 MI450 시리즈 GPU ▲차세대 AMD 에픽 CPU(코드명 베니스) ▲차세대 AMD 펜산도(Pensando) 고급 네트워킹 기능(코드명 불카노)가 포함된다. 수직적으로 최적화된 이 랙 스케일 아키텍처는 대규모 AI 모델의 훈련 및 추론을 위한 최대 성능, 탁월한 확장성, 우수한 에너지 효율성을 제공하도록 설계됐다. 마헤쉬 티아가라얀 OCI 총괄 부사장은 “오라클의 고객들은 전 세계에서 가장 혁신적인 AI 애플리케이션을 구축하고 있으며, 이를 위해서는 강력하고 확장 가능한 고성능의 인프라가 필수적이다. 최신 AMD 프로세서 기술, OCI의 안전하고 유연한 플랫폼, 오라클 액셀러론(Oracle Acceleron) 기반 고급 네트워킹의 결합으로 고객은 확신을 갖고 혁신 영역을 넓혀갈 수 있다. 에픽부터 AMD 인스팅트 가속기까지, 10년 이상 이어진 AMD와의 협력을 바탕으로 오라클은 탁월한 가격 대비 성능, 개방적이고 안전하며 확장가능한 클라우드 기반을 지속적으로 제공하여 차세대 AI 시대의 요구에 부응하고 있다”고 말했다. AMD의 포레스트 노로드(Forrest Norrod) 데이터센터 설루션 비즈니스 그룹 총괄 부사장 겸 총괄 매니저는 “AMD와 오라클은 계속해서 클라우드 분야의 AI 혁신에 앞장서고 있다. AMD 인스팅트 GPU, 에픽 CPU, 그리고 첨단 AMD 펜산도 네트워킹 기술을 통해 오라클 고객들은 차세대 AI 훈련, 미세 조정 및 배포를 위한 강력한 역량을 확보할 수 있다. AMD와 오라클은 대규모 AI 데이터센터 환경에 최적화된 개방적이고 안전한 시스템으로 AI 발전을 가속화하고 있다”고 말했다. AMD 인스팅트 MI450 시리즈 GPU 기반 셰이프는 고성능의 유연한 클라우드 배포 옵션과 광범위한 오픈소스 지원을 제공하도록 설계되었다. 이는 최신 언어 모델, 생성형 AI 및 고성능 컴퓨팅 워크로드를 실행하는 고객에게 맞춤형 기반을 제공한다. OCI상의 AMD 인스팅트 MI450 시리즈 GPU는 AI 훈련 모델을 위한 메모리 대역폭을 확장해 고객이 더욱 신속하게 결과를 달성하고, 복잡한 워크로드를 처리하며, 모델 분할 필요성을 줄일 수 있도록 지원한다. AMD 인스팅트 MI450 시리즈 GPU는 개당 최대 432GB의 HBM4 메모리와 20TB/s의 메모리 대역폭을 제공하여, 이전 세대 대비 50% 더 큰 규모 모델의 훈련 및 추론을 인메모리에서 수행할 수 있다. AMD의 최적화된 헬리오스 랙 설계는 고밀도 액체 냉각 방식의 72-GPU 랙을 통해 성능 밀도, 비용 및 에너지 효율이 최적화된 대규모 운영을 가능하게 한다. 헬리오스는 UALoE(Universal Accelerator Link over Ethernet) 스케일업 연결성과 이더넷 기반의 UEC(Ultra Ethernet Consortium) 표준에 부합하는 스케일아웃 네트워킹을 통합하여 포드 및 랙 간 지연을 최소화하고 처리량을 극대화한다. 차세대 AMD 에픽 CPU로 구성된 아키텍처는 작업 오케스트레이션 및 데이터 처리를 가속화하여 고객이 클러스터 활용도를 극대화하고 대규모 워크플로를 간소화할 수 있도록 지원한다. 또한, 에픽 CPU는 기밀 컴퓨팅 기능과 내장형 보안 기능을 제공하여 민감한 AI 워크로드의 종단간 보안을 개선한다. 또한, DPU 가속 융합 네트워킹은 대규모 AI 및 클라우드 인프라의 성능 향상과 보안 태세 강화를 위해 라인레이트(Line-Rate) 데이터 수집을 지원한다. 프로그래밍 가능한 AMD 펜산도 DPU 기술을 기반으로 구축된 DPU 가속 융합 네트워킹은 데이터센터에서 차세대 AI 훈련, 추론 및 클라우드 워크로드를 실행하는 데 필요한 보안성과 성능을 제공한다. AI를 위한 스케일아웃 네트워킹은 미래 지향적 개방형 네트워킹 패브릭을 통해 고객이 초고속 분산 훈련(distributed training)과 최적화된 집합 통신(collective communication)을 활용할 수 있도록 지원한다. 각 GPU에는 최대 3개의 800Gbps AMD 펜산도 ‘불카노’ AI-NIC를 장착할 수 있어, 손실 없는 고속의 프로그래밍 가능한 연결성을 제공하고, RoCE 및 UEC 표준을 지원한다. 혁신적인 UALink 및 UALoE 패브릭은 고객이 워크로드를 효율적으로 확장하고, 메모리 병목 현상을 줄이며, 수 조 파라미터 단위의 대규모 모델을 통합 관리할 수 있도록 지원한다. 확장 가능한 아키텍처는 CPU를 경유하지 않고 홉(hop)과 지연시간을 최소화하며, UALoE 패브릭을 통해 전송되는 UALink 프로토콜을 통해 랙 내 GPU 간 직접적이고 하드웨어 일관성 있는 네트워킹 및 메모리 공유를 가능하게 한다. UALink는 AI 가속기를 위해 특별히 설계된 개방형 고속 상호연결 표준으로 광범위한 산업 생태계의 지원을 받는다. 이를 통해 고객은 개방형 표준 기반 인프라에서 까다로운 AI 워크로드를 실행하는 데 필요한 유연성, 확장성 및 안정성을 확보할 수 있다. 한편, OCI는 대규모 AI 구축, 훈련 및 추론을 수행하는 고객에게 더 많은 선택권을 제공하기 위해 AMD 인스팅트 MI355X GPU를 탑재한 OCI 컴퓨트의 정식 출시를 발표했다. 이 제품은 최대 13만 1072개의 GPU로 확장 가능한 제타스케일 OCI 슈퍼클러스터에서 이용 가능하다. AMD 인스팅트 MI355X 기반 셰이프는 탁월한 가치, 클라우드 유연성 및 오픈소스 호환성을 위해 설계되었다.

오라클은 대규모 머신러닝(ML) 모델 구축용 인프라스트럭처 및 도구를 제공하는 소프트웨어 개발 제공업체인 모자이크ML(MosaicML)이 오라클 클라우드 인프라스트럭처(OCI)를 선호 클라우드 인프라스트럭처로 선정했다고 소개했다. 모자이크ML은 "OCI의 고성능 인공지능(AI) 인프라스트럭처를 활용해 타 클라우드 제품 대비 최대 50% 빠른 성능과 최대 80%에 달하는 비용 절감 효과를 달성했다"고 밝혔다. 기업이 플랫폼의 모델 학습 기능을 사용해 AI 모델의 학습 및 추론을 보다 효율적이고 손쉽게 수행할 수 있도록 지원하는 모자이크ML은 증가하는 AI 서비스에 대한 수요를 지원하고 비즈니스를 확장하기 위해 OCI를 선택했다. 모자이크ML은 OCI를 통해 최신 엔비디아 GPU, 노드 간 초고대역 상호 연결, 수 천개의 GPU로 확장할 수 있는 대규모 컴퓨트 블록 크기를 활용할 수 있게 되었으며, 이러한 기능들을 사용해 기업 및 트웰브랩스(Twelve Labs)와 같은 스타트업이 AI 모델을 운영할 수 있도록 지원할 수 있게 됐다. 트웰브랩스는 멀티모달 영상이해를 위한 파운데이션 모델을 구축하는 AI 스타트업으로, OCI에서 실행되는 모자이크ML의 플랫폼과 OCI의 AI 인프라스트럭처를 활용해 자체 AI 모델을 효율적으로 확장 및 배포함으로써 사용자가 영상 데이터를 손쉽게 검색 및 분류하고 다양한 애플리케이션에서 보다 효과적으로 활용할 수 있도록 지원하고 있다. OCI는 AI 인프라스트럭처를 포함한 다양한 AI 기능을 제공한다. OCI 컴퓨트 가상 머신과 베어메탈 GPU 인스턴스는 애플리케이션이 컴퓨터 비전, 자연어 처리, 추천 시스템 등의 기능을 수행하도록 지원하며, OCI 슈퍼클러스터(OCI Supercluster)는 대규모 언어 모델(LLM)을 비롯한 크고 복잡한 모델을 훈련시킬 수 있도록 초고속 클러스터 네트워킹, HPC 스토리지 및 엔비디아 GPU 기반의 OCI 컴퓨트 베어메탈 인스턴스를 제공한다. OCI 컴퓨트 인스턴스는 RoCE v2(RDMA over Converged Ethernet v2)를 사용하는 고성능 이더넷 네트워크를 통해 연결된다. OCI가 제공하는 엔비디아 A100 텐서 코어 GPU의 대역폭은 타사 제품 대비 4배에서 16배에 달하며, 머신러닝 학습에 드는 시간과 비용을 절감한다. 모자이크ML의 나빈 라오(Naveen Rao) CEO 겸 공동창립자는 “수백 여 곳의 기업이 대규모의 복잡한 생성형 AI 모델을 개발하고 학습하는 데 모자이크ML의 플랫폼을 사용하고 있다. 모자이크ML은 고객이 고성능 맞춤형 모델을 구축하고 배포하는 데 집중할 수 있도록 복잡한 시스템 및 하드웨어를 전담 제공하고 있다”면서, “우리는 OCI가 모자이크ML을 위한 최고의 토대가 되어줄 것이라는 믿음 하에 OCI를 선택했다. 클라우드 내 방대한 양의 데이터를 사용해 모델을 학습시킬 때에는 1분 1초가 중요하다. OCI를 활용함으로써 타 클라우드 제공업체의 제품을 사용했을 때에 비해 비용을 절감할 수 있으며, 오라클의 상호 연결 구성 방식 덕분에 거의 선형적인 확장을 이룰 수 있다”고 전했다. 오라클의 그렉 파블릭(Greg Pavlik) 수석 부사장은 “수많은 AI 기업이 생성형 AI 모델 실행을 위해 OCI를 찾고 있다. 이는 OCI가 다른 클라우드 제공업체 대비 훨씬 빠르고 경제적으로 모델을 실행할 수 있도록 지원하기 때문으로, OCI에서 100억 개의 매개변수 모델을 학습할 때 필요한 시간은 단 몇 시간이지만 다른 플랫폼에서는 며칠씩 걸리기 일쑤”라면서, “OCI의 아키텍처와 논블로킹(non-blocking) 및 저지연 네트워크 설계는 시중에 출시된 제품들과 근본적으로 차별화된다”고 덧붙였다.

오라클(www.oracle.com)은 오라클 데이터베이스 인메모리(Oracle Database In-Memory)가 대용량 분석, 데이터 웨어하우징 및 리포트를 처리할 수 있도록 고객의 데이터베이스 성능을 강화할 뿐 아니라 온라인트랜잭션프로세싱(OLTP)의 속도를 향상한다고 발표했다. 오라클 데이터베이스 인메모리는 로우(row) 포맷과 컬럼(column) 포맷을 적절히 결합시킨 신개념 듀얼 포맷 인메모리 아키텍처를 통해 빠른 분석과 효율적인 OLTP를 동시에 제공한다. 기존의 모든 오라클 데이터베이스 호환 애플리케이션들은 추가적인 프로그래밍 또는 애플리케이션 변경 없이 오라클 데이터베이스 인메모리의 기능으로 추가된 컬럼 기반 포맷을 활용한 인메모리 처리가 가능하다. 오라클 데이터베이스 인메모리는 성능 테스트에서 오라클 E-비즈니스 스위트(Oracle E-Business Suite), 오라클 JD에드워즈(Oracle’s JD Edwards), 오라클 피플소프트(Oracle’s PeopleSoft), 오라클 시벨(Oracle’s Siebel) 및 오라클 퓨전 애플리케이션(Oracle Fusion Applications) 등 엔터프라이즈 애플리케이션 모듈의 속도를 약 100배부터 많게는 1000배 이상 향상시키는 결과를 보여줬다. 인메모리 성능은 기존 애플리케이션에서 수행되는 업무 트랜잭션이 일어나는 상황에서도 실시간으로 데이터 분석 수행이 가능하며, 지연 없는 실시간 데이터 기반 의사결정을 지원하여 고객의 요구사항에 대해 적시에 지속적으로 대응할 수 있는 ‘실시간 기업’ 운영을 지원 한다. 오라클 데이터베이스 인메모리는 오라클 데이터베이스 12c(Oracle Database 12c)가 지원되는 모든 하드웨어 플랫폼과 함께 사용될 수 있다. 오라클 데이터베이스 인메모리는 지난 9개월 동안 수 백 명의 엔드 유저, ISV파트너 및 오라클 애플리케이션 팀의 검증 테스트를 거쳤으며, 오라클 파트너 네트워크(OPN)는 오라클 데이터베이스 인메모리가 곧 오라클 데이터베이스 12c 레디(Ready) 인증에 포함될 것이라고 전했다. 소프트웨어와 하드웨어가 통합된 엔지니어드 시스템으로 실시간 기업 실현 지난 몇 년간 지속적인 혁신과 보완을 통해 완성도를 높여온 오라클 데이터베이스 인메모리는 오라클 데이터베이스의 모든 특장점을 포함한다.  ■ 업계 최대 가용성 아키텍처(Maximum Availability Architecture)을 통해 데이터 손실 및 다운타임 방지 ■ 업계 최고 수준의 보안 기술 제공 ■ 대형 SMP(Symmetric Multiprocessing) 서버의 확장(scale-up), 서버 클러스터를 통한 스케일 아웃, 스토리지 계층화(Tiering)로 모든 요구를 충족할 수 있는 확장성을 갖추었으며, 이를 통해 기업이 페타바이트 규모의 데이터 웨어하우스에서 빅데이터 프로세싱 및 데이터베이스 클라우드까지 모든 규모의 데이터베이스를 비용 효율적으로 운영할 수 있도록 지원 ■ 자바(Java), R, 빅데이터, PHP 파이썬(Python), 노드(Node), 레스트(REST), 루비(Ruby) 등 폭넓은 프로그래밍(Programmability) 지원 ■ 관계형(Relational), 오브젝트(Objects), XML, 텍스트, 공간(Spatial)형 및 새롭게 통합된 JSON 데이터까지 모든 데이터 유형 지원 오라클 엔지니어드 시스템은 오라클 데이터베이스 인메모리의 성능을 극대화시킨다. ■ 오라클 엑사데이타 데이터베이스 머신(Oracle Exadata Database Machine), 오라클 슈퍼클러스터(Oracle SuperCluster)등의 오라클 엔지니어드 시스템(Oracle Engineered Systems)은 오라클 데이터베이스 인메모리에 최적화돼 있으며, 대용량 메모리와 최고의 성능 및 고가용성을 제공한다. 또한 사용빈도가 낮은 데이터는 플래시 및 디스크로 계층화시켜 뛰어난 비용 효율성을 제공한다. ■ 오라클 엔지니어드 시스템 상의 인메모리 장애 대응기능(Fault Tolerance)은 질의 중 서버에 오류가 있을 경우를 대비하기 위해 인메모리에 저장된 데이터의 복사본을 클러스터에 구성된 다른 노드에 복제해두며, 장애 발생 시 즉시 사용한다. 새로운 다이렉트-투-와이어 인피니밴드(Direct-to-Wire InfiniBand)는 인메모리를 위한 스케일 아웃 기능을 향상시킨다. ■ 오라클 데이터베이스 인메모리를 위한 가장 강력한 확장 플랫폼인 오라클 M6-32 빅 메모리 머신(Oracle M6-32 Big Memory Machine)은 DRAM메모리를 32테라바이트(Terabytes)까지 제공하며, 인메모리 성능 극대화를 위해 메모리 대역폭을 초당 3 테라바이트까지 제공한다. 오라클 데이터베이스 서버 기술 총괄 앤드류 멘델슨(Andrew Mendelsohn) 수석 부사장(EVP)은 “업계에서 유일하게 애플리케이션부터 미들웨어, 데이터베이스 및 시스템 등 전 분야에 걸쳐 인메모리 컴퓨팅을 제공하는 오라클은 기업들이 경영을 가속화하고 새로운 성장 기회를 신속하게 발굴하며, 스마트한 실시간 의사 결정을 통해 이윤 창출을 극대화 할 수 있도록 지원한다”면서 “오라클 데이터베이스 12c 인메모리는 데이터 마이그레이션 없이 완벽한 애플리케이션 투명성(Transparency)을 보장하며, 거의 모든 워크로드에 독보적인 성능을 제공한다. 또한 고객이 오라클 데이터베이스에 기대하는 최고 수준의 고가용성, 확장성 및 보안을 확실하게 보장한다”고 말했다. 오라클 애플리케이션 개발 총괄 스티브 미란다(Steve Miranda) 수석 부