오라클이 4월 16일 서울 삼성동에서 ‘모던 데이터 플랫폼 및 데이터베이스 혁신 전략’ 기자간담회를 열고 기업의 성공적인 데이터 중심의 클라우드 전환과 최신 오라클 데이터베이스(DB) 전략 및 비전을 발표했다. 이번 간담회에는 전 세계적으로 ‘DB의 아버지’라 불리는 오라클의 앤디 멘델손(Andy Mendelsohn) DB 서버 기술개발사업부 총괄 부사장이 참석해 ‘데이터, AI 및 앱 개발의 미래’를 주제로 오라클 DB 솔루션의 핵심 가치를 강조했다. 오라클의 앤디 멘델손(Andy Mendelsohn) DB 서버 기술개발사업부 총괄 부사장 오라클 모던 데이터 플랫폼은 데이터의 전체 라이프사이클을 획기적으로 간소화하고, 더 빠른 속도로 통찰력을 제공한다. 단일 플랫폼 상에서 모든 트랜잭센, 웨어하우스, 분석 및 인공지능(AI)/머시러닝(ML) 자산에 대한 수집, 선별 및 관리를 통해 기업이 데이터에 대한 큰 통제 권한을 얻을 수 있다는 점이 특징이다. 멘델손 부사장은 오라클이 지난해 9월에 발표한 차세대 융합형 DB 오라클 DB 23c는 기존 관계형 모델과 JSON 및 그래프 모델 간의 통합을 구현하는 혁신을 이뤘다고 소개했다. 최근 앱은 관계형뿐만 아니라 JSON, 그래프 등 다양한 데이터 유형이 혼합 운영되는 가운데, 개발자는 오라클 DB 23c를 통해 세 가지 유형의 데이터 장점을 모두 활용하는 앱을 개발 운영하며 그 과정에서 데이터 일관성을 손쉽게 유지할 수 있다. 오라클의 앤디 멘델손(Andy Mendelsohn) DB 서버 기술개발사업부 총괄 부사장   앤디 멘델손 부사장은 오라클 DB 비전과 관련해 생성형 AI를 접목한 융합형 DB(converged database)와 이를 구동하는 자율운영 DB(Oracle Autonomous Database)를 통해 모던 앱 및 분석을 생성 및 운영하는 작업을 간소화할 것이라고 강조했다. 이를 통해 융합 개방형 SQL DB가 기존 단일목적 상용 DB를 대체함으로써 기업 개발자와 IT 전문가들은 데이터 통합 시간을 줄이고 혁신에 더 집중하도록 돕는다는 전략이다. 이 밖에도 기업의 핵심 워크로드 구동에 최적화된 고성능 및 고안정성을 제공하는 동시에, 데이터 주권 및 보안 강화를 지원하는 오라클의 서비스로는 오라클 융합형 DB(Oracle Converged Database), 오라클 자율운영 DB(Oracle Autonomous Database), 오라클 엑사데이터 클라우드앳커스터머(Oracle Exadata Cloud@Customer),MySQL 히트웨이브(MySQL HeatWave) 등이 있다고 소개했다. 또한 오라클은 기업 요구사항을 충족시킬 수 있는 DB 및 분석 서비스에 지속적으로 투자하고 있다고 설명했다.

어도비가 프리미어 프로(Adobe Premiere Pro)에서 영상 제작 및 제작 워크플로를 재구상할 생성형 AI 혁신을 공개했다. 이는 빠른 속도의 영상 제작을 위해 전문 편집자에게 필요한 새로운 창의적 가능성을 제공한다. 올해 프리미어 프로에 새롭게 도입될 새로운 생성형 AI 툴을 통해 사용자는 장면에서 개체를 추가 또는 제거하거나 기존 클립을 확장하는 등 전체 영상 편집을 간소화할 수 있다. 새로운 편집 워크플로는 이미지, 벡터, 디자인, 텍스트 효과를 포함한 파이어플라이(Firefly) 제품군에 추가될 새로운 비디오 모델에 의해 구동될 예정이다. 어도비는 이미징, 영상, 오디오 및 3D와 같이 어도비가 깊은 전문성을 갖고 있는 영역에서 파이어플라이 AI 모델을 지속적으로 개발하고 있으며, 이 모델들을 크리에이티브 클라우드(Creative Cloud)와 어도비 익스프레스(Adobe Express)에 통합할 예정이다. ‘생성형 확장(Generative Extend)’ 기능은 프레임을 매끄럽게 추가해 클립을 더 길게 만들 수 있어, 보다 쉽게 편집 시간을 맞추고 부드러운 전환을 추가할 수 있다. ‘개체 추가 및 제거(Object Addition & Removal)’ 기능은 간단하게 개체를 선택하고 추적한 후 교체하는 기능이다. ‘텍스트를 영상으로(Text to Video)’ 기능은 간단하게 프롬프트에 텍스트를 입력하거나 참조 이미지를 업로드해, 프리미어 프로에서 새로운 영상(footage)을 생성할 수 있다.    ▲ 프리미어 프로에 추가되는 개체 제거 기능   또한 어도비는 크리에이티브 클라우드의 파트너 및 플러그인 생태계를 바탕으로, 서드파티 생성형 AI 모델을 프리미어 프로와 같은 어도비 애플리케이션에 직접 가져오는 비전도 미리 공개했다. 어도비는 초기 탐색 단계에서 전문 영상 편집자가 향후 프리미어 프로에 통합된 오픈AI(Open AI) 및 런웨이(Runway)의 영상 생성 모델을 활용해 자신의 프로젝트에서 편집 가능한 B-롤을 생성하는 법을 제시했다. 또한 피카 랩스(Pika Labs)와 생성형 확장(Generative Extend) 툴을 함께 사용해 마지막 장면을 몇 초 더 늘리는 방법도 소개했다. 이 밖에도 어도비는 새로운 페이드 핸들(fade handles), 클립 배지(clip badges), 동적 파형(dynamic waveforms), AI 기반 카테고리 태깅(AI-based category tagging) 등 프리미어 프로의 AI 구동 오디오 워크플로를 곧 출시한다고 밝혔다. 여기에는 ▲클립 핸들을 드래그해 오디오 페이드 효과를 만듦으로써 빠른 맞춤형 오디오 전환 생성 ▲AI가 오디오 클립을 자동 태그하고 새로운 아이콘을 추가 ▲새로운 시각적 표시기를 통해 클립에 적용된 효과를 쉽게 확인하고 시퀀스에서 효과 매개 변수를 자동 실행 ▲클립의 트랙 높이 변경에 맞춰 파형 크기의 지능적 조정 ▲원치 않는 노이즈를 즉시 제거하거나 녹음 품질이 낮은 대화를 개선하는 AI 구동 음성 향상 등의 기능이 포함된다. 어도비는 어도비 파이어플라이와 다양한 서드파티 모델로 구동되는 새로운 생성형 AI 역량을 제공함으로써, 고객이 프리미어 프로에서 매일 사용하는 워크플로를 벗어나지 않고도 다양한 신규 역량을 활용할 수 있도록 지원할 것이라고 밝혔다. 어도비는 오는 5월 새로운 생성형 AI 영상 툴과 프리미어 프로의 새로운 오디오 워크플로를 출시할 계획이다. 어도비의 애슐리 스틸(Ashley Still) 크리에이티브 제품 그룹 수석 부사장은 “어도비는 크리에이터의 비전 실현을 위한 새로운 역량과 유연성을 제공하기 위해 영상 제작 및 제작 워크플로의 모든 단계를 재구상하고 있다”면서, “프리미어 프로의 핵심 워크플로에 생성형 AI 혁신을 도입함으로써 영상 편집자가 매일 겪는 실질적인 고충을 해결하는 동시에 자신의 작업에 더 집중할 수 있는 여유를 제공한다”고 전했다.

자율주행 시뮬레이션 전문기업 모라이는 4월 22일~25일 미국 샌디에이고에서 개최되는 상용 무인항공기 전시회인 ‘Xponential 2024’에 참가한다고 밝혔다. Xponential 2024는 국제무인운송시스템협회(AUVSI)가 주최하는 행사로, 드론과 무인기, 군용 무인 이동체 등을 포함한 무인 이동체의 최신 기술과 시장 동향을 공유하는 국제 행사다. 모라이는 Xponential 2024에서 미래 항공 모빌리티 및 국방 산업에 특화된 최신 시뮬레이션 기술을 글로벌 시장에 소개한다. 부스 외에도 세션 발표자로도 참여한다. 모라이는 ‘시뮬레이션을 활용한 안전하고 효율적인 미래 도심 항공 모빌리티’라는 주제 발표를 통해 미래 항공 산업에서 자율주행 시뮬레이션이 제공하는 가치를 알린다는 계획이다.     모라이의 자율주행 시뮬레이션 플랫폼인 모라이 심(MORAI SIM)은 사실적인 시뮬레이션 및 디지털 트윈 환경을 제공해 UAM(도심항공교통), 군용 다목적 무인 차량 등 차세대 모빌리티 시스템 전반의 시스템 안전성을 테스트할 수 있는 것이 특징이다. 미래 항공 모빌리티의 분야의 경우 UAM 운영 시 도심에서 발생할 수 있는 다양한 비행 환경을 시뮬레이션으로 재현해, 기체의 안전성을 검증함으로써 위험 상황을 사전에 방지하도록 한다. 또한 UAM 운영의 주요 인프라인 버티포트에 대한 입지 분석, UAM 관제 및 운영 시스템에 적용할 수 있는 시뮬레이션 기능을 제공한다. 국내에서 2025년 UAM 상용화를 위해 실증 사업이 추진될 예정인데, 모라이는 사자의 솔루션이 제공하는 버티포트의 최적 입지 선정을 위한 시뮬레이션 기능이 도심 환경에서 UAM 서비스의 접근성과 효율성 확보를 위해 활용될 수 있을 것으로 보고 있다. 또한, UAM 관제 및 운영 기능이 안전한 기체 운항, 효율적인 항로 설계, 트래픽 관리를 가능하게 하여 UAM 서비스의 실현을 앞당길 것으로 기대하고 있다. 한편, 국방 분야에서는 자율주행 무기 시스템의 검증과 복잡한 시나리오 개발에 활용이 가능하다. 이 플랫폼은 다목적 무인 군용 차량의 운영 시나리오를 광범위하게 시험하고, 전략적 능력을 향상시키는 데 적합하다. 모라이는 자사의 플랫폼이 다양한 오프로드 환경에서 군용 무인 차량이 성능을 시험할 수 있도록 지원하는 동시에, 다양한 지형을 정밀하게 모델링하면서 UGV(무인 지상 차량)가 직면할 수 있는 극한의 조건 하에서 성능 최적화를 이루도록 지원한다고 소개했다. 모라이의 정지원 대표는 “시뮬레이션은 UAM과 같은 차세대 모빌리티를 빠르게 상용화할 수 있도록 돕는 최적의 솔루션이다. 모라이는 UAM, 드론, 국방 분야의 기업들이 안전하고 효율적으로 무인이동 시스템을 테스트하고, 서비스 운영을 준비하도록 돕는다”면서, “이번 행사를 통해 자율주행 자동차 산업에서의 역량을 기반으로 UAM, 드론, 국방 관련 산업의 기업에게 자사의 시뮬레이션 기술 역량을 널리 알리고 협업 기회를 마련할 수 있을 것으로 기대한다”고 전했다.

유라가 카티아의 3D 모델링과 캐드바이저(캐드바이저)의 전기설계를 통합한 ‘CADvizor CATIA 3D Integration’을 출시했다. 유라는 이 솔루션이 AWS 인증 솔루션으로서 인공위성, 자동차, EV, 수소모빌리티, 농기계 제조 등 분야에서 쓰일 수 있으며, 설계와 제조 분야에서 변화를 가져올 것으로 기대하고 있다. CADvizor CATIA 3D Integration은 설계자가 전기 시스템의 연결 관계를 직접 설계하고 시뮬레이션할 수 있는 기능을 제공한다. 이를 통해 설계 변경에 소요되는 시간을 줄이고, 제품의 품질을 높이며, 제품의 원가를 줄일 수 있는 경제적 이점을 제공한다. 또한 이러한 통합으로 인해 재설계가 필요한 경우의 어려움을 줄이고, 설계 효율성을 70% 이상 향상할 수 있다는 것이 유라의 설명이다.     CADvizor CATIA 3D Integration으로 최적화된 제품 설계는 정확한 자재 선택을 통해 제품의 품질을 개선하는 동시에 원가를 절감하는 효과를 가져다준다. 유라에 따르면, 생산과 구매 부서 간의 협업을 강화해 제품을 보다 효율적으로 제조할 수 있게 하며, 원가를 최대 20% 이상 절감시킬 수 있다. 이는 제품의 품질을 높이는 결과로 이어진다. 유라는 “CADvizor CATIA 3D Integration은 3D 모델링과 전기 시스템 간의 통합을 통해 작업 효율성을 최소 70% 이상 향상할 수 있으며, 설계 오류를 줄일 수 있다. 이는 제품 개발 주기의 단축과 제품 품질의 개선에 도움이 된다”고 전했다. 또한, “유라는 자동차 부품 제조업체이면서 캐드바이저와 같은 전기 설계 CAD 제품을 포함한 다양한 시스템을 통해 최적화된 솔루션을 제공하고 있다. 이번에 출시한 CADvizor CATIA 3D Integration이 설계와 제조 분야에서 변화를 가져올 것”이라고 전했다.

효성인포메이션시스템이 ‘AI EXPO KOREA(국제인공지능대전) 2024’ 전시에 참가해, 고성능 AI 연산 환경부터 고성능 데이터 처리까지 지원하는 AI 플랫폼 전략 및 비즈니스 혁신을 위한 솔루션을 제시한다고 전했다. 한국인공지능협회와 서울메쎄가 주최하는 AI EXPO KOREA 2024는 5월 1일~3일 서울 코엑스 D홀에서 진행된다. 올해 7회를 맞는 이 행사는 약 300개사 500부스가 참가할 전망이다. 효성인포메이션시스템은 AI 비즈니스를 위해 필요한 GPU 서버부터 초고성능 스토리지, 네트워크를 사전 설계해 통합한 ‘효성 AI 플랫폼’을 체험할 수 있는 공간을 마련했다. AI 도입을 고민하는 관람객을 위한 전문가 컨설팅과 함께 다양한 프로모션도 진행한다. 최근 인간과 유사한 지능과 자가 학습 능력을 갖춘 AGI(일반인공지능)가 등장하며 AI 비즈니스에도 큰 변화가 일고 있다.  AGI의 등장은 더 큰 데이터 세트와 복잡한 AI 모델이 필요함을 의미하며, 이에 따라 GPU 시스템 및 데이터 처리 효율이 보다 중요해졌다. 효성인포메이션시스템은 AI 연산 환경부터 고성능 데이터 처리, AI솔루션까지 고객의 AI 전환을 위한 핵심 경쟁력을 제공한다. 고성능 AI 연산 환경을 위해 슈퍼마이크로와 협업하여 GPU 서버를 시장에 공급하고, 고성능 병렬파일 스토리지 ‘HCSF’를 통해 GPU 성능을 뒷받침하는 고성능 데이터 처리를 지원한다. 또한, AI/ML옵스 솔루션, GPU 데이터베이스, 인메모리 데이터베이스, 고속 네트워크 등 국내외 다양한 파트너사와 연계 및 확장 제안을 통해 고객에게 AI 인프라 구현을 위한 솔루션을 제시한다. 효성인포메이션시스템은 AI 시스템 설계 관련해 기획 단계부터 컨설팅이 가능한 전문 인력과 기술 노하우를 보유하고 있으며, 2023년부터 국내 은행권, 공공기관, 유통 대기업, 연구기관, 의료기업 등을 중심으로 AI/GPU 인프라, 빅데이터 플랫폼 구축 사업에서 성공사례를 확보했다고 밝혔다. 효성인포메이션시스템의 양정규 대표이사는 “많은 기업들이 AI 도입을 검토하고 있지만 최적화된 AI 시스템 설계를 위해서는 기획 단계부터 풍부한 경험의 파트너를 만나는 것이 중요하다”면서, ”AI 인프라 구현은 효성인포메이션시스템에 맡기고, 고객은 비즈니스 혁신에만 집중할 수 있도록 당사의 모든 기술력과 노하우를 제공할 것”이라고 전했다.  

델 테크놀로지스는 자사의 고성능 AI 서버인 ‘델 파워엣지 XE9680(Dell PowerEdge XE9680)’에 ‘인텔 가우디 3(Intel Gaudi 3)’ AI 가속기 지원을 추가한다고 밝혔다. 델은 데이터 집약적이고 복잡한 워크로드를 효과적으로 지원하게끔 설계된 XE9680의 확장된 라인업을 통해 AI 활용을 고려하는 엔터프라이즈 고객들에게 더 넓어진 선택지를 제공하게 됐다고 전했다. 델 파워엣지 XE9680은 x86 서버 아키텍처에 8개의 GPU를 탑재하는 모델로 AI 운영에 특화된 성능을 제공한다. 델은 XE9680 에코시스템에 인텔 가우디3 가속기를 통합함으로써, 고객이 생성형 AI 워크로드와 관련된 컴퓨팅 요구 사항에 맞춰 시스템을 맞춤화할 수 있도록 지원한다. 델은 범용성과 강력한 성능을 모두 갖춘 AI 가속 인프라를 제공하겠다는 전략이다.     안전성과 확장성에 중점을 두고 설계된 XE9680은 가우디3 가속기를 추가함으로써 보다 풍부한 서버 구성 옵션을 제공하게 됐다. 최대 32개의 DDR5 메모리 DIMM 슬롯을 통해 데이터 처리량을 향상시켰고, 16개의 EDSFF3 플래시 스토리지 드라이브와 8개의 PCIe Gen 5.0 슬롯으로 확장된 연결성과 대역폭을 제공한다. 프로세서당 최대 56개 코어를 지원하는 4세대 인텔 제온 스케일러블(Intel Xeon Scalable) 프로세서를 2개를 장착했으며, 고난도의 AI/ML 워크로드에 대한 데이터 처리 및 분석에 최적화되어 있다. 인텔 가우디3 AI 가속기는 64개의 커스텀 및 프로그래밍 가능한 텐서 프로세서 코어(TPC)와 128GB의 HBMe2 메모리 용량, 3.7TB의 메모리 대역폭, 96MB의 온보드 SRAM 등 생성형 AI 워크로드에 대응하기 위한 스펙을 갖췄다. 가우디3는 또한 개방형 에코시스템을 갖춰 파트너십 기반의 최적화 및 모델 라이브러리 프레임워크 지원의 이점이 있다. 기존 코드베이스의 전환을 간소화하는 개발 툴로 간편한 마이그레이션을 지원한다. 가우디3 가속기로 강화된 파워엣지 XE9680은 6개의 OSFP 800GbE 포트를 통해 가속기에 직접 결합된 새로운 네트워킹 기능을 제공한다. 외장 NIC를 시스템에 배치할 필요 없이 외부 가속기 패브릭에 직접 연결이 가능해 인프라를 단순화하고, 인프라의 총소유비용과 복잡성을 낮추는데 효과적이다. 또한 인텔 가우디3 전문 미디어 디코더는 AI 비전 애플리케이션을 위해 설계됐다. 광범위한 사전 처리 작업을 지원해 비디오에서 텍스트로의 변환을 간소화하고 엔터프라이즈 AI 애플리케이션의 성능을 높인다. 기존 하드웨어 성능을 넘어 AI를 통해 심층적인 데이터 인사이트를 확보하고자 하는 기업에서는 폭넓은 가속기 옵션을 갖춘 XE9680을 중요 자산으로 활용할 수 있다. 고급 처리 능력과 효율적인 공랭식 설계가 결합된 것도 특징이다. 인텔 가우디 3 AI 가속기를 탑재한 파워엣지 XE9680 서버 모델은 2024년 안에 국내 출시될 계획이다  한국 델 테크놀로지스의 김경진 총괄 사장은 “델은 폭넓은 협업 전략을 통해 AI 개발의 경계를 확장하고, 새로운 표준을 끊임없이 제시하고 있다”면서, “고객이 AI 여정의 어느 단계에 있든 목표 달성을 가속하고 미래에 필요하게 될 요구 성능에 대비하는 동시에, 이 여정이 안전하게 지속될 수 있도록 지원하는데 집중할 계획”이라고 덧붙였다.

  대원씨티에스와 딥엑스가 AI 솔루션 확산을 위해 총판계약을 체결했다.(좌로부터 대원씨티에스 정명천 회장, 딥엑스 김녹원 대표, 대원씨티에스 하성원 대표) 대원씨티에스는 4월 11일, 국내 최대의 AI 반도체 스타트업인 딥엑스와 총판 계약을 체결했다. 대원씨티에스는 11일, 판교 딥엑스 본사에서 김녹원 대표이사, 정명천 대원씨티에스 회장 등 양사 관계자들이 참석한 가운데 온디바이스 AI 솔루션을 전산업으로 확산하기 위해 B2B, B2C 비즈니스 총판 계약을 체결했다고 밝혔다. 대원씨티에스는 1988년 창립된 회사로 국내에서 AMD, 델, 슈퍼마이크로, 케이투스 등 글로벌 반도체 및 서버 업체들의 국내 총판을 담당하고 있다. 또한 LG, 삼성, HP 등 국내외 IT 제조사와 총판 계약을 통해 국내 IT 제품의 유통을 주도해왔으며, 작년 7,200억의 유통 매출을 달성했다. 생성형 AI 기술의 확산과 더불어 AI 인프라 시장이 확대되면서 AI 반도체가 주목받고 있다. 전통적인 반도체 기업을 비롯해 글로벌 빅테크 기업들까지 AI 반도체 개발에 뛰어들고 있다. 추론 기술을 구현하기 위한 인공신경망(NPU) 알고리즘을 저전력, 고속으로 처리할 수 있는 AI 반도체는 디지털 4차 혁명과 더불어 어느 산업보다 빠르게 성장하고 있다. 가트너는 오는 2027년 AI 반도체 시장이 1194억 달러로 현재보다 3배 이상 성장할 것으로 전망하고 있다. AI 반도체 시장 선점을 위해 정부에서도 지원을 아끼지 않고 있다. 과학기술정보통신부와 산업통상자원부는 AI 일상화를 지원하기 위해 국내 7대 주력산업이 참여하는 AI 반도체 협업포럼을 출범시켰다. 이런 상황에 대원씨티에스와 딥엑스의 전략적 유통 협력 계약 체결은 남다른 의미를 갖는다. 양사의 계약 체결로 대원씨티에스는 기존 데이터센터 시장에서 NPU 서버, 스토리지, AI 네트워킹 솔루션 공급에서 더 나아가 엣지 인프라 환경까지 영역을 확대해 나간다는 계획이다. 대원씨티에스는 딥엑스와의 협업을 통해 AI를 위한 단일 패키지 솔루션을 공급할 수 있을 것으로 기대된다. 국내 대형 유통 네트워크를 보유하고 있는 대원씨티에스와의 협업은 딥엑스의DX-V1 및 DX-M1과 같은 온디바이스 AI 반도체 제품을 양산 초기부터 대형 유통 네트워크를 통해 고객에게 효율적으로 공급할 수 있다는 전략적 가치가 있다. 더불어 대원씨티에스는 딥엑스가 협력을 타진하고 있는 글로벌 서버 개발사들인 델, 슈퍼마이크로, 케이투스 등의 국내 총판 유통사이기 때문에 딥엑스의 서버 시장 공략에서도 시너지를 발휘할 것으로 기대하고 있다. 대원씨티에스의 하성원 대표는 “그동안 국내 시장에서 다양한 서버 업체들의 총판을 담당하면서 GPU 서버 중심의 AI 인프라 시장을 타깃으로 해왔다”면서 “이번에 딥엑스와의 총판 계약 체결로 명실상부한 국내 AI 인프라 구축 솔루션 전문업체로 거듭날 계획”이라고 밝혔다. 딥엑스 김녹원 대표는 “대원씨티에스의 탄탄하고 폭넓은 유통망과 딥엑스의 우수한 기술력의 제품으로 AI 반도체 시장에서 입지를 확대해 나가겠다. 올해 하반기부터 양산되는 4개의 AI 반도체로 구성된 1세대 제품을 통해 글로벌 시장 공략을 본격화하면서 AI 일상화 시대를 열어가겠다”고 밝혔다.  

엔비디아가 구글 클라우드와 협력을 통해 전 세계 스타트업의 생성형 AI 애플리케이션과 서비스 개발 가속화를 지원한다고 발표했다. 양사의 이번 협력은 다양한 규모의 기업이 생성형 AI 애플리케이션을 개발하는데 드는 비용을 절감하고 장벽을 완화하기 위해 공개된 일련의 발표들 중 가장 최근에 이뤄진 것이다.  특히 스타트업은 AI 투자에 대한 높은 비용으로 인해 많은 제약을 받고 있다. 이번 협업으로 엔비디아와 구글 클라우드는 클라우드 크레딧, 시장 진출 지원, 그리고 기술 전문 지식에 대한 접촉 기회 확대를 통해 고객에게 더 빠르게 스타트업의 가치를 제공하도록 지원한다. 1만 8000개 이상의 스타트업을 지원하는 엔비디아 인셉션 글로벌 프로그램의 회원은 특히 AI에 중점을 둔 스타트업의 경우 최대 35만 달러의 구글 클라우드 크레딧을 제공받고 구글 클라우드 인프라 사용 가속화 경로를 확보할 수 있다. 구글 포 스타트업 클라우드 프로그램 멤버는 엔비디아 인셉션에 가입해 기술 전문 지식, 엔비디아 딥 러닝 인스티튜트(Deep Learning Institute) 과정 크레딧, 엔비디아 하드웨어와 소프트웨어 등을 이용할 수 있다. 또한 구글 포 스타트업 클라우드 프로그램의 스타트업 회원은 해당 분야에 관심이 있는 벤처 투자 기관에 노출될 기회를 주는 엔비디아 인셉션 캐피탈 커넥트(Inception Capital Connect) 플랫폼에 참여할 수 있다. 두 프로그램 모두에서 급성장한 신생 소프트웨어 제조업체는 구글 클라우드 마켓플레이스(Marketplace) 등록해 공동 마케팅, 제품 개발 가속화 지원을 우선적으로 받을 수 있다.     구글 딥마인드(DeepMind)는 지난 2월 최첨단 개방형 모델 제품군 젬마(Gemma)를 공개했는데,  엔비디아는 최근 구글과 협력해 모든 젬마 전용 엔비디아 AI 플랫폼에 대한 최적화를 실시했다. 젬마는 구글 딥마인드의 가장 뛰어난 모델인 제미나이(Gemini) 제작에 사용된 동일한 연구와 기술로 구축됐다. 양사의 긴밀한 협력으로 거대 언어 모델(LLM) 추론 최적화를 위한 오픈 소스 라이브러리 엔비디아 텐서RT-LLM(TensorRT-LLM)을 통해 엔비디아 GPU로 젬마를 실행, 젬마의 성능을 발전시켰다. 젬마 7B(Gemma 7B), 리커런트젬마(RecurrentGemma), 코드젬마(CodeGemma)를 포함한 젬마 모델 제품군은 엔비디아 API 카탈로그에서 사용 가능하며, 사용자는 이를 브라우저에서 사용하거나, API 엔드포인트로 프로토타입을 제작하거나, NIM을 통한 셀프 호스팅을 할 수 있다. 구글 클라우드를 사용하면 GKE와 구글 클라우드 HPC 툴킷으로 플랫폼 전반에 엔비디아 네모(NeMo) 프레임워크를 배포하기 쉬워진다. 이를 통해 개발자는 생성형 AI 모델의 훈련과 제공을 확장하고 자동화할 수 있으며, 개발 과정에 빠르게 착수하는 맞춤형 청사진을 통해 턴키 환경을 신속히 구축할 수 있다. 엔비디아 AI 엔터프라이즈의 일부인 엔비디아 네모는 구글 클라우드 마켓플레이스에서도 이용 가능하다. 이를 통해 고객들은 네모 및 기타 프레임워크에 쉽게 액세스해 AI 개발을 가속할 수 있다. 구글 클라우드는 엔비디아 생성형 AI 가속 컴퓨팅의 가용성 확대를 위해 5월 A3 메가(Mega)의 정식 출시를 발표했다. 이 인스턴스는 엔비디아 H100 텐서 코어(H100 Tensor Core) GPU로 구동되는 A3 가상 머신(VM) 제품군의 확장으로, A3 VM에서 GPU 대 GPU 네트워크 대역폭이 두 배로 늘었다. A3에 탑재된 구글 클라우드의 새로운 컨피덴셜(Confidential) VM에는 컨피덴셜 컴퓨팅에 대한 지원도 포함돼 있어, 고객이 H100 GPU 가속에 액세스하는 동안 코드를 변경하지 않고도 민감 데이터의 기밀성과 무결성을 보호하고 학습과 추론 도중 애플리케이션과 AI 워크로드를 보호할 수 있다. 이 GPU 기반 컨피덴셜 VM은 올해 미리보기로 제공될 예정이다. 한편, 블랙웰(Blackwell) 플랫폼에 기반한 엔비디아의 최신 GPU는 2025년 초에 엔비디아 HGX B200과 엔비디아 GB200 NVL72 등 두 가지 버전으로 구글 클라우드에 출시될 예정이다. HGX B200은 가장 까다로운 AI, 데이터 분석 그리고 고성능 컴퓨팅 워크로드를 위해 설계됐으며, GB200 NVL72는 차세대, 대규모, 조 단위의 매개변수 모델 학습과 실시간 추론을 위해 설계됐다. 엔비디아 GB200 NVL72는 각각 2개의 엔비디아 블랙웰 GPU와 엔비디아 그레이스 CPU(Grace CPU)가 결합된 36개의 그레이스 블랙웰 슈퍼칩을 900GB/s의 칩투칩(chip-to-chip) 인터커넥트를 통해 연결한다. 이는 하나의 엔비디아 NV링크(NVLink) 도메인에서 최대 72개의 블랙웰 GPU와 130TB/s의 대역폭을 지원한다. 통신 병목 현상을 극복하고 단일 GPU처럼 작동해 이전 세대 대비 30배 빠른 실시간 LLM 추론과 4배 빠른 트레이닝을 제공한다. 엔비디아는 지난 3월 생성형 AI의 요구사항에 최적화된 엔터프라이즈 개발자용 AI 플랫폼인 엔비디아 DGX 클라우드를 H100 GPU 기반의 A3 VM에서 사용할 수 있다고 발표했다. GB200 NVL72가 탑재된 DGX 클라우드는 2025년 구글 클라우드에서도 제공될 예정이다.

인텔은 연례 고객 및 파트너 콘퍼런스인 ‘인텔 비전 2024’에서 기업용 생성형 AI를 위한 성능, 개방성 및 선택권을 제공할 인텔 가우디 3(Intel Gaudi 3) 가속기를 공개했다. 그리고 이와 함께 생성형 AI 도입 가속화를 위한 새로운 개방형 스케일러블 시스템 스위트, 차세대 제품 및 전략적 협력도 발표했다.  인텔 가우디 3 AI 가속기는 공통 표준을 따르는 이더넷을 통해 최대 수만 개의 가속기를 연결해 AI 시스템을 구동한다. 인텔 가우디 3는 BF16에 대해 4배 더 많은 AI 컴퓨팅 및 기존 모델 대비 1.5배 커진 메모리 대역폭을 지원한다. 인텔은 “이 가속기는 생성형 AI를 대규모로 배포하려는 글로벌 기업에게 AI 학습 및 추론 분야에서 획기적인 도약을 지원할 수 있다”고 설명했다.   ▲ 인텔 팻 겔싱어 CEO   인텔은 가우디 3가 70억 개 및 130억 개의 매개변수가 있는 라마2(Llama2) 모델과 GPT-3 1750억개 매개변수 모델 전체에서 엔비디아 H100보다 평균 50% 더 빠른 학습 시간을 제공할 것으로 예상하고 있다. 또한 인텔 가우디 3 가속기 추론 처리량은 평균적으로 H100보다 50%, 전력 효율성의 경우 라마(Llama) 70억 개 및 700억 개 매개변수와 팔콘(Falcon) 1800억 개 매개변수 모델에서 평균 40% 더 우수할 것으로 예상한다. 인텔 가우디 3는 개방형 커뮤니티 기반 소프트웨어와 업계 표준 이더넷 네트워킹을 제공한다. 또한 기업은 싱글 노드에서 클러스터, 슈퍼 클러스터, 수천 개의 노드가 있는 메가 클러스터로 유연하게 확장할 수 있으며, 최대 규모의 추론, 미세 조정 및 학습을 지원한다. 인텔 가우디 3는 2024년 2분기에 델 테크놀로지스, HPE, 레노버, 슈퍼마이크로를 비롯한 OEM 시스템에 탑재될 예정이다. 또한 인텔은 하드웨어, 소프트웨어, 프레임워크, 툴 등을 포함한 개방형 스케일러블 AI 시스템에 대한 전략을 제시했다. 인텔의 이러한 접근법은 기업별 생성형 AI 요구 사항을 충족하는 솔루션을 제공하기 위한 것으로, 다양하고 개방적인 AI 생태계를 가능케 한다. 여기에는 장비 제조업체, 데이터베이스 공급자, 시스템 통합업체, 소프트웨어 및 서비스 공급자 등이 포함된다. 또한, 기업 고객이 이미 알고 신뢰하는 생태계 파트너 및 솔루션을 활용할 수 있는 부분도 장점으로 꼽힌다. 인텔은 다양한 업계의 기업 고객 및 파트너들과 새롭고 혁신적인 생성형 AI 응용 프로그램을 개발하기 위해 인텔 가우디를 활용해 협력하고 있다고 밝혔다. 예를 들어, 네이버는 클라우드에서부터 온디바이스까지 첨단 AI 서비스를 전세계에 배포하기 위해 강력한 LLM 모델을 개발하고 있는데, 대규모 트랜스포머 아키텍처 기반 모델의 컴퓨팅 작업을 뛰어난 와트 당 퍼포먼스로 실행하기 위해 인텔 가우디를 사용한다. 보쉬는 자사 기반 모델 개발을 포함한 스마트 제조의 가능성을 모색하고 있으며, 합성 데이터 세트 생성과 더불어 자동 광학 검사와 같은 견고하고 분산된 트레이닝 세트 제공한다. 이에 더해 구글 클라우드, 탈레스, 코히시티(Cohesity)가 클라우드 환경에서 기밀 컴퓨팅 역량을 활용할 수 있도록 인텔과의 협력을 발표했다.    인텔은 인텔 가우디 3 가속기 외에도 엔터프라이즈 AI의 모든 부문에 걸쳐 차세대 제품 및 서비스에 대한 업데이트를 발표했다. 새로운 인텔 제온 6 프로세서는 폐쇄적 데이터를 사용하여 비즈니스에 특화된 결과를 생성하는 RAG를 포함한 최신 생성형 AI 솔루션을 실행할 수 있다. 2024년 출시될 차세대 인텔 코어 울트라 클라이언트 프로세서 제품군(코드명 루나레이크)은 차세대 AI PC를 위해 플랫폼 기준 100 TOPS 이상, NPU에서 45TOPS 이상을 제공할 예정이다. 인텔은 울트라 이더넷 컨소시엄(UEC)을 통해 AI 패브릭을 위한 개방형 이더넷 네트워킹을 선도하며 다양한 AI 최적화 이더넷 솔루션을 선보이고 있다.  인텔의 팻 겔싱어(Pat Gelsinger) CEO는 “혁신은 전례 없는 속도로 발전하고 있으며, 반도체가 이 모든 것을 가능하게 한다. 또한 모든 기업이 빠르게 AI 기업으로 거듭나고 있다”면서, “인텔은 PC부터 데이터센터, 에지에 이르기까지 기업 전반의 모든 곳에 AI를 가능하게 하고 있다. 인텔의 최신 가우디, 제온 및 코어 Ultra 플랫폼은 변화하는 고객과 파트너의 요구를 충족하고 앞으로의 엄청난 기회를 활용할 수 있도록  유연한 솔루션 세트를 제공하고 있다”고 밝혔다.