엔비디아가 오라클에 엔비디아 블랙웰(NVIDIA Blackwell) GPU를 지원해 에이전틱 AI와 추론 모델의 혁신을 가속화하고 있다고 밝혔다. 오라클은 자사 데이터센터에 수랭식 엔비디아 GB200 NVL72 랙을 최초로 도입하고 최적화했다. 현재 수천 개의 엔비디아 블랙웰 GPU가 엔비디아 DGX 클라우드(DGX Cloud)와 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure : OCI)를 통해 고객이 사용할 수 있도록 배치되고 있다. 이는 차세대 추론 모델과 AI 에이전트 개발과 실행을 지원한다. 오라클이 도입한 GB200에는 고속 엔비디아 퀀텀-2 인피니밴드(Quantum-2 InfiniBand)와 엔비디아 스펙트럼-X 이더넷(Spectrum-X Ethernet) 네트워킹이 포함된다. 이를 통해 확장 가능하고 저지연 성능을 구현하며, 엔비디아와 OCI 소프트웨어와 데이터베이스 통합의 풀스택을 지원한다. OCI는 엔비디아 GB200 NVL72 시스템을 최초로 도입한 기업 중 하나이다. OCI는 세계 최대 규모의 블랙웰 클러스터를 구축하려는 계획을 갖고 있다. OCI 슈퍼클러스터(Supercluster)는 10만 개 이상의 엔비디아 블랙웰 GPU로 확장해 전 세계적으로 급증하는 추론 토큰과 가속 컴퓨팅 수요를 충족할 예정이다. 지난 몇 주 사이 오픈AI(OpenAI)를 비롯한 여러 기업에서 새로운 추론 모델을 출시하면서 AI 혁신은 빠른 속도로 계속되고 있다.     엔비디아는 “OCI의 사례는 엔비디아 그레이스(Grace) 블랙웰 시스템이 전 세계적으로 본격 가동되기 시작한 최신 사례이다. 이는 클라우드 데이터센터를 대규모 인텔리전스를 제조하는 AI 팩토리로 탈바꿈시키고 있다”고 설명했다. 이러한 새로운 AI 팩토리는 36개의 엔비디아 그레이스 CPU와 72개의 엔비디아 블랙웰 GPU를 결합한 랙 스케일 시스템인 엔비디아 GB200 NVL72 플랫폼을 활용한다. 이를 통해 고급 AI 추론 모델 기반의 에이전틱 AI를 위한 고성능과 에너지 효율을 제공한다. OCI는 모든 규모의 고객에게 블랙웰을 제공할 수 있는 유연한 배포 옵션을 지원한다. 여기에는 공공, 정부, 소버린 클라우드는 물론 OCI 전용 리전(Dedicated Region)과 OCI 알로이(Alloy)를 통한 고객 소유의 데이터센터까지 포함된다. 한편 새로운 GB200 NVL72 랙은 엔비디아 DGX 클라우드에서 사용할 수 있는 첫 번째 시스템이다. 엔비디아 DGX 클라우드는 OCI와 같은 주요 클라우드에서 AI 워크로드를 개발하고 배포하기 위해 소프트웨어, 서비스, 기술 지원을 제공하는 최적화된 플랫폼이다. 엔비디아는 추론 모델 훈련, 자율주행차 개발, 칩 설계와 제조 가속화, AI 도구 개발 등 다양한 프로젝트에 이 랙을 사용할 예정이다. GB200 NVL72 랙은 현재 DGX 클라우드와 OCI에서 사용할 수 있다.

엔비디아가 에이전트 기반 AI 플랫폼 개발을 가속화하고 기업의 생산성을 높이는 ‘엔비디아 네모 마이크로서비스(NVIDIA NeMo microservices)’를 정식 출시했다고 밝혔다. 이번에 정식 출시된 엔비디아 네모 마이크로서비스는 기업 IT 부서가 데이터 플라이휠(flywheel)을 활용해 직원 생산성을 높일 수 있는 AI 팀원을 빠르게 구축하도록 지원한다. 이 마이크로서비스는 엔드 투 엔드 개발자 플랫폼을 제공한다. 이 플랫폼은 최첨단 에이전틱 AI(Agentic AI) 시스템의 개발을 가능하게 하고, 추론 결과, 비즈니스 데이터, 사용자 선호도에 기반한 데이터 플라이휠을 통해 지속적인 최적화를 지원한다. 데이터 플라이휠을 통해 기업 IT 부서는 AI 에이전트를 디지털 팀원으로 온보딩할 수 있다. 이러한 에이전트는 사용자 상호작용과 AI 추론 과정에서 생성된 데이터를 활용해 모델 성능을 지속적으로 개선할 수 있다. 이를 통해 ‘사용’을 ‘인사이트’로, ‘인사이트’를 ‘실행’으로 전환할 수 있다.     데이터베이스, 사용자 상호작용, 현실 세계의 신호 등의 고품질 입력이 지속적으로 제공되지 않으면 에이전트의 이해력은 약화된다. 그 결과, 응답의 신뢰성은 떨어지고 에이전트의 생산성도 저하될 수 있다. 운영 환경에서 AI 에이전트를 구동하는 모델을 유지하고 개선하기 위해서는 세 가지 유형의 데이터가 필요하다. 인사이트를 수집하고 변화하는 데이터 패턴에 적응하기 위한 추론 데이터, 인텔리전스를 제공하기 위한 최신 비즈니스 데이터, 모델과 애플리케이션이 예상대로 작동하는지를 판단하기 위한 사용자 피드백 데이터가 그것이다. 네모 마이크로서비스는 개발자가 이 세 가지 유형의 데이터를 효율적으로 활용할 수 있도록 지원한다. 또한, 네모 마이크로서비스는 에이전트를 구동하는 모델을 선별하고, 맞춤화하며, 평가하고, 안전장치를 적용하는 데 필요한 엔드 투 엔드 툴을 제공함으로써 AI 에이전트 개발 속도를 높인다. 엔비디아 네모 마이크로서비스는 ▲대규모 언어 모델(LLM) 미세 조정을 가속화해 최대 1.8배 높은 훈련 처리량을 제공하는 네모 커스터마이저(Customizer) ▲개인과 산업 벤치마크에서 AI 모델과 워크플로의 평가를 단 5번의 API 호출로 간소화하는 네모 이밸류에이터(Evaluator) ▲ 0.5초의 추가 지연 시간만으로 규정 준수 보호 기능을 최대 1.4배까지 향상시키는 네모 가드레일(Guardrails)을 포함한다. 이는 네모 리트리버(Retreiver), 네모 큐레이터(Curator)와 함께 사용돼, 맞춤형 엔터프라이즈 데이터 플라이휠을 통해 AI 에이전트를 구축하고, 최적화하며, 확장하는 과정을 기업이 보다 수월하게 수행할 수 있도록 지원한다. 개발자는 네모 마이크로서비스를 통해 AI 에이전트의 정확성과 효율성을 높이는 데이터 플라이휠을 구축할 수 있다. 엔비디아 AI 엔터프라이즈(Enterprise) 소프트웨어 플랫폼을 통해 배포되는 네모 마이크로서비스는 온프레미스 또는 클라우드의 모든 가속 컴퓨팅 인프라에서 엔터프라이즈급 보안, 안정성, 지원과 함께 손쉽게 운영할 수 있다. 이 마이크로서비스는 기업들이 수백 개의 전문화된 에이전트를 협업시키는 대규모 멀티 에이전트 시스템을 구축하고 있는 현재 정식 출시됐다. 각 에이전트는 고유의 목표와 워크플로를 가지고 있으며, 디지털 팀원으로서 복잡한 업무를 함께 해결하며 직원들의 업무를 보조하고, 강화하며, 가속화한다. 엔비디아 네모 마이크로서비스로 구축된 데이터 플라이휠은 사람의 개입을 최소화하고 자율성을 극대화하면서 데이터를 지속적으로 선별하고, 모델을 재훈련하며, 성능을 평가한다. 네모 마이크로서비스는 라마(Llama), 마이크로소프트 파이(Microsoft Phi) 소형 언어 모델 제품군, 구글 젬마(Google Gemma), 미스트랄 등 폭넓은 인기 오픈 모델을 지원한다. 또한, 기업은 엔비디아 가속 인프라, 네트워킹, 그리고 시스코, 델, HPE, 레노버(Lenovo) 등 주요 시스템 제공업체의 소프트웨어를 기반으로 AI 에이전트를 실행할 수 있다. 액센츄어(Accenture), 딜로이트(Deloitte), EY를 비롯한 거대 컨설팅 기업들 역시 네모 마이크로서비스를 기반으로 기업용 AI 에이전트 플랫폼을 구축하고 있다.

파수는 자사의 플래그십 콘퍼런스인 ‘FDI 2025 심포지움(Fasoo Digital Intelligence 2025 Symposium, 이하 FDI)’을 4월 22일 진행했다고 밝혔다. 파수는 이번 행사를 통해 생성형 AI 시대를 위한 AI 및 보안, 데이터 전략, 투자 효율성을 높이는 보안 접근법 등을 제시, 글로벌 AI·보안 기업으로의 면모를 드러냈다고 평가했다. 이번 FDI는 국내 기업 및 기관의 CIO, CISO 등 350여 명이 참가했다. 파수는 올해 ‘생성형 AI 혁명 : AI가 기업에 가져올 변화’를 주제로 삼고, 기업형 sLLM(경량 대규모 언어 모델), 데이터 관리/보호 방안, 공급망 관리, CPS(사이버 물리 시스템) 보안 등 다양한 세션을 통해 현재의 문제와 대응안 등의 인사이트를 나눴다. 파수의 조규곤 대표는 ‘GenAI 혁명을 위한 AI 전략’ 키노트에서 급속도로 발전되는 AI가 변화시키고 있는 비즈니스 및 업무 환경을 설명하고, 조직 내부에 구축하는 sLLM을 성공적으로 구축하기 위한 방안을 제시했다. 조 대표는 “성공적인 sLLM 구축을 위해서는 AI 시스템 인프라에 대한 지나친 투자 대신 AI를 위한 데이터 인프라 강화와 AI 거버넌스 구축에 신경써야 한다”고 조언했다. 또한 “더 발전된 모델이 매일 새롭게 출시됨에 따라 향후 유연하게 더 나은 신규 모델을 활용할 수 있도록 구축 단계부터 고려해야 한다”고 말했다.     이어 ‘기업형 GenAI, LLM Agent’ 발표를 진행한 윤경구 전무는 현재 LLM의 발전 현황과 방향성을 짚으면서 논리적 사고의 리즈닝(reasoning) 모델과 언어 모델의 한계를 벗어나는 에이전틱 LLM이 AI 혁명을 이끌 것으로 전망했다. 더불어 파수가 선보인 기업용 LLM ‘Ellm(엘름)’의 발전 현황과 다양한 세부 모델, 실제 고객 활용 사례를 소개하고 AI 활용을 위한 신규 설루션도 선공개했다.  이후에는 ▲악성메일 훈련/교육, 취약점 진단과 태세(Posture) 관리 ▲AI와 클라우드 시대의 데이터 보안 ▲소프트웨어 공급망 보안과 SBOM 생성 유통 검증 ▲CPS 보안 ▲GenAI 데이터 보안 전략 등의 세션이 진행됐다. 특히 ‘악성메일 훈련/교육, 취약점 진단과 태세 관리’ 발표에서는 효과적인 보안 투자를 위한 ‘보안 101’이 제시됐다. 이 발표에서는 보안 투자 확대에도 불구하고 보안 사고가 발생하는 원인으로 임직원들의 보안 훈련 부족과 취약점, 태세 관리 미비를 꼽고, 특히 데이터가 암호화되지 않은 경우 피해가 급증한다고 지적했다. 이에 따라 ‘기초/필수 과정’을 뜻하는 101을 차용한 ‘보안 101’으로 훈련, 암호화/백업, 취약점 분석, 태세 관리에 집중해 투자 효율성을 높일 수 있다고 설명했다.  파수가 제시하는 ‘보안 101’의 첫 단계는 먼저, 임직원들의 악성 메일 반복 훈련과 최신 자료 중심의 백업, 확대 적용된 암호화를 통한 사이버 위협 대응 능력 향상이다. 또한 컴플라이언스 대응에만 초점을 맞춘 취약점 진단이 아닌 IT 인프라, 공급망 애플리케이션, OT(운영기술)/CPS로 대상을 확대해 보안 사각지대를 최소화한다. 나아가 데이터(DSPM)를 비롯, 애플리케이션(ASPM)과 OT시스템(OSPM) 등의 태세 관리를 통해 자산 식별 및 분류, 실시간 탐지 및 대응, 지속적인 모니터링으로 보안을 강화할 수 있다. 한편 파수는 이번 FDI를 통해 소개된 다양한 설루션 및 서비스를 기반으로 글로벌 AI·보안 기업으로 거듭나겠다는 전략을 소개했다. 특히 본격적인 확산에 돌입한 구축형 sLLM Ellm의 신규 업데이트는 물론, GenAI 활용을 위한 설루션, 분야별 태세 관리 설루션 및 서비스 등을 연내 순차적으로 선보일 예정이다. 

한국IBM이 4월 21일, 여의도 본사에서 기자간담회를 열고, 기업 비즈니스 환경에 최적화된 '에이전틱 AI(Agentic AI)' 전략과 이를 구현하는 핵심 솔루션인 '왓슨x 오케스트레이트(watsonx Orchestrate)'를 소개하는 자리를 마련했다. 한국IBM 최고기술책임자(CTO) 이지은 전무는 에이전틱 AI를 "사용자나 시스템을 위해 자율적으로 과제를 수행하는 AI 에이전트들이 결합된 환경"으로 정의하며, "기존 AI 대비 사람의 개입을 최소화하고 다양한 시스템과 연계해 복합적인 업무를 자율적으로 수행할 수 있는 것이 특징"이라고 설명했다.​ ▲ 한국IBM 최고기술책임자(CTO) 이지은 전무 ▲ '기업을 위한 AI 에이전트'로 열린 한국IBM 기자간담회 현장    IBM은 자사의 AI 플랫폼인 왓슨x를 중심으로 ▲오픈소스 및 파트너 AI 기술을 유연하게 활용할 수 있는 개방성(Open) ▲영역별로 특화된 고성능 소형 LLM으로 90% 높은 비용효율성 ▲온프레미스와 클라우드를 포괄하는 유연성을 제공하는 하이브리드 기술 ▲산업 및 영역별 전문성을 토대로 한 IBM 컨설팅 서비스 등을 제공하는 기업향 AI 전략의 차별화 요소를 강조했다. 한국IBM 클라이언트 엔지니어링(Client Engineering) 총괄 김지관상무는 "왓슨x 오케스트레이트를 통해 자연어 기반의 직관적인 대화형 인터페이스를 제공한다"며, 이를 통해 "직원, 고객 등 최종 사용자의 요청을 수집하고, 다양한 비즈니스 애플리케이션과 연결해 자동화된 방식으로 처리한다"고 밝혔다.​ ▲ 한국IBM 클라이언트 엔지니어링 총괄 김지관 상무 또한, LLM 기반의 시스템을 통해 사용자의 요청을 지능적으로 분석하고 가장 적절한 경로로 연결하며, 단순한 질의응답을 넘어 특정 업무 수행, 지식 베이스 검색, 필요 시 사람의 개입까지 유연하게 확장되어 기존에 수 분에서 수 시간이 소요되던 업무를 수 초 또는 수 분 이내에 처리할 수 있도록 지원하고 있다고 설명했다.​ 한국IBM은 에이전틱 AI 전략의 차별화 요소로 ▲사전 구축된 AI 에이전트 컴포넌트와 스킬 기반의 빠른 구현 역량 ▲다양한 클라우드 또는 벤더에서 제공하는 AI와 앱에 대한 통합과 조정 ▲기업용 거버넌스 역량으로 신뢰할 수 있는 AI 구현 및 운영 ▲클라우드, 온프레미스 등 원하는 환경을 자유롭게 선택, 구축, 이동할 수 있는 하이브리드 기술 등을 강조했다.​ 한편, 한국IBM은 4월 22일 서울 드래곤시티 호텔 그랜드볼룸에서 'IBM 테크 이노베이션 서밋 2025(IBM Tech Innovation Summit 2025)'을 개최할 예정이다. 이번 행사는 AI 엔지니어, 데이터 사이언티스트, IT 아키텍트, 개발자 등 현업 IT 기술 전문가들을 대상으로 IBM의 최신 기술을 소개하고 직접 체험할 수 있는 자리로, 생성형 AI 도입부터 기술 심화 및 확장 단계, AI 에이전트, 생성형 AI를 위한 데이터, IT 자동화 등 기업의 AI 여정을 가속화할 수 있는 다양한 주제를 다룰 예정이다.

트렌드에서 얻은 것 No. 22    AI 시대, 우리는 어떤 미래를 만들어갈 것인가?” – 젠슨 황   AI의 거대한 파도, 엔비디아가 만드는 미래 엔비디아는 2024년과 2025년 GTC(GPU Technology Conference)에서 AI 기술을 통해 산업 전반에 걸친 변화를 이끌어가고 있다. 젠슨 황은 기조연설에서 기술 혁신이 사회적, 경제적 구조를 재편하는 ‘변화의 파도’라고 강조하며, 엔비디아가 그 중심에서 미래를 설계하고 있음을 확신시켰다.  엔비디아는 두 해 동안 AI 혁신을 가속화하며 다양한 제품과 플랫폼을 선보였다. 2024년에는 GB200 AI 플랫폼과 블랙웰(Blackwell) DGX B200 GPU를 통해 성능 향상에 초점을 맞췄다면, 2025년에는 블랙웰 울트라(Blackwell Ultra) 기반의 NVL72 등 차세대 하드웨어와 지속 가능성을 강조하며 더 큰 비전을 제시했다.   표 1. 2024년과 2025년 엔비디아의 주요 발표 비교   인공지능 혁명의 변곡점에서 인류는 늘 기술의 발전과 함께 새로운 시대를 맞이해 왔다. 산업혁명이 증기기관과 전기를 통해 생산 방식을 혁신했던 것처럼, 디지털 혁명은 인터넷과 스마트폰을 통해 세상을 연결했다. 그리고 지금, 우리는 또 하나의 거대한 변곡점에 서 있다. 바로 AI 혁명이다. 2025년 3월, 엔비디아의 GTC에서 젠슨 황 CEO는 기조연설을 통해 AI가 변화의 중요한 시점에 도달했음을 선언했다. 그는 AI가 단순한 도구를 넘어 ‘스스로 사고하고 결정하는 존재’로 발전하고 있으며, 이 거대한 변화가 기업, 산업, 그리고 인간의 삶 전반에 걸쳐 영향을 미칠 것이라고 강조했다. 이번 GTC 2025에서 가장 주목받은 키워드는 에이전틱 AI(agentic AI)와 추론 AI(reasoning AI)였다. 기존의 AI가 데이터를 분석하고 패턴을 찾는 데 주력했다면, 이제 AI는 자율적으로 목표를 설정하고 스스로 문제를 해결하는 방향으로 나아가고 있다. 이러한 변화는 단순한 업그레이드가 아니라, AI 산업 전반의 패러다임을 뒤흔드는 파도와 같다. 이러한 흐름 속에서 엔비디아는 블랙웰 GPU라는 차세대 칩을 공개하며, 인공지능 모델의 효율성을 비약적으로 향상시키는 새로운 하드웨어 시대를 열었다. 또한 옴니버스 클라우드 API(Omniverse Cloud API), AI 팩토리(AI Factories) 등의 개념을 통해 AI가 단순한 연구 도구가 아니라, 실제 산업을 자동화하고 혁신하는 핵심 인프라로 자리 잡아가고 있음을 보여주었다. 그렇다면 우리는 이러한 변화의 바람 속에서 어떤 선택을 해야 할까? AI 혁명의 파도를 넘는 기업과 뒤처지는 기업의 차이는 무엇일까? 엔비디아의 발표를 중심으로 AI 산업이 어디로 흘러가고 있는지, 그리고 그 변화 속에서 우리는 무엇을 준비해야 하는지를 하나씩 짚어보자. “AI가 단순한 연구 프로젝트에서 벗어나, 본격적인 산업 혁신의 중심으로 자리 잡는 것” – 젠슨 황   블랙웰, AI의 새로운 엔진 기술 혁신의 역사는 더 빠르고 더 강력하며 더 효율적인 도구를 만들려는 인간의 끝 없는 도전과 함께 발전해 왔다. AI 산업도 예외가 아니다. 과거에는 단순한 이미지 분석과 음성 인식이 AI의 주요 활용 분야였다면, 이제는 스스로 학습하고 결정을 내리며 복잡한 문제를 해결하는 AI가 요구되고 있다. 하지만 이런 고도화된 AI 모델을 운용하려면 엄청난 연산 능력이 필요하며, 이를 뒷받침할 강력한 하드웨어가 필수이다. GTC 2025에서 젠슨 황이 가장 먼저 소개한 것은 블랙웰 GPU였다. 그는 “AI의 미래를 가속하는 가장 강력한 엔진”이라며, 블랙웰이 기존 호퍼(Hopper) 아키텍처를 넘어선 새로운 시대의 핵심 기술이라고 강조했다. 그렇다면 블랙웰 GPU는 무엇이 다를까? 블랙웰 GPU는 기존 호퍼 아키텍처 대비 연산 성능이 2배 이상 향상되었으며, 특히 대규모 AI 모델을 실행할 때의 전력 효율이 4배 증가했다. 이는 곧 더 적은 에너지로 더 강력한 AI 모델을 훈련하고 실행할 수 있다는 의미다. 젠슨 황은 연설에서 “블랙웰은 단순한 속도 개선이 아니라, AI 연구자들이 더 크고 복잡한 모델을 현실적으로 활용할 수 있도록 지원하는 플랫폼”이라고 설명했다. 이제 AI 연구자는 엄청난 비용을 감수하지 않고도 보다 정교한 생성형 AI, 실시간 데이터 처리, 고도화된 시뮬레이션 등을 구현할 수 있게 되었다. 엔비디아는 블랙웰 GPU와 함께 옴니버스 클라우드 API를 발표했다. 이는 단순한 클라우드 컴퓨팅 설루션이 아니라, AI 모델 개발 및 실행을 위한 강력한 협업 플랫폼이다. 옴니버스 클라우드 API는 데이터센터, AI 연구소, 기업의 IT 인프라를 하나의 거대한 AI 네트워크로 연결하여, 개발자들이 실시간으로 협업하고 AI 모델을 학습할 수 있도록 지원한다. 이는 특히 자율주행, 산업 자동화, 로보틱스 같은 분야에서 AI의 혁신 속도를 극적으로 끌어올릴 것으로 기대된다. 젠슨 황은 “AI 개발은 더 이상 한 기업이나 연구소만의 일이 아니다. 옴니버스 클라우드 API를 통해 전 세계의 AI 개발자가 하나로 연결될 것”이라며, AI 연구의 새로운 생태계를 제시했다. 또 한 가지 주목할 점은 AI 팩토리(인공지능 공장) 개념이다. 젠슨 황은 AI를 ‘새로운 산업 혁명의 동력’으로 표현하며, AI 팩토리가 데이터를 가공하고 AI 모델을 대량으로 생산하는 핵심 인프라가 될 것이라고 설명했다. 이 개념을 이해하려면 기존 제조업과 비교해보면 쉽다. 과거에는 자동차나 전자제품을 생산하는 공장이 경제의 중심이었지만, 미래에는 AI를 학습하고, 최적화하고, 배포하는 ‘AI 공장’이 가장 중요한 인프라가 될 것이다. 젠슨 황은 AI 팩토리가 AI 기반 자율주행, 로봇, 데이터 분석, 금융 모델링 등 다양한 산업에서 필수 역할을 하게 될 것이라고 강조했다. 블랙웰 GPU, 옴니버스 클라우드 API, AI 팩토리는 단순한 기술 발전이 아니다. 이들은 AI가 단순한 연구 프로젝트에서 벗어나 본격적인 산업 혁신의 중심으로 자리 잡는 것을 의미한다. 과거에도 GPU의 성능 향상이 AI 산업에 변화를 가져온 적이 있다. 2012년 알렉스넷(AlexNet)이 GPU 가속을 이용해 딥러닝의 가능성을 처음 보여줬고, 2017년 트랜스포머(transformer) 모델이 등장하며 자연어 처리 AI가 급격히 발전했다. 그리고 2025년에는 블랙웰이 AI의 자율성과 창의성을 한 단계 끌어올리는 전환점이 될 것이다. 젠슨 황이 기조연설에서 블랙웰을 소개하며 한 말이 특히 인상적이었다. “AI는 이제 단순한 도구가 아니라 스스로 사고하고 결정하는 존재로 나아가고 있다.” 이 말은 곧, 우리가 맞이할 AI의 미래가 이전과는 전혀 다른 차원이라는 것을 시사한다. 그리고 그 변화를 가속하는 엔진이 바로 블랙웰이다. “이제 AI는 단순한 계산기가 아니라, 실제로 ‘생각하고 판단하는 존재’가 되어야 한다.” – 젠슨 황   엔비디아가 던진 화두, 에이전틱 AI와 추론 AI AI 기술의 발전은 단순히 연산 능력을 향상시키는 것에 그치지 않는다. 더 중요한 것은 AI의 ‘사고 방식’이 바뀌고 있다는 점이다. 지금까지의 AI는 데이터를 학습하고 패턴을 인식하는 역할을 해왔다. 하지만 이제 AI는 스스로 목표를 설정하고, 상황에 맞게 판단하며, 능동적으로 문제를 해결하는 방향으로 진화하고 있다. GTC 2025에서 젠슨 황이 강조한 에이전틱 AI와 추론 AI는 바로 이러한 변화의 핵심 개념이다. 그는 이 두 가지 개념이 AI를 단순한 도구에서 ‘자율적 지능’으로 변화시키는 결정적 요소라고 설명했다. 그렇다면 에이전틱 AI와 추론 AI는 무엇이며, 어떤 변화를 가져올까? 에이전틱 AI의 핵심은 AI가 인간의 지시 없이도 능동적으로 목표를 설정하고, 실행할 수 있도록 만드는 것이다. 기존의 AI는 주어진 데이터와 명령에 따라 최적의 결과를 도출하는 ‘수동적’ 존재였다. 하지만 에이전틱 AI는 스스로 목표를 설정하고, 문제를 해결하는 ‘능동적’ 존재로 변하고 있다. 젠슨 황은 에이전틱 AI를 활용하면 인간이 직접 개입하지 않아도 AI가 알아서 문제를 해결하는 시대가 열린다고 강조했다. 추론 AI는 한 단계 더 나아가, AI가 단순한 패턴 인식을 넘어 논리적 사고를 수행할 수 있도록 만드는 기술이다. 기존 AI 모델은 데이터를 학습하고 특정 패턴을 기반으로 예측을 수행했지만, 그 과정에서 왜 이런 결론이 나왔는지 설명하지 못하는 경우가 많았다. 그러나 추론 AI는 AI가 논리적인 판단을 수행하고, 의사결정의 과정을 설명할 수 있도록 하는 것을 목표로 한다. 젠슨 황은 “이제 AI는 단순한 계산기가 아니라, 실제로 ‘생각하고 판단하는 존재’가 되어야 한다”며, 추론 AI가 향후 AI 발전의 핵심이 될 것이라고 강조했다. 젠슨 황이 강조한 에이전틱 AI와 추론 AI는 개별적인 개념이 아니라, 서로 결합될 때 가장 강력한 시너지를 발휘한다. 에이전틱 AI는 AI가 스스로 목표를 설정하고, 문제를 해결할 수 있도록 한다. 추론 AI는 AI가 단순한 계산이 아니라, 논리적 사고를 통해 최적의 결정을 내릴 수 있도록 한다. 이 두 가지가 결합되면, AI는 단순한 보조 도구를 넘어서 ‘진정한 지능(Artificial General Intelligence : AGI)’에 가까워질 것이다. 이러한 AI의 발전은 산업 전반에 걸쳐 거대한 변화의 파도를 일으킬 것이며, 기업들은 단순한 AI 도입을 넘어서 AI를 기업 전략의 중심으로 삼아야 하는 시점에 이르렀다. “AI 팩토리를 구축하여 AI 자체를 ‘생산하는 능력’을 가져야 한다.” – 젠슨 황   AI 팩토리, AI 혁명을 생산하는 공장 이제 AI는 단순한 소프트웨어가 아니라 하나의 ‘산업’으로 성장하고 있다. GTC 2025에서 젠슨 황이 강조한 개념 중 하나가 바로 AI 팩토리(인공지능 공장)이다. 그는 AI 팩토리를 가리켜 ‘미래 산업의 심장’이라고 표현했다. 그렇다면 AI 팩토리란 무엇이며, 왜 중요할까? 이 개념이 가져올 변화는 무엇일까? 기존의 데이터센터는 단순한 컴퓨팅 인프라였다. 하지만 AI 팩토리는 데이터를 학습하고, AI 모델을 훈련하며, 새로운 AI 설루션을 ‘생산’하는 역할을 한다. 즉, AI가 AI를 만들어내는 공장이다. 젠슨 황은 AI 팩토리를 자동차 산업에 비유하며 설명했다. “과거에는 사람이 손으로 자동차를 조립했지만, 지금은 로봇이 자동차를 생산한다. AI도 마찬가지다. 미래에는 사람이 AI를 개발하는 것이 아니라, AI 팩토리에서 AI가 스스로 AI를 만들어내게 될 것이다.” 즉, AI 팩토리는 단순한 데이터 센터가 아니라 AI 혁명을 대량 생산하는 공장이 된다. 젠슨 황은 GTC 2025에서 "AI 팩토리를 구동하는 핵심 연산 장치는 블랙웰 GPU가 될 것"이라고 강조했다. AI 팩토리에서 생산되는 것은 반도체나 기계가 아니라 AI 자체다. 이 공장에서 에이전틱 AI, 추론 AI, 자율주행 AI, 생성형 AI 등이 대량으로 생산된다. 즉, AI 팩토리는 단순한 데이터 센터를 넘어 새로운 AI 산업의 허브가 된다. AI 팩토리가 등장하면 기업과 산업이 근본적으로 변화한다. 특히, 데이터를 기반으로 하는 모든 산업이 AI 팩토리를 도입할 가능56 · 성이 높다. 결국 AI 팩토리는 단순한 연구소가 아니라, 실제 AI 모델을 ‘대량 생산’하여 산업에 공급하는 핵심 인프라가 된다. 젠슨 황은 AI 팩토리의 등장이 단순한 기술 발전이 아니라 경제 패러다임의 변화라고 강조했다. 이제 기업은 단순히 AI를 도입하는 것을 넘어, AI 팩토리를 구축하여 AI 자체를 ‘생산하는 능력’을 가져야 한다. “AI를 도입하지 않는 기업은 도태될 것이다.” – 젠슨 황   AI의 도입, AI가 기업을 재설계한다 AI 혁명은 더 이상 선택이 아니다. GTC 2025에서 젠슨 황이 강조한 메시지는 명확했다. "AI를 도입하지 않는 기업은 도태될 것이다." 이제 AI는 기업 운영의 한 요소가 아니라 기업의 핵심 전략, 구조, 성장 엔진 자체로 변화하고 있다. 기업은 어떻게 AI를 도입하고 있으며, AI 도입이 비즈니스에 미치는 영향은 무엇일까? 과거 AI 도입은 단순한 자동화 도구 활용이었다. 그러나 이제 AI 도입(AI adoption)은 기업의 핵심 역량을 AI 중심으로 전환하는 과정이다. AI 도입은 이제 단순한 기술의 도입이 아니라, 기업의 전략과 문화 자체를 AI 중심으로 변화시키는 과정이다. AI 도입이 빠르게 진행될 수록, 기업들은 직접 AI를 개발하는 것이 아니라 필요한 AI 서비스를 구독하는 방식으로 활용하는 시대가 열리고 있다. AI 도입이 가속화되면서 기업들은 완전히 새로운 방식으로 운영되고 있다. 특히, 의사결정 구조, 업무 방식, 조직 문화가 AI 중심으로 변화하고 있다. 이제 AI는 단순한 도구가 아니다. AI 도입이 진행될 수록, 기업의 핵심 전략과 비즈니스 모델 자체가 AI 중심으로 변화하고 있다. 결국, AI 도입을 성공적으로 수행하는 기업만이 미래 시장에서 생존하고 성장할 수 있을 것이다.    표 2. 기존 기업 vs. AI 중심 기업의 차이점   AI는 혼자 발전할 수 없다. 모두가 함께 연결되어야 한다.” – 젠슨 황   네트워킹, AI 시대의 연결과 협업 AI가 기업의 핵심 전략이 되고 산업 전체가 AI 기반으로 재편되는 과정에서, 네트워킹(networking)의 중요성이 더욱 강조되고 있다. 과거 기업은 독립적으로 성장하는 전략을 취했지만, 이제 AI 시대에서는 기업 간 협력, 데이터 공유, AI 연구 협업이 필수이다. GTC 2025에서 젠슨 황은 이렇게 말했다. “AI는 혼자 발전할 수 없다. 모두가 함께 연결되어야 한다.” 그렇다면 AI 시대의 네트워킹은 어떻게 이루어지고 있으며, 어떤 기업이 AI 협업을 통해 새로운 가치를 창출하고 있을까? AI 네트워킹의 의미는 ‘AI는 연결을 필요로 한다’로 해석된다. AI 혁명이 가속화될 수록 기업들은 서로 연결될 필요가 있다.  즉, AI 네트워킹이란 기업들이 AI를 더 빠르고, 더 효율적으로, 더 윤리적으로 활용하기 위해 서로 협력하는 과정을 의미한다. AI 네트워킹을 실현하는 방식은 다양하지만, 현재 가장 중요한 세 가지 협력 모델을 살펴보자. AI 팜(AI farms)을 통해 개별 기업이 AI 인프라를 구축하는 부담을 줄이고, 더 빠르게 AI를 도입할 수 있다. AI 얼라이언스(AI alliance)를 통해 기업들은 경쟁이 아닌 협력을 기반으로 AI 혁신을 가속화하고 있다. 즉, AI 데이터 공유는 이제 개인정보 보호를 유지하면서도 기업들이 협력할 수 있는 새로운 방식으로 발전하고 있다. AI 네트워킹이 활성화됨에 따라, 기업들은 완전히 새로운 방식으로 연결되고 협력하고 있다. AI 시대에는 한 산업 내에서 경쟁하는 것이 아니라, 다양한 산업과 연결되는 것이 핵심 전략이 된다. 결과적으로, AI 네트워킹을 활용하는 기업들은 새로운 기회를 창출하고, 더 빠르게 AI 중심으로 전환하고 있다. “AI 혁명은 이제 되돌릴 수 없는 변곡점에 도달했다. 우리는 AI와 함께 새로운 미래를 설계해야 한다.” – 젠슨 황   AI 시대의 미래, 우리는 어디로 가는가 AI 혁명은 이제 단순한 기술 발전을 넘어 산업, 사회, 인간의 삶 자체를 근본적으로 변화시키고 있다. GTC 2025에서 젠슨 황은 말했다. “AI 혁명은 이제 되돌릴 수 없는 변곡점에 도달했다. 우리는 AI와 함께 새로운 미래를 설계해야 한다. ”그렇다면 AI의 미래는 어디로 향하고 있으며, 우리는 AI와 함께 어떤 세상을 만들어가야 할까? 에이전틱 AI와 추론 AI의 발전이다. 즉, AI가 단순한 ‘도구’가 아니라, 인간과 협력하는 ‘실제적인 파트너’가 되는 시대가 다가오고 있다. 기존의 AI는 패턴을 학습하는 방식이었다. 그러나 추론 AI는 스스로 논리적으로 사고하고 추론하는 능력을 갖춘다. 즉, AI가 더 이상 단순한 자동화 도구가 아니라, 지능적인 사고를 할 수 있는 존재로 변화하고 있다. AI가 점점 더 지능적으로 발전하면서, 우리는 ‘AI와의 관계를 어떻게 설정할 것인가’라는 근본적인 질문을 마주하게 되었다. 이제 AI는 단순한 도구를 넘어, 인간과 협력하여 새로운 가치를 창출하는 존재로 변화하고 있다. AI가 고도화될 수록 우리는 AI의 윤리적 문제와 사회적 책임에 대한 고민을 깊게 해야 한다. 결과적으로, 각국이 AI 규제와 발전 전략을 다르게 설정하면서 AI 패권 경쟁이 더욱 치열해지고 있다. AI는 단순한 기술이 아니라, 인류가 새로운 방식으로 사고하고 일하고 살아가는 방식을 바꾸는 거대한 전환점이 되고 있다. “AI는 이제 단순한 도구가 아니라, 스스로 사고하고 결정하는 존재로 나아가고 있다.” – 젠슨 황   변화의 바람을 넘어, AI와 함께 새로운 항해를 시작하다 AI 혁명은 거대한 바람이 아니라, 이제는 우리가 타고 항해해야 할 파도다. 과거에는 변화가 두려운 것이었다. 그러나, AI와 함께라면 우리는 변화 속에서도 새로운 기회를 창출할 수 있다. 엔비디아 GTC 2025에서 젠슨 황이 던진 질문을 기억하자. “AI 시대, 우리는 어떤 미래를 만들어갈 것인가?” 이제 우리는 AI와 함께 새로운 항해를 시작할 준비를 해야 한다.   그림 1. 엔비디아 기업 성장 맵(GTC 2024, 2025, Map by 류용효) (클릭하면 큰 이미지로 볼 수 있습니다.)   ■ 류용효 디원의 상무이며 페이스북 그룹 ‘컨셉맵연구소’의 리더로 활동하고 있다. 현업의 관점으로 컨설팅, 디자인 싱킹으로 기업 프로세스를 정리하는데 도움을 주며, 1장의 빅 사이즈로 콘셉트 맵을 만드는데 관심이 많다. (블로그)     ■ 기사 내용은 PDF로도 제공됩니다.

IBM 컨설팅은 기업이 AI 에이전트를 사용해 업무 프로세스를 혁신할 수 있도록 돕는 AI 인티그레이션 서비스(AI Integration Services)를 새롭게 선보였다. 이 서비스를 통해 기업들은 각기 선호하는 AI 및 클라우드 플랫폼에서 AI 에이전트를 활용한 새로운 업무 방식을 구현하고, 실질적인 성과와 가치를 창출할 수 있을 것으로 기대된다. 최근 IT 업계에서는 AI 에이전트의 잠재력에 이목이 쏠린 상황이다. AI 에이전트는 최소한의 인간 개입으로 상황을 평가하고, 데이터를 수집하고 분석해 문제를 해결하며, 자율적으로 작업을 수행하고 상호작용을 통해 지속적으로 학습하는 능력을 갖추고 있다. 이를 통해 단순한 생산성 향상을 넘어 기업의 업무 방식 자체를 근본적으로 변화시킬 수 있다. IBM 컨설팅은 사용자 경험, AI 에이전트와 데이터 등 세 가지 영역을 유기적으로 결합하는 ‘에이전틱 앱(agentic app)’ 이라는 새로운 업무 프로세스를 제안한다. 이는 ▲사용자 역할(페르소나) 기반의 맞춤형 AI 어시스턴트를 적용한 새로운 사용자 경험 ▲여러 AI 에이전트가 협력해 업무를 자동화할 수 있도록 강력한 AI 거버넌스 통합 ▲분산된 데이터를 실시간으로 정리하고 최적화해 AI 기반 프로세스를 원활하게 지원하는 데이터 관리가 포함된다. 새롭게 출시된 AI 인티그레이션 서비스는 기업 고객들이 에이전틱 앱을 구현할 수 있도록 지원하는 설루션을 제공한다. 기본은 AI 전문성부터 시작한다. IBM 컨설팅은 AI 확장과 거버넌스 구축에 대한 심도 깊은 기술적, 산업적 전문성을 보유하고 있으며, 2023년 이후 7만 5000 명 이상의 컨설턴트가 생성형 AI 관련 자격증을 취득했다. 금융, 통신, 공공 부문 등 다양한 산업에서 13만 5000 개 이상의 산업별 인증을 획득하며 AI 도입을 위한 검증된 역량을 확보했다.     또, IBM 컨설팅은 생성형 AI 기반 컨설팅 플랫폼인 IBM 컨설팅 어드밴티지(IBM Consulting Advantage)를 통해 AI 도입을 더욱 가속화한다. 특히 IBM 컨설팅 에이전트 캐털리스트 설루션을 활용하면 로코드/노코드 방식으로 복잡한 기업 워크플로를 자동화하는 에이전틱 앱을 구축할 수 있다. IBM, 애저, AWS 등 주요 클라우드 및 AI 플랫폼과 연동해 고객 맞춤형 AI 설루션을 제공하며, 이를 통해 기업들은 기존 기술 환경을 유지하면서도 AI 기반 혁신을 실현할 수 있을 것으로 기대된다. 마지막으로 특정 산업 부문과 업무 프로세스에 적용할 수 있는 사전 구현된 에이전틱 앱 템플릿을 제공한다. IBM과 오라클, 세일즈포스, SAP, 서비스나우와 같은 전략적 파트너의 맞춤형 AI 에이전트를 제공하며, 분석 및 운영 데이터 통합 기능을 포함한 사전 정의된 이 템플릿을 활용하면 구매부터 결제(Source-to-Pay), 고객 서비스, 공급망 관리, 금융 및 생명과학 등 산업별 핵심 업무를 빠르게 혁신할 수 있다. 한국IBM 컨설팅 하이브리드 클라우드 및 데이터 서비스 담당 김종송 상무는 “단순한 생산성 개선 작업이나 기존 업무 프로세스에 AI를 적용하는 것만으로는 큰 비즈니스 효과를 기대하기 어렵다. 대부분의 기업이 많은 애플리케이션과 복잡한 레거시 IT 시스템을 갖추고 있어 필요한 데이터를 확보하기 어려우며, 이로 인해 품질이 낮거나 파편화된 데이터로 작업하는 경우가 많다. 따라서 단순한 AI 에이전트만으로는 한계가 있으며, 전체 업무 프로세스를 재조정하고 AI 어시스턴트, 에이전트, 데이터를 유기적으로 연계하는 포괄적 접근이 필요하다”며, “AI 인티그레이션 서비스는 IBM 컨설팅의 전문성과 경험이 집약된 설루션으로 기업이 AI를 활용해 실질적인 성과를 내고, 비즈니스 혁신과 투자수익(ROI) 극대화를 실현할 수 있도록 지원한다”고 말했다.

  엔비디아가 미국 새너제이에서 열린 GTC에서 AI 팩토리의 설계와 최적화를 지원하는 새로운 엔비디아 옴니버스 블루프린트(NVIDIA Omniverse Blueprint)를 공개했다고 밝혔다. 이제 AI가 하나의 주류로 자리 잡으며, AI 훈련과 추론 전용 인프라이자 인텔리전스 생산의 핵심인 AI 팩토리에 대한 수요가 그 어느 때보다 급증하고 있다. 이러한 AI 팩토리(AI 훈련과 추론을 전담하는 특수 목적 인프라)의 대부분은 기가와트급 규모로 건설될 예정이다. 이러한 규모의 AI 팩토리를 구축하는 것은 엄청난 엔지니어링과 물류 작업이 필요한 일이다. 1기가와트 규모의 AI 팩토리 건설에는 공급업체, 건축가, 시공업체, 엔지니어 등 수만 명의 인력이 필요하며, 약 50억 개의 부품과 21만 마일 이상의 광케이블을 제작, 배송, 조립해야 한다. 엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 현지 시간으로 3월 18일 진행된 GTC 기조연설에서 엔비디아의 데이터센터 엔지니어링 팀이 옴니버스 블루프린트에서 1기가와트급 AI 팩토리를 계획, 최적화, 시뮬레이션할 수 있는 애플리케이션을 어떻게 개발했는지 그 과정을 소개했다. 엔지니어링 팀은 케이던스 리얼리티 디지털 트윈 플랫폼(Cadence Reality Digital Twin Platform)과 ETAP와 같은 선도적인 시뮬레이션 툴에 연결해 인프라 건설이 시작되기 훨씬 전, 전력과 냉각 그리고 네트워킹을 테스트하고 최적화할 수 있다. 시뮬레이션 우선 접근 방식을 채택하는 엔지니어링 AI 팩토리 AI 팩토리 설계와 운영을 위한 엔비디아 옴니버스 블루프린트는 오픈USD(Universal Scene Description, OpenUSD) 라이브러리를 사용한다. 이를 통해 개발자는 건물 자체, 엔비디아 가속 컴퓨팅 시스템, 슈나이더 일렉트릭(Schneider Electric)이나 버티브(Vertiv)와 같은 공급업체의 전력 또는 냉각 장치 등 서로 다른 소스에서 3D 데이터를 수집할 수 있다. 이 블루프린트는 수십억 개의 AI 팩토리 구성 요소에 대한 설계와 시뮬레이션을 통합함으로써 엔지니어가 다음과 같은 복잡한 문제를 해결할 수 있도록 돕는다. l  구성 요소 통합과 공간 최적화 - 엔비디아 DGX SuperPOD, GB300 NVL72 시스템 그리고 50억 개의 구성 요소의 설계와 시뮬레이션을 통합한다. l  냉각 시스템 성능과 효율성 - 엔비디아 쿠다(CUDA)와 옴니버스 라이브러리로 가속화된 케이던스 리얼리티 디지털 트윈 플랫폼을 사용해 버티브와 슈나이더 일렉트릭의 하이브리드 공랭식 또는 수랭식 솔루션을 시뮬레이션하고 평가한다. l  전력 분배와 신뢰성 - ETAP로 확장 가능한 이중화 전력 시스템을 설계해 전력 블록의 효율성과 신뢰성을 시뮬레이션한다. l  네트워킹 토폴로지(Networking topology)와 논리 - 엔비디아 스펙트럼-X(Spectrum-X) 네트워킹과 엔비디아 에어(Air) 플랫폼으로 고대역폭 인프라를 미세 조정한다. 옴니버스로 엔지니어링 사일로 해소 AI 팩토리 건설에서 가장 큰 과제 중 하나는 전력, 냉각, 네트워킹 등 각 분야의 팀이 개별적으로 운영되면서 비효율성과 잠재적인 오류를 초래한다는 점이다. 옴니버스 블루프린트를 활용하면 엔지니어들은 다음과 같은 방식으로 협업할 수 있다. l  맥락을 공유하며 협업 - 여러 엔지니어링 분야가 실시간 시뮬레이션을 공유하며 병렬로 설계하고 조정할 수 있어, 한 영역의 변경이 다른 영역에 미치는 영향을 즉시 파악할 수 있다. l  에너지 사용 최적화 - 실시간 시뮬레이션 업데이트를 통해 AI 워크로드에 가장 효율적인 설계를 도출할 수 있다. l  오류 발생 지점 제거 – 배포 전에 이중화 구성을 검증함으로써 비용이 많이 드는 다운타임 위험을 최소화할 수 있다. l  실제 환경 모델링 - 다양한 AI 워크로드가 냉각 성능, 전력 안정성, 네트워크 혼잡도에 미치는 영향을 예측하고 테스트할 수 있다. 이 블루프린트는 실시간 시뮬레이션을 각 엔지니어링 분야와 통합함으로써 운영 비용 모델링과 전력 활용 최적화를 위한 다양한 구성 방안을 탐색할 수 있도록 한다. 실시간 시뮬레이션으로 빨라지는 의사 결정 젠슨 황 CEO의 시연에서 엔지니어들은 실시간으로 AI 팩토리 구성 요소를 조정하고 그 영향을 즉시 확인할 수 있었다. 예를 들어, 냉각 레이아웃을 조금만 조정해도 효율성이 크게 개선됐는데, 이는 기존 문서 기반 설계에서는 놓치기 쉬운 요소이다. 또한, 기존에는 몇 시간씩 소요되던 시뮬레이션 결과를 단 몇 초 만에 확인해 전략을 테스트하고 개선할 수 있었다. 최적의 설계가 확정된 후에는 공급업체와 건설 팀과의 원활한 소통을 도와 실제 건축물이 모델 그대로 정확한 시공이 이루어질 수 있도록 보장했다. 미래를 대비하는 AI 팩토리 AI 워크로드는 지속적으로 변화한다. AI 애플리케이션의 차세대 물결은 전력, 냉각, 네트워킹에 대한 수요를 더욱 증가시킬 것이다. AI 팩토리 설계와 운영을 위한 옴니버스 블루프린트는 이러한 변화에 대비할 수 있도록 다음과 같은 기능을 제공한다. l  워크로드 인식 시뮬레이션 - AI 워크로드의 변화가 데이터센터 규모에서 전력과 냉각에 어떤 영향을 미칠지 예측한다. l  장애 시나리오 테스트 - 전력망 장애, 냉각 누수, 전력 급등을 모델링해 시스템 회복력을 보장한다. l  확장 가능한 업그레이드 - AI 팩토리 확장을 계획하고, 몇 년 후의 인프라 요구 사항을 예측한다. 또한 개조와 업그레이드를 계획할 때 비용과 다운타임을 쉽게 테스트하고 시뮬레이션해 미래에 대비한 AI 팩토리를 구축할 수 있다. AI 팩토리 운영자에게 있어 앞서 나간다는 것은 단순히 효율성을 높이는 것만이 아니라, 하루에 수백만 달러의 비용이 발생할 수 있는 인프라 장애를 방지하는 것이기도 하다. 1기가와트 AI 팩토리의 경우, 매일 발생하는 다운타임으로 1억 달러 이상의 비용이 발생할 수 있는데, 이 블루프린트는 인프라 문제를 미리 해결함으로써 위험과 배포 시간을 모두 줄여준다. AI 팩토리 운영을 위한 에이전틱 AI로 가는 길 엔비디아는 AI 기반 운영으로 확장하기 위한 다음 단계의 블루프린트를 마련하기 위해 버테크(Vertech)와 파이드라(Phaidra)와 같은 주요 기업들과 협력하고 있다. 버테크는 엔비디아 데이터센터 엔지니어링 팀과 협력해 고급 AI 팩토리 제어 시스템을 개발하고 있다. 이 시스템은 IT와 운영 기술 데이터를 통합해 운영 안정성과 가시성을 향상시킨다. 파이드라는 엔비디아와 협력해 강화 학습 기반 AI 에이전트를 옴니버스에 통합하고 있다. 이러한 에이전트는 실시간 시나리오 시뮬레이션을 통해 열 안정성과 에너지 효율을 최적화한다. 그리고 하드웨어와 환경 변화에 맞춰 지속적으로 적응하는 디지털 트윈을 생성한다. AI 데이터센터의 폭발적 성장 AI는 전 세계 데이터센터 환경을 빠르게 재편하고 있다. AI 기반 데이터센터 업그레이드에 1조 달러가 투자될 것으로 예상되는 가운데, 디지털 트윈 기술은 더 이상 선택이 아닌 필수다. AI 팩토리 설계와 운영을 위한 엔비디아 옴니버스 블루프린트는 엔비디아와 파트너 에코시스템이 이러한 변화를 주도할 수 있도록 지원한다. 이를 통해 AI 팩토리 운영자는 끊임없이 진화하는 AI 워크로드에 앞서 나가고, 다운타임을 최소화하며, 효율성을 극대화할 수 있다. 관련 링크 디지털 트윈을 활용해 기가와트급 AI 팩토리 구축하기    

엔비디아가 GTC 2025에서 ‘엔비디아 RTX PRO 6000 블랙웰 서버 에디션(NVIDIA RTX PRO 6000 Blackwell Server Edition)’을 발표했다. RTX PRO 6000 블랙웰 서버 에디션은 비주얼 컴퓨팅과 엔터프라이즈 AI를 위해 구축된 첫 번째 블랙웰 기반 데이터센터 GPU이다. 이는 모든 산업에서 높은 성능을 요구하는 AI, 그래픽 애플리케이션을 신속하게 처리할 수 있도록 설계됐다. 이전 세대인 에이다 러브레이스(Ada Lovelace) 아키텍처 기반 L40S GPU에 비해 RTX PRO 6000 블랙웰 서버 에디션 GPU는 다양한 엔터프라이즈 워크로드에서 성능이 크게 향상된다. 예를 들어, 에이전틱 AI(Agentic AI) 애플리케이션을 위한 대규모 언어 모델(LLM) 추론 처리량은 최대 5배 증가되고, 유전체 염기서열 분석은 약 7배로 가속화되며, 텍스트-비디오 생성은 3.3배, 렌더링 속도는 2배 이상 빨라진다. RTX PRO 6000 블랙웰 서버 에디션은 워크스테이션과 서버 GPU로 이뤄진 엔비디아 RTX PRO 블랙웰 시리즈에 속한다. 이번 엔비디아 GTC에서 발표된 RTX PRO 라인업은 여러 산업의 AI와 창의적인 워크로드를 지원하는 데스크톱, 랩톱, 데이터센터 GPU로 구성된다. 여러 분야의 기업들은 RTX PRO 6000 블랙웰 서버 에디션을 통해 데이터 분석, 엔지니어링 시뮬레이션, 생성형 AI, 비주얼 컴퓨팅과 같은 워크로드에서 높은 성능을 구현할 수 있다. 여기에는 건축, 자동차, 클라우드 서비스, 금융 서비스, 게임 개발, 의료, 제조, 미디어, 엔터테인먼트, 소매업 등의 산업이 포함된다. 콘텐츠 제작, 반도체 제조, 유전체 분석 기업들은 이미 컴퓨팅 집약적인 AI 지원 워크플로를 가속화하기 위해 RTX PRO 6000 블랙웰 서버 에디션의 기능을 활용하고 있다.     RTX PRO 6000 블랙웰 서버 에디션은 데이터센터 환경에서 연중무휴 24시간 운영할 수 있게 설계된 수동 냉각 장치 형태로, 강력한 RTX AI와 그래픽 기능을 제공한다. 96GB의 초고속 GDDR7 메모리와 멀티 인스턴스 GPU(MIG)를 갖춘 RTX PRO 6000은 최대 4개의 완전히 격리된 인스턴스로 분할될 수 있다. 각 인스턴스는 24GB의 메모리를 사용할 수 있어, AI 워크로드와 그래픽 워크로드를 동시에 실행할 수 있다. RTX PRO 6000은 엔비디아 컨피덴셜 컴퓨팅(Confidential Computing)을 통해 안전한 AI를 구현하는 범용 GPU이다. 이는 강력한 하드웨어 기반 보안으로 AI 모델과 민감한 데이터를 무단 접근으로부터 보호한다. 이에 따라 물리적으로 격리된 신뢰할 수 있는 실행 환경을 제공해 데이터를 사용하는 동안 전체 워크로드를 보호한다. 또한, RTX PRO 6000은 엔터프라이즈급 배포에서 효과적으로 사용될 수 있도록 고밀도 가속 컴퓨팅 플랫폼으로 구성돼 분산 추론 워크로드를 수행할 수 있다. 더불어 엔비디아 vGPU 소프트웨어를 통해 가상 워크스테이션을 제공하며, AI 개발과 고도의 그래픽 애플리케이션을 구동하는 데 사용될 수 있다. RTX PRO 6000 GPU는 광범위한 AI 모델에 걸쳐 강력한 추론 성능을 제공하며, 복잡한 가상 환경의 사실적인 실시간 레이 트레이싱을 가속화한다. 여기에는 5세대 텐서 코어(Tensor Core), 4세대 RT 코어, DLSS 4, 통합된 미디어 파이프라인, FP4 정밀도를 지원하는 2세대 트랜스포머 엔진(Transformer Engine) 등 최신 블랙웰 하드웨어와 소프트웨어 혁신이 포함된다. 기업들은 RTX PRO 6000 블랙웰 서버 에디션 GPU에서 엔비디아 옴니버스(Omniverse)와 엔비디아 AI 엔터프라이즈(AI Enterprise) 플랫폼을 대규모로 실행할 수 있다. 이를 통해 이미지와 비디오 생성, LLM 추론, 추천 시스템, 컴퓨터 비전, 디지털 트윈, 로보틱스 시뮬레이션 등의 에이전틱 AI, 물리 AI 애플리케이션 개발과 배포를 더욱 원활하게 진행할 수 있다. 엔비디아는 RTX PRO 6000 블랙웰 서버 에디션을 탑재한 플랫폼이 5월부터 전 세계 파트너를 통해 출시될 예정이라고 소개했다. 클라우드 서비스 제공업체와 GPU 클라우드 제공업체 중에서는 아마존 웹 서비스(AWS), 구글 클라우드, 마이크로소프트 애저, IBM 클라우드, 코어위브, 크루소, 람다, 네비우스, 벌처가 최초로 RTX PRO 6000 블랙웰 서버 에디션을 탑재한 인스턴스를 제공할 계획이다. 시스코, 델 테크놀로지스, 휴렛팩커드 엔터프라이즈(HPE), 레노버, 슈퍼마이크로는 RTX PRO 6000 블랙웰 서버 에디션을 탑재한 서버를 제공할 예정이다. 이 외에도 어드밴텍, 애티나, 에이브레스, 애즈락랙, 에이수스, 컴팔, 폭스콘, 기가바이트, 인벤텍, MSI, 페가트론, 퀀타 클라우드 테크놀로지(QCT), 미텍 컴퓨팅, 네이션게이트, 위스트론, 위윈 등의 기업도 이 서버를 제공할 계획이다.