레노버 글로벌 테크놀로지 코리아(ISG)는 9월 11일 AI 전문기업 솔트룩스와 함께 ‘Lenovo Tech Day - Smarter HPC for All’ 세미나를 개최했다. 이번 행사에서는 레노버의 차세대 인프라스트럭처 전략과 솔트룩스의 대규모 언어 모델(LLM) 기반 AI 설루션인 루시아 GPT(Luxia GPT)가 소개되어, 고성능 AI 인프라 설루션을 통해 첨단 AI 기술이 효율적이고 안전하게 구현될 수 있음을 보여주었다.  AI에 기반한 혁신이 가속화되는 가운데, 초거대 AI와 이를 뒷받침하는 고성능 인프라의 중요성은 더욱 커지고 있다. 혁신적인 AI 설루션의 성능을 극대화하기 위해서는 고도화된 연산 능력과 안정적인 인프라 환경이 필수이기 때문이다. 레노버는 “AI와 HPC 워크로드에 최적화된 강력한 인프라를 제공함으로써, 솔트룩스와 같은 다양한 AI 기업의 첨단 설루션이 고객 환경에서 성공적으로 구현될 수 있도록 지원하고 있다”고 전했다. 솔트룩스는 AI 서비스 기업으로 AI 에이전트, AI 검색, 생성형 AI 챗봇까지, 기업을 위한 최첨단 AI 설루션을 제공하고 있다. 솔트룩스의 루시아 GPT는 고객 데이터를 학습해 도메인 특화형 생성형 AI 서비스를 제공하고, RAG(검색 증강 생성)와 지식 그래프를 연계해 근거에 기반한 정확한 답변을 제시할 수 있다. 또한 정교한 권한 관리 기능을 통해 고객의 내부 데이터 보안을 강화함으로써 기업 환경에서 안전하고 효율적인 AI 활용을 가능하게 한다.   이날 행사에서는 솔트룩스의 이경일 대표가 AI가 투자 분야에 가져온 혁신적 변화에 대해 발표했다. 이어서 레노버 이상욱 이사가 레노버의 AI 인프라 전략을 공유했고, 솔트룩스 이승민 본부장이 실질적인 AI 도입과 지원 방안에 대해 설명했다. 레노버 글로벌 테크놀로지 코리아(ISG) 윤석준 부사장은 “AI 서비스가 점차 고도화되면서 고성능 AI 인프라에 대한 관심도 증대되는 가운데, 이에 대한 최신 인사이트와 전략을 공유하고자 이번 행사를 준비했다”면서, “레노버의 고성능 AI 인프라와 솔트룩스의 첨단 AI 서비스를 결합해, 고객의 니즈에 최적화된 AI 설루션을 제공해나갈 것”이라고 말했다. 솔트룩스 이경일 대표는 "레노버와의 파트너십을 통해 도메인 특화 LLM ‘루시아’를 기본 탑재한 하드웨어 일체형 생성형 AI 어플라이언스 루시아 온(LUXIA-ON)의 전국 단위 유통망을 확보하고, 이를 바탕으로 지역별 고객사와 다양한 산업군으로 루시아 온의 시장 확산을 가속할 것”이라고 말했다.

시스코가 미국 보스턴에서 열린 스플렁크의 연례 행사 ‘닷컨프(.conf)’에서 머신 데이터의 가치를 AI로 활용할 수 있도록 지원하는 새 아키텍처인 시스코 데이터 패브릭(Cisco Data Fabric)을 발표했다. 시스코 데이터 패브릭은 스플렁크(Splunk) 플랫폼을 기반으로 한다. 대규모 머신 데이터를 처리하는 과정에서 비용과 복잡성을 줄이고, 데이터를 AI 애플리케이션에 활용할 수 있도록 설계됐다. 일례로 기업은 맞춤형 AI 모델 훈련, 에이전틱 워크플로 구동, 머신 데이터 및 비즈니스 데이터의 다중 스트림을 상호 연계해 인사이트를 도출하고 더 나은 의사결정을 내리는 데 활용할 수 있다. AI 시대를 위해 설계된 시스코 데이터 패브릭은 기업이 더 빠르게 혁신하고 보안을 강화하며 비즈니스 민첩성을 높일 수 있도록 지원한다. 기업 전반에 걸친 머신 데이터를 통합하고 활성화해, 비용과 복잡성을 줄이고, 분산 데이터 관리의 어려움을 극복할 수 있는 턴키(turnkey) 설루션을 제공한다. 시스코 데이터 패브릭은 데이터 스트림을 실행 가능한 인텔리전스로 전환해, 고객이 의사결정을 가속화하고 운영 리스크를 줄이며 혁신을 촉진하도록 지원한다. 이 프레임워크의 지능형 에지 데이터 관리 기능은 고도화된 데이터 필터링, 구조화 및 계층화를 가능하게 한다. 또한 페더레이션(federation, 연합) 기능을 통해 다양한 도메인 전반에서 인사이트를 연계해 실시간에 가까운 엔드 투 엔드(end-to-end) 운영 인텔리전스를 제공한다. AI 어시스턴트와 에이전트 기능으로 구동되는 차세대 경험 레이어는 기업이 문제 해결 속도를 획기적으로 향상시키고, 관리 부담을 줄이며, 팀은 더 빠른 의사결정을 내릴 수 있도록 지원한다. 시스코는 기업들이 시스코 데이터 패브릭을 통해 ▲대규모 머신 데이터 운영을 위한 통합형·지능형 데이터 파운데이션 및 도메인 간 실시간 검색 및 분석 ▲시계열 파운데이션 모델과 같은 독자적 데이터의 가치 활용 ▲시스코 AI 캔버스(Cisco AI Canvas)를 통한 사람과 AI 에이전트의 경험 통합 ▲데이터 수명주기의 모든 단계에 걸친 AI 네이티브 지원 등의 이점을 얻을 수 있다고 설명했다. 시스코 데이터 패브릭은 스플렁크 엔터프라이즈(Splunk Enterprise)와 스플렁크 클라우드 플랫폼(Splunk Cloud Platform) 기능을 기반으로 구축됐으며, 현재 사용 가능하다. 앞으로 데이터 관리, 데이터 페더레이션, AI 전반에 걸친 발전 사항이 반영될 예정이며, 추가 기능은 2026년까지 순차적으로 제공된다. 스플렁크 AI 툴킷은 현재 사용 가능하며, 새롭게 호스팅되는 모델은 2026년에 제공될 예정이다. 시스코의 지투 파텔(Jeetu Patel) 최고제품책임자(CPO) 겸 사장은 “전 세계 기업들은 막대한 가치를 지닌 머신 데이터를 보유하고 있지만, 머신 데이터를 AI에 활용하기에는 너무 복잡하고 번거로우며 많은 비용이 들었다”고 말했다. 이어 “센서 측정값과 공장 지표부터 결제 시스템 데이터 그리고 애플리케이션, 서버, 네트워크 등에서 발생하는 이벤트 업데이트에 이르기까지, 머신 데이터는 비즈니스 운영 방식을 주도한다”면서, “스플렁크는 클라우드 데이터 및 분석 분야에서 혁신을 가져왔다. 그리고 이제 시스코 데이터 패브릭은 기업이 자체 소유의 머신 데이터를 활용해 AI 모델을 구축할 수 있도록 지원함으로써 AI 분야에서도 동일한 혁신을 이룰 준비가 됐다”고 밝혔다. 시스코 자회사인 스플렁크의 카말 하티(Kamal Hathi) 수석 부사장 겸 총괄은 “스플렁크의 목표는 데이터를 행동으로 전환하는 여정을, 고객에게 가장 빠르고 안전하게 제공하는 것”이라며, “플랫폼 전반에 AI를 내재화하고 개방형 표준을 적용함으로써, 단순히 기업들이 정보를 더 빨리 분석하도록 지원하는 데 그치지 않고, 변화를 예측하고, 불필요한 복잡성 없이 혁신을 확장하며, 사용자 요구에 맞춰 더욱 탄력적이고 적응력 있으며 반응하는 디지털 서비스를 제공할 수 있도록 지원한다”고 말했다.

한국산업지능화협회는 전 산업 분야에서 산업AI(vertical AI)의 활용과 확산을 위한 ‘제1회 산업AI EXPO’가 9월 3일~5일 서울 코엑스 마곡에서 개최된다고 전했다. 산업별 특성을 반영한 도메인 특화형 AI 설루션의 필요성이 증대됨에 따라 산업AI는 단순한 도구를 넘어 전략적 파트너로 자리매김하며, AI를 중심으로 산업 자체의 경쟁 구조와 가치 창출 방식까지 근본적으로 재편하는 큰 흐름이 되고 있다. 한국산업지능화협회는 “이번 산업AI 엑스포는 단순 AI 설루션 홍보의 장이 아닌, 제조 등 산업 중심의 버티컬AI 기술과 활용사례를 선보이는 자리로 마련됐다”면서, “국내 주요 공급·수요기업, 스타트업이 대거 참여해 산업 인공지능 전환 흐름을 선도할 것”이라고 전망했다. 특히 산업 현장의 효율적인 AI 활용을 위한 핵심 프레임워크인 ‘산업AI 12대 태스크’를 중심으로 ▲시장 예측 ▲공급망 구매·물류 효율화 ▲연구개발 ▲공정 최적화 ▲자율제조 ▲설계·디자인 ▲예지보전·품질관리 ▲고객케어 ▲안전 ▲인력 교육·훈련 ▲보안 등 12개 분야별로 다양한 기업의 산업AI 활용 방안 및 도입 사례를 소개한다. 또한 조선, 반도체 등 수요기업은 AI 설루션 도입을 통해 혁신기업으로 발돋움한 경험을 공유하며, AI 소프트웨어뿐 아니라 로봇 등 AI 하드웨어 기업의 피지컬 AI(physical AI) 및 온디바이스 AI 최신 기술도 공개될 예정이다. 한국산업기술진흥원과 한국산업지능화협회는 ‘산업AI 규제특례 부스’를 마련해 기업들이 도입 과정에서 겪는 제도적 애로사항을 지원할 계획이다. 한편, 개막일인 9월 3일에는 ‘산업 디지털 전환 및 인공지능 활용 촉진 유공자 포상’이 열린다. 산업통상자원부는 산업 디지털 전환과 AI 활용 확산에 기여한 개인과 단체를 선정해 장관 표창 25점을 수여한다.  이번 행사에는 마이크로소프트(에스핀테크놀로지), 다쏘시스템(알텐코리아), HP코리아, 엔비디아(리더스시스템즈), 세일즈포스(DKBMC) 등 글로벌 AI 기업이 국내 협력사와 함께 참가한다. 이들은 제조, 설계, 고객관리 등 각 분야의 주요 AI 설루션을 한국 시장 맞춤형으로 선보일 예정이다.  전시회 뿐만 아니라 기업 비즈니스 및 네트워킹 지원을 위한 비즈니스 커넥트 프로그램도 진행된다. 9월 4일에 개최되는 산업AI 콘퍼런스는 제조업 등 산업계 AI 친화형 생태계를 조성하고 확산하기 위해 HD현대, LG CNS, 한국마이크로소프트, 다쏘시스템, 인터엑스, 원프레딕트 등 주요 리딩기업의 AI 도입 및 활용 우수사례 및 산업AI 비즈니스 모델이 공유될 예정이다. 같은 날, 산업에 사용되는 AI의 신뢰성과 안정성을 연구 및 논의하는 국내외 민관협력 네트워크인 산업AI 국제인증포럼도 진행된다. 여기서는 산업계 AI의 적절한 활용을 위한 신뢰성, 안전, 인증/표준 등의 인프라 구축 및 국제인증체계 마련을 논의하게 된다. 엑스포 기간 동안 진행되는 AI-Tech 세미나에서는 참가기업의 산업AI 신기술 및 제품 소개부터 기술사업화 우수사례까지 확인할 수 있다. 1:1 비즈매칭 프로그램도 함께 진행되며 공급-수요기업 간 파트너십 발굴, 기술 및 사업협력을 지원하고 실질적인 비즈니스 성과 창출을 도모한다. 또한 스타트업과 투자자간 산업AI 활용 경험을 공유하는 투자강연 및 토크콘서트를 개최하고 IR피칭, 멘토링을 통해 투자 네트워크 연계 기회를 제공한다. 엑스포를 총괄하고 있는 한국산업지능화협회 이길선 국장은 “제1회 산업AI EXPO는 단순한 기술 전시를 넘어, 국내외 기업들이 산업AI를 실제 현장에서 어떻게 활용하고 있는지를 보여주는 비즈니스 종합 플랫폼”이라며, “산업AI 활용 및 확산을 가속화해 우리 기업의 경쟁력을 높이고, 글로벌 협력의 기회를 넓히는 계기가 될 것”이라고 전했다.

세계는 지금 기술패권 시대다. 국가와 기업의 명운이 기술에 달려 있다고 해도 과언이 아니다. 인류 사회를 총체적으로 혁신하고 있는 디지털·그린·문명 대전환도 기술 혁신이 핵심이다. 한편으로 위협받고 있는 인류의 지속가능성을 확보하고 인류의 비전을 실현하기 위한 수단으로서, 다른 한편으로 국가의 명운을 좌우하는 패권의 핵심으로서 과학기술의 중요성이 국가 최우선 이슈로 자리 잡고 있다. AI를 비롯한 기술 트렌드를 따라잡지 못하면 기업 경영은 물론 국가 경영도 어렵다. 기술의 미래 트렌드를 제시하는 양대 기술 전시회인 매년 1월초 미국 라스베이거스 CES(소비자전자쇼)와 4월초 독일 하노버 산업박람회에 세계인의 관심이 쏠리는 이유다.    주영섭 / 서울대학교 공학전문대학원 특임교수 전 중소기업청장 하노버 산업박람회, 왜 우리에게 중요한가 미국 CES와 함께 우리나라가 특히 많은 관심을 가져야 할 세계적 기술 전시회가 매년 4월 독일의 북부 도시 하노버에서 열리는 산업박람회다. 세계 산업계의최신 기술과 트렌드를 선보이는 글로벌 산업 기술의 메카로 주목받고 있는 하노버 산업박람회가 우리에 중요한 이유는 대한민국 경제의 중추를 이루고 있는 주력 및 미래 산업의 기술 트렌드를 제시하는 핵심 전시회이기 때문이다. 우리 경제의 근간인 수출의 대부분을 반도체, 자동차, 철강·화학, 선박, 기계 등 제조업이주도하고 있기 때문에 산업 기술 트렌드를 보여주는 하노버 산업박람회는 우리나라에 특히 중요한 기술 전시회라 할 수 있다. 지대한 중요성에도 불구하고 미국CES 대비하여 국내 기업 및 정부의 관심이 상대적으로 낮은 것은 속히 개선해야할 점이다. 산업 AI 대전환, 지속가능성의 열쇠 올해로 78회를 맞은 하노버 산업박람회는 우리 산업의 전략적 방향에 많은 시사점을 제시하여 우리 기업은 물론 정부, 대학 및 연구기관의 많은 관심과 연구가 요구된다. 올해는 지난 3월 31일부터 4월 4일까지 5일간 60개 국가에서 약 4000개 전시업체, 150개 국가에서 12만 7천명의 관람객이 참가해 성황리에 개최되었다. 전시와 컨퍼런스 프로그램에 온라인으로 참가한 관람객을 합치면 수십만에 이를 것으로 추산된다.  하노버 산업박람회는 올해 슬로건으로 “기술로 미래를 만들자”를 내세웠다. 그리고 지난 해 슬로건 “지속가능한 산업에 활력을 불어넣자”에서 강조한 지속가능성을 확보하기 위한 수단으로 기술 혁신을 강조했다. 그 중에서도 올해 최고 화두는 단연 산업 AI 대전환이었다. 사실상 모든 전시업체가 제시한 제품이나 솔루션에 AI를 활용하지 않은 사례가 없을 만큼 이제 산업 AI 대전환은 기본이 되고 있다. 작년부터 CES와 하노버 산업박람회가 공히 제시하기 시작한 ‘디지털 및 AI 대전환을 통한 인류의 지속가능성 확보’가 새로운 패러다임이자 시대정신으로 자리매김하고 있다. 심각한 위험에 처한 환경·사회 및 인류의 지속가능성 확보와 같은 난제 해결과 인류 비전 실현을 위해서는 AI 활용 및 대전환을 통한 인류의 지적·신체적 역량의 확장이 필수적이라는 의미다.  올해 하노버 산업박람회는 산업 AI 대전환에 의한 에너지 효율화, 탄소배출 감축, 자원 최적화를 통해 환경의 지속가능성에 크게 기여하고, 산업의 효율성 및 생산성 향상과 새로운 비즈니스 모델 창출, 산업 인력의 교육 및 지식 관리로 경제적 및 사회적 지속가능성에 획기적 기여를 할 수 있는 많은 가능성을 제시했다.  이러한 맥락에서 하노버 산업박람회가 우리 산업에 던진 가장 중요한 교훈은 무엇보다도 산업 AI 대전환에 민관 협력의 국가적 총력을 경주해야 한다는 것이다. 한 시도 지체할 수 없이 시급한 국가 최우선 과제다. 이를 위해서는 산업 AI 대전환을 위한 미국과 유럽의 불꽃 튀는 경쟁과 협력 구도를 잘 이해하고 대비해야 한다. 세계 AI 및 클라우드 분야를 선도하는 마이크로소프트, 아마존(AWS), 구글 등 미국의 빅테크 기업과 지멘스, SAP, 슈나이더 일렉트릭, 보쉬 등 유럽의 제조 솔루션 기업 간에 피나는 경쟁을 하는 동시에 서로 협력하는 이중적 관계를 가지고 있다. 액센추어, EY, 딜로이트, KPMG 등 세계적 컨설팅 기업들도 AI 역량을 바탕으로 이 경쟁구도에 뛰어들고 있다.  산업 AI 주도권 경쟁과 글로벌 전략 산업 AI 대전환 분야에서 이처럼 독보적 기업이 나타나지 않고 군웅할거의 전국시대가 전개되는 이유는어느 누구도 산업 AI 대전환의 핵심 성공 요인인 AI 역량과 데이터 및 도메인 노하우를 다 가지고 있지 못하기 때문이다.  미국은 세계 최고의 AI 및 클라우드 역량을 가지고 있는 반면에 제조업 등 산업 현장의 해외 이전 심화로 산업 데이터 및 도메인 노하우는 열세를 면치 못하고 있다. 독일이 주도하는 유럽은 상황이 정반대다. 산업 데이터 및 도메인 노하우는 강세를 보이고 있는 반면 AI 및 클라우드 역량은 열세다. 비유하자면 미국은 짜장면 그릇은 잘 만드는데 담을 짜장면이 시원치 않고 유럽은 그 반대인 셈이다. 이번 박람회에서 미국과 유럽의 세계적 기업들이 서로 약속이나 한 듯 하나같이 타 기업들과의 협력 및 연합을 통한 공동 전시에 나선 배경으로 분석된다.  미국 빅테크 기업들은 미국 및 유럽의 대·중소 솔루션 기업들과 함께, 유럽의 메이저 기업들도 미국의 빅테크 기업 및 미국·유럽의 소프트웨어·컨설팅 기업과 함께 전시장을 꾸미고 운영하는 협력 사례가 대종을 이루었다. 미국의 마이크로소프트가 영국의 항공기 엔진 기업 롤스로이스와 협력하여 개발한 AI 기반의 항공기 엔진 검사 솔루션을 제시한 것이 좋은 사례다. 마이크로소프트 전시장에 AI 검사 솔루션을 장착한 롤스로이스 항공기 엔진을 최초로 공개해 참관객의 눈길을 사로잡았다. 내시경 형태의 LED 조명의 검사 시스템과 AI 기반 실시간 영상 분석을 통한 솔루션 개발로 엔진 검사 시간을 기존 12시간에서 5~6시간으로 대폭 단축하여 엔진 가동시간 확대와 수익성 제고에 기여하고 있다. 아울러 롤스로이스는 항공기 엔진 가격이 아니라 항공기 운행시간에 따라 엔진 사용 요금을 청구하는 서비스형 제품(PaaS)을 신규 비즈니스 모델로 추진하여 사업 확대에도 기여하고 있다.  현재로서는 이렇듯 시너지가 큰 협력에 주력하지만 서로의 속내는 오월동주처럼 달라 향후 귀추가 주목된다. 내재적 성장만이 아니라 M&A(인수·합병)를 통한 주도권 쟁탈전이 커질 것으로 전망된다.  올해 박람회 직전 발표된 대로 유럽의 메이저 제조 솔루션 기업인 지멘스가 미국의 디지털 트윈 기반 시뮬레이션 및 데이터 분석 기업인 알테어를 무려 15조원에 인수한 것이 좋은 사례다. 알테어는 이번 박람회에서 통상 20~30시간 걸리던 자동차 공조시스템 시뮬레이션을 20분으로줄이고 판금 성형 작업의 재료 손실을 15% 이상 줄이는획기적 기술을 제시해 주목을 받았다. 대한민국의 전략 : 경쟁과 협력의 균형 하노버 산업박람회가 보여준 협력과 경쟁 사례는 글로벌 협력이 상대적으로 약한 우리 기업 생태계가 잘 유념하여 참고해야 할 대목이다. 우리의 기회이기도 하다. 산업 AI 대전환의 핵심 성공요소 중 하나인 AI 및 클라우드 역량은 미국보다는 열세이나 유럽 대비 강세로 볼 수 있어 민관이 합심하여 네이버, LG 등 국내 기업의 AI 역량 강화에 주력하는 한편 미국의 빅테크 기업과의 전략적 제휴 및 협력을 모색하면 훌륭한 시너지를 기대할 수 있다.  다른 성공요소인 산업 데이터 및 도메인 노하우에서 미국 대비 강점을 가지고 있기 때문이다. 이 점에서 우리와 유사한 상황에 있는 유럽과는 AI 및 클라우드 역량을 공동 개발하고 산업 데이터 및 도메인 노하우 측면에서 시장 지배력을 확보할 수 있는 데이터 표준화 및 생태계 구축의 협력에 적극 나서야 한다.  특히, 독일이 제조 데이터 생태계 구축을 통한 디지털 주권 및 세계 산업 주도권 확보를 위해 강력히 추진하고 있는 매뉴팩처링-X 프로젝트에 적극 참여하여 협력할 필요가 있다. 자동차 산업의 Catena-X, 화학 산업의 Chem-X, 항공 산업의 Aerospace-X 등 추진 중인 10여개의 산업 특화 데이터 생태계 구축 프로젝트에 대한 개별 또는 전체 참여 및 협력이 대상이다.  우리가 AI 대전환의 핵심인 산업 데이터와 도메인 노하우의 구조화 및 표준화를 국내외로 주도할 수 있으면 산업 AI 대전환 최강국이 될 수 있다는 점도 올해 하노버 산업박람회가 남긴 중요한 교훈이다. AI는 늦었지만 AI 대전환은 앞서 가자!    

아마존웹서비스(AWS)는 추론 모델과 에이전틱 AI 시스템(Agentic AI systems) 등 새로운 생성형 AI 발전을 가속화하기 위해, 엔비디아 그레이스 블랙웰 슈퍼칩(NVIDIA Grace Blackwell Superchips)으로 구동되는 P6e-GB200 울트라서버(P6e-GB200 UltraServers)를 출시했다고 밝혔다. P6e-GB200 울트라서버는 크고 정교한 AI 모델의 훈련과 배포를 위해 설계되었다. AWS는 올해 초, 다양한 AI 및 고성능 컴퓨팅(HPC) 워크로드를 위해 엔비디아 블랙웰 GPU로 구동되는 P6-B200 인스턴스(P6-B200 Instances)를 출시한 바 있다. P6e-GB200 울트라서버는 현재 AWS가 제공하는 가장 강력한 GPU 제품으로, 최대 72개의 엔비디아 블랙웰 GPU를 탑재하고, 5세대 엔비디아 NV링크(NVIDIA NVLink)를 통해 상호 연결된 단일 컴퓨팅 유닛으로 작동한다. 각 울트라서버는 360페타플롭스(petaflops)의 FP8 고밀도 컴퓨팅과 13.4테라바이트(TB)의 총 고대역폭 GPU 메모리(HBM3e)를 제공한다. 이는 P5en 인스턴스와 비교하여 단일 NV링크 도메인에서 20배 이상의 컴퓨팅 성능과 11배 이상의 메모리를 제공한다. P6e-GB200 울트라서버는 4세대 일래스틱 패브릭 어댑터(Elastic Fabric Adapter : EFAv4) 네트워킹으로 최대 초당 28.8테라비트(Tbps)의 통합 대역폭을 지원한다. P6-B200 인스턴스는 다양한 AI 활용 사례에 유연하게 대응할 수 있는 옵션이다. 각 인스턴스는 NV링크로 상호 연결된 8개의 엔비디아 블랙웰 GPU와 1.4TB의 고대역폭 GPU 메모리, 최대 3.2Tbps의 EFAv4 네트워킹, 5세대 인텔 제온 스케일러블 프로세서(Intel Xeon Scalable processors)를 제공한다. 또한, P6-B200 인스턴스는 P5en 인스턴스와 비교하여 최대 2.25배 향상된 GPU 테라플롭스(TFLOPs) 연산 성능, 1.27배의 GPU 메모리 크기, 1.6배의 GPU 메모리 대역폭을 제공한다. AWS는 사용자의 구체적인 워크로드 요구사항과 아키텍처 요구사항에 따라 P6e-GB200과 P6-B200를 선택해야 한다고 전했다. P6e-GB200 울트라서버는 조 단위 매개변수(trillion-parameter) 규모의 프론티어 모델 훈련 및 배포와 같은 컴퓨팅 및 메모리 집약적인 AI 워크로드에 적합하다. 엔비디아 GB200 NVL72 아키텍처는 이러한 규모에서 성능을 발휘한다. 72개의 GPU가 통합된 메모리 공간과 조정된 워크로드 분산을 통해 단일 시스템으로 작동할 때, 이 아키텍처는 GPU 노드 간 통신 오버헤드를 줄여 더 효율적인 분산 훈련을 가능하게 한다.  추론 워크로드의 경우, 1조 개 파라미터 모델을 단일 NV링크 도메인 내에 완전히 포함할 수 있어 대규모 환경에서도 더 빠르고 일관된 응답 시간을 제공한다. P6-B200 인스턴스는 광범위한 AI 워크로드를 지원하며 중대형 규모의 훈련 및 추론 워크로드에 적합하다. 기존 GPU 워크로드를 이식하려는 경우, P6-B200 인스턴스는 코드 변경을 최소화하고 현재 세대 인스턴스로부터의 마이그레이션을 간소화하는 친숙한 8-GPU 구성을 제공한다. 또한 엔비디아의 AI 소프트웨어 스택이 Arm과 x86 모두에 최적화되어 있지만, 워크로드가 x86 환경에 특별히 구축된 경우 인텔 제온 프로세서를 사용하는 P6-B200 인스턴스가 효과적인 선택이 될 것이다. 한편, AWS는 3세대 EC2 울트라클러스터(EC2 UltraClusters)에 P6e-GB200 울트라서버를 배포하여, 가장 큰 데이터센터들을 포괄할 수 있는 단일 패브릭을 구현했다고 전했다. 3세대 울트라클러스터는 전력 소모를 최대 40% 줄이고 케이블링 요구사항을 80% 이상 줄여 효율성을 높이는 동시에, 장애 가능성을 유발하는 요소를 감소시킨다. 이러한 대규모 환경에서 일관된 성능을 제공하기 위해, AWS는 SRD(Scalable Reliable Datagram) 프로토콜을 사용하는 EFA(Elastic Fabric Adapter)를 활용한다. 여러 네트워크 경로를 지능적으로 활용해 트래픽을 분산시켜, 혼잡이나 장애 상황에서도 원활한 운영을 유지한다. AWS는 4세대에 걸쳐 EFA의 성능을 지속적으로 개선해 왔다. EFAv4를 사용하는 P6e-GB200과 P6-B200 인스턴스는 EFAv3을 사용하는 P5en 인스턴스와 비교하여 분산 훈련에서 최대 18% 더 빠른 집합 통신 성능을 보여준다. P6-B200 인스턴스는 검증된 공기 냉각 인프라를 사용하는 반면, P6e-GB200 울트라서버는 액체 냉각 방식을 사용하여 대규모 NV링크 도메인 아키텍처에서 더 높은 컴퓨팅 밀도를 가능하게 하고 더 높은 시스템 성능을 제공한다. P6e-GB200은 새로운 기계식 냉각 솔루션을 적용한 액체 냉각 방식으로 설계되었다. 이 시스템은 신규 및 기존 데이터 센터 모두에서 칩 수준까지 냉각이 가능한 유연한 액체-칩(liquid-to-chip) 냉각 방식을 제공한다. 이를 통해 하나의 시설 내에서 액체 냉각 방식의 가속기와 공랭 방식의 네트워크 및 스토리지 인프라를 함께 운영할 수 있다. 이러한 유연한 냉각 설계를 통해 AWS는 낮은 비용으로 높은 성능과 효율을 제공할 수 있다. AWS는 “아마존 세이지메이커 하이퍼팟(Amazon SageMaker HyperPod), 아마존 EKS(Amazon EKS), AWS에 탑재된 엔비디아 DGX 클라우드 등 여러 배포 경로를 통해 P6e-GB200 울트라서버와 P6-B200 인스턴스를 간편하게 시작할 수 있도록 했으며, 조직에 가장 적합한 운영 모델을 유지하면서 블랙웰 GPU 사용을 신속하게 시작할 수 있다”고 밝혔다.