브로드컴은 기업이 데이터가 보관된 위치에서 인공지능(AI)을 구축하고 운영할 수 있도록 지원하는 ‘VM웨어 프라이빗 AI 클라우드(VMware Private AI Cloud)’를 공개했다.

이번에 선보인 VM웨어 프라이빗 AI 클라우드는 데이터를 외부 모델로 이동하는 대신 모델이 기업 내부 데이터를 찾아가는 방식을 취한다. 브로드컴의 소프트웨어 기술을 기반으로 개발되었으며, 기업은 단일 프라이빗 클라우드 환경에서 추론 워크로드와 에이전틱 AI 애플리케이션, 기존 엔터프라이즈 업무를 통합해 운영할 수 있다.

VM웨어 프라이빗 AI 클라우드는 하드웨어 투자 비용, 운영 복잡성, 토큰 경제성 개선에 초점을 맞췄다. 기반 인프라인 VM웨어 클라우드 파운데이션(VCF) 9는 메모리 계층화와 스토리지 중복 제거 기술로 하드웨어 비용을 낮춘다. 여러 제조사의 GPU와 CPU, 가속기를 폭넓게 지원해 이기종 클러스터 운영도 돕는다.

인프라 자동화 도구인 ‘VM웨어 AI 팩토리(VMware AI Factory)’는 배포 및 유지 관리 과정을 간소화한다. 기업은 VCF 환경에서 150여 개 이상의 오픈소스 및 상용 모델을 온프레미스 형태로 활용하며 서비스형 모델(MaaS) 체계를 구축할 수 있다.

보안 체계도 한층 강화되었다. 시스템은 NIST CSF 2.0 기준에 맞춘 심층 방어 체계를 갖추었으며, VM웨어 v디펜드(VMware vDefend)를 통해 승인되지 않은 섀도 AI(shadow AI)를 탐지하고 가상 패치로 위협에 대응한다. 아비 로드 밸런서(Avi Load Balancer)는 에이전트의 비정상 행위를 탐지하고 데이터 유출을 방지하는 역할을 맡는다. 오픈소스 공급망 보안을 위해 ‘트루소스(TrueSource)’ 기반의 안전한 검증 체계도 함께 제공한다.

자율형 AI 에이전트의 통제와 관리를 위한 기능도 추가되었다. 새롭게 공개된 거버넌스 설루션 ‘에이전트마인더(AgentMinder)’는 AI 에이전트에 디지털 식별자(ID)를 부여하고, 최소 권한 원칙에 따라 도구 호출과 리소스 접근을 제한한다. 탄주(Tanzu) 플랫폼의 신규 데이터 기능은 사내 정형 및 비정형 데이터를 AI 에이전트가 이해하기 쉬운 형태로 가공해 기업 외부로의 데이터 반출 없이 안전하게 활용할 수 있도록 돕는다.

브로드컴의 람 벨라가 인프라 소프트웨어 그룹 사장은 “VM웨어 프라이빗 AI 클라우드는 엔터프라이즈 프라이빗 클라우드와 프라이빗 AI 인프라를 하나로 통합해 운영하는 변곡점”이라며, “기업은 데이터 주권과 규제 준수, 비용 예측성을 유지하면서 실제 서비스 환경에서 추론 워크로드와 에이전틱 AI를 안정적으로 실행할 수 있다”고 설명했다.