아마존웹서비스(AWS)는 메타가 AI 인프라 확장을 위해 AWS의 자체 설계 프로세서인 ‘그래비톤(AWS Graviton)’을 대규모로 도입한다고 밝혔다. 이번 계약을 통해 메타는 수천만 개의 그래비톤 코어를 우선 도입하며, 향후 AI 역량 성장 속도에 맞춰 규모를 유연하게 확대할 예정이다.

양사의 이번 협력은 AI 인프라 구축 방식의 변화를 보여준다. 대규모 모델 학습에는 GPU가 필수이지만 실시간 추론과 코드 생성, 다단계 작업 오케스트레이션 등 CPU 집약적인 워크로드의 수요가 급증하고 있기 때문이다. 메타는 이러한 에이전트 AI 워크로드를 효율적으로 처리하기 위해 그래비톤5를 선택했다.

그래비톤5는 192개의 코어를 탑재했으며 이전 세대보다 5배 넓은 캐시를 갖췄다. 이를 통해 코어 간 통신 지연을 최대 33% 단축하고 데이터 처리 속도를 높였다. 이는 스스로 계획을 세우고 복잡한 과제를 수행하는 자율 시스템인 에이전트 AI 시스템의 핵심 요건을 충족하는 성능이다.

또한 그래비톤은 전용 하드웨어 및 소프트웨어 기반의 AWS 니트로 시스템(AWS Nitro System) 위에 구축됐다. 니트로 시스템은 하드웨어에 직접 접근할 수 있는 베어메탈 인스턴스를 지원하면서도 메타가 성능 손실 없이 자체 가상 머신을 운영할 수 있는 환경을 제공한다. 인스턴스 간 저지연 통신을 지원하는 EFA 기술도 적용되어 대규모 작업을 다수의 프로세서에 분산 처리하는 데 유리하다.

에너지 효율 측면에서도 강점이 있다. 그래비톤5는 3나노미터 공정 기술로 제작되어 이전 세대보다 성능은 최대 25% 향상됐으면서도 높은 에너지 효율을 유지한다. AWS는 칩 설계부터 서버 아키텍처까지 전 과정을 자체적으로 관리하기 때문에 범용 프로세서보다 최적화된 성능을 제공할 수 있다고 강조했다.

아마존의 나페아 브샤라 부사장은 “이번 계약은 단순히 칩에 관한 것이 아니라 전 세계 사용자에게 상황을 이해하고 예측하며 효율적으로 확장되는 AI를 구축할 수 있는 인프라 기반을 제공하는 것”이라고 설명했다. 메타의 산토시 자나단 인프라 책임자는 “컴퓨팅 소스의 다변화는 전략적으로 필수적인 과제”라면서, “그래비톤 확장을 통해 에이전트 AI를 뒷받침하는 워크로드를 성능과 효율 면에서 우리 규모에 걸맞게 실행할 수 있게 됐다”고 말했다.