아마존웹서비스(AWS)는 딥시크-R1(DeepSeek-R1) 모델을 아마존 베드록(Amazon Bedrock)과 아마존 세이지메이커 AI(Amazon SageMaker AI)에서 제공한다고 발표했다. AWS는 이를 통해 기업이 최신 생성형 AI 모델을 보다 효과적으로 활용할 수 있으며, 비용 절감과 성능 향상을 동시에 누릴 수 있다고 밝혔다. 딥시크(DeepSeek)는 2023년에 중국 항저우에서 설립된 인공지능(AI) 스타트업으로, AI 모델 개발 비용을 기존보다 크게 낮춘 것으로 평가되면서 최근 주목을 받고 있다. 이 회사는 2024년 12월 6710억 개의 파라미터를 가진 딥시크-V3를 출시한 이후, 2025년 1월 20일 딥시크-R1, 딥시크-R1-제로, 딥시크-R1-디스틸 모델을 공개했다. 또한, 1월 27일에는 비전 기반 야누스-프로 7B(Janus-Pro 7B) 모델을 추가했다. 딥시크에 따르면, 메모리 사용량을 줄이고 속도를 높인 이들 모델은 기존 AI 모델 대비 90~95%의 비용을 절감해 비용 효율을 제공하며, 강화 학습 기법을 적용해 높은 추론 능력을 갖췄다. AWS는 고객들이 딥시크-R1 모델을 다양한 방식으로 활용할 수 있도록 지원한다는 계획이다. 아마존 베드록에서는 API를 통해 사전 학습된 모델을 쉽게 통합할 수 있으며, 아마존 세이지메이커 AI를 통해 맞춤형 학습과 배포가 가능하다. 또한, AWS 트레이니움(AWS Trainium)과 AWS 인퍼런시아(AWS Inferentia)를 활용하면 딥시크-R1-디스틸 모델을 더욱 경제적으로 운영할 수 있다. AWS는 보안성과 확장성을 강화하기 위해 아마존 베드록 가드레일(Amazon Bedrock Guardrails)을 활용할 것을 권장하며, 이를 통해 생성형 AI 애플리케이션의 입력 및 출력 데이터를 모니터링하고 유해 콘텐츠를 필터링할 수 있다. 딥시크-R1 모델은 현재 AWS에서 네 가지 방식으로 배포할 수 있다. 아마존 베드록 마켓플레이스(Amazon Bedrock Marketplace)에서는 모델 카탈로그에서 딥시크-R1을 검색하여 손쉽게 배포할 수 있으며, 아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)를 통해 머신러닝 허브에서 클릭 한 번으로 배포 및 활용이 가능하다. 또한, 아마존 베드록 커스텀 모델 임포트를 활용하면 딥시크-R1-디스틸 모델을 맞춤형 모델로 가져와 활용할 수 있으며, AWS EC2 Trn1 인스턴스(AWS EC2 Trn1 Instance)를 사용하면 딥시크-R1-디스틸 모델을 AWS 트레이니움 및 AWS 인퍼런시아 기반 인프라에서 최적의 성능과 비용 효율성을 제공하며 실행할 수 있다. AWS는 “딥시크-R1 모델을 통해 고객들이 AI 기술을 더욱 효과적으로 활용하고, 안전하고 책임감 있는 AI 환경을 조성할 수 있도록 적극 지원할 예정”이라고 전했다.

아마존웹서비스(AWS)는 ‘AWS 리인벤트’ 행사에서 AWS 트레이니움2(AWS Trainium2) 칩 기반의 아마존 EC2(Amazon EC2) 인스턴스를 공식 출시했다고 발표했다. 또한, AWS는 대규모 언어 모델(LLM) 및 파운데이션 모델(FM)의 학습과 추론을 지원하는 트레이니움2 울트라서버(Trn2 UltraServers)와 차세대 트레이니움3(Trainium3) 칩도 함께 공개했다. Trn2 인스턴스는 16개의 트레이니움2 칩을 탑재하여 최대 20.8 페타플롭스(PF)의 연산 성능을 제공한다. 이는 수십억 개의 매개변수를 가진 LLM의 학습 및 배포에 적합하다. Trn2 인스턴스는 동일한 비용으로 기존 GPU 기반 EC2 P5e 및 P5en 인스턴스 대비 30~40% 더 나은 가격 대비 성능을 제공하며, 메모리 대역폭도 개선되어 비용 효율성이 높다는 것이 AWS의 설명이다. Trn2 울트라서버는 새로운 EC2 제품군으로, 초고속 뉴런링크(NeuronLink) 기술을 사용해 64개의 트레이니움2 칩을 연결하여 최대 83.2 피크 페타플롭스의 연산 성능을 제공한다. 이는 단일 Trn2 인스턴스 대비 연산, 메모리, 네트워킹 성능을 각각 4배로 확장해 대규모의 모델 학습과 배포를 가능하게 한다. Trn2 인스턴스는 현재 미국 동부(오하이오) AWS 리전에서 사용 가능하며, 추가 리전에서도 곧 제공될 예정이다. Trn2 울트라서버는 현재 프리뷰 상태로 제공되고 있다. 한편, AWS는 앤스로픽(Anthropic)과 협력해 수십만 개의 트레이니움2 칩을 포함하는 EC2 울트라클러스터(UltraClusters)를 구축하고 있다고 밝혔다. 이 프로젝트는 ‘프로젝트 레이니어(Project Rainier)’로 명명되었으며, 현재 세대의 최첨단 AI 모델 훈련에 사용된 엑사플롭스의 5배 이상의 성능을 갖출 것으로 기대된다. 이외에도 AWS는 차세대 AI 학습 칩인 트레이니움3를 공개했다. 트레이니움3는 트레이니움2 대비 최대 2배 성능과 40% 개선된 에너지 효율성을 제공하며, 이를 통해 고객은 더 큰 모델을 더 빠르게 구축하고 실시간 성능을 극대화할 수 있다. AWS의 데이비드 브라운(David Brown) 컴퓨팅 및 네트워킹 부문 부사장은 “트레이니움2는 AWS가 개발한 칩 중 가장 강력한 성능을 자랑하며, 대규모 및 최첨단 생성형 AI 워크로드를 지원하기 위해 설계되었다. 이 칩은 학습과 추론 모두에서 최고의 가격 대비 성능을 제공한다”면서, “매개변수가 수조 개에 달하는 모델이 등장하면서, 고객들에게 대규모 모델을 효율적으로 학습하고 운영할 수 있는 새로운 접근 방식이 필요해졌다. Trn2 울트라서버는 AWS에서 가장 빠른 학습 및 추론 성능을 제공하며, 모든 규모의 조직이 세계 최대 모델을 더 빠르고 비용 효율적으로 학습하고 배포할 수 있도록 돕는다”고 전했다.

아마존웹서비스(AWS)와 오라클은 고객이 전용 인프라 상의 오라클 자율운영 데이터베이스(Oracle Autonomous Database)와 오라클 엑사데이터 데이터베이스 서비스(Oracle Exadata Database Service)를 AWS 내에서 사용할 수 있게 하는 신규 오퍼링인 ‘오라클 데이터베이스@AWS(Oracle Database@AWS)’를 출시했다고 발표했다. 오라클 데이터베이스@AWS는 고객에게 오라클 클라우드 인프라스트럭처(OCI)와 AWS 간의 통합된 경험을 제공해 데이터베이스 관리와 과금, 통합 고객 지원 등을 간소화할 수 있도록 지원한다. 또한, 고객은 오라클 데이터베이스(Oracle Database)에 있는 엔터프라이즈 데이터를 아마존 엘라스틱 컴퓨트 클라우드(Amazon EC2), AWS 애널리틱스(AWS Analytics) 서비스 또는 아마존 베드록(Amazon Bedrock)을 포함한 AWS의 인공지능(AI) 및 머신러닝(ML) 서비스에서 실행되는 애플리케이션에 원활하게 연결할 수 있게 된다. 오라클 데이터베이스@AWS는 전용 인프라의 오라클 자율운영 데이터베이스와 오라클 RAC(Oracle Real Application Clusters)에서 실행되는 워크로드 등 AWS 상의 오라클 엑사데이터 데이터베이스 서비스에 대한 직접 액세스를 포함해, 고객이 모든 엔터프라이즈 데이터를 통합하여 혁신을 추진할 수 있도록 지원한다. 이 새로운 오퍼링은 오라클 데이터베이스와 AWS 상의 애플리케이션 간에 저지연 네트워크 연결을 제공한다. 이를 통해 고객은 완전히 자동화된 관리형 오라클 데이터베이스 서비스인 오라클 자율운영 데이터베이스와 오라클 엑사데이터 데이터베이스 서비스의 성능과 가용성, 보안, 비용효율성을 활용하는 동시에 AWS가 제공하는 보안, 민첩성, 유연성, 지속가능성 등을 확보할 수 있다. 오라클의 래리 엘리슨 회장 겸 CTO는 “멀티 클라우드에 대한 수요가 크게 증가하고 있는 가운데, 아마존과 오라클은 이러한 수요를 충족하고 고객에게 선택권과 유연성을 제공하기 위해 AWS 서비스와 오라클 자율운영 데이터베이스를 비롯한 최신 오라클 데이터베이스 기술을 원활하게 연결하고 있다. AWS 데이터센터 내부에 구축된 OCI를 통해 고객에게 최상의 데이터베이스와 네트워크 성능을 제공할 수 있다”고 말했다. AWS의 맷 가먼 CEO는 “고객들은 2008년부터 클라우드에서 오라클 워크로드를 실행할 수 있었고, 그 이후로 많은 보안에 민감한 거대한 조직들이 AWS에 오라클 소프트웨어를 배포하기로 선택했다. 새롭고 심도 깊은 이번 파트너십을 통해 AWS 내에서 오라클 데이터베이스 서비스를 제공하게 됨으로써 고객들은 세계에서 가장 널리 채택된 클라우드의 유연성과 안정성, 확장성을 그들이 사용 중인 엔터프라이즈 소프트웨어와 함께 활용할 수 있게 될 것”이라고 말했다. 오라클 데이터베이스@AWS는 고객이 클라우드로의 이전을 지속적으로 가속화하고 IT 환경을 현대화할 수 있도록 지원한다. 고객은 파이프라인을 구축할 필요 없이 오라클 데이터베이스 서비스와 AWS에서 실행 중인 애플리케이션 간의 데이터를 원활하고 안전하게 연결하고 분석하여 더 빠르고 심층적인 인사이트를 얻을 수 있다. 오라클 제로 다운타임 마이그레이션(Oracle Zero Downtime Migration)과 같은 마이그레이션 도구와의 호환성을 포함해, 클라우드로의 오라클 데이터베이스 마이그레이션을 간소화하고 가속화할 수 있는 유연한 옵션을 제공한다. 그리고, AWS 마켓플레이스를 통해 기존 AWS 약정으로 오라클 데이터베이스 서비스를 구매할 수 있는 간소화된 구매 경험과 기존 오라클 라이선스가 제공하는 BYOL(Bring Your Own License) 및 오라클 서포트 리워드(Oracle Support Rewards) 등 할인 프로그램 혜택을 활용할 수 있다. 고객은 AWS 매니지먼트 콘솔(AWS Management Console)이나 CLI(Command Line Interface), AWS 클라우드포메이션(AWS CloudFormation)과 같은 툴을 사용해 오라클 데이터베이스@AWS 환경을 쉽게 시작할 수 있다. 또한, AWS의 다중 가용 영역(AZ) 아키텍처를 활용해 여러 독립적인 위치에 걸쳐 애플리케이션을 설계할 수 있어 더 높은 수준의 가용성을 갖춘 워크로드를 구축하고 실행할 수 있다. 오라클 데이터베이스@AWS는 올해 말 프리뷰 버전으로 제공되며, 2025년에는 고객의 요구를 충족하기 위해 새로운 리전으로 확장되어 더 폭넓은 가용성을 제공할 예정이다. 기업 조직에서는 새로운 오라클 데이터베이스@AWS 기능을 통해 기존 기술을 활용하고 오라클 자율운영 데이터베이스 및 오라클 엑사데이터 데이터베이스 서비스를 AWS에서 배포, 관리, 사용하기 위한 완전히 통합된 경험을 즉시 시작할 수 있다. AWS와 오라클은 오라클 데이터베이스@AWS를 공동으로 출시하여 금융 서비스, 헬스케어, 제조, 소매, 통신, 유틸리티 등 다양한 산업 분야의 전 세계 조직들에 혜택을 제공할 예정이다.

아마존웹서비스(AWS)가 IT 워크로드를 온프레미스 인프라에서 AWS 클라우드 데이터센터로 이전하면 인공지능(AI) 활용에 따른 환경적 영향을 효과적으로 최소화할 수 있다는 새로운 연구 결과를 발표했다. AWS의 의뢰로 글로벌 IT 컨설팅 기업 엑센츄어(Accenture)에서 진행한 연구에 따르면, AWS의 글로벌 인프라에서 워크로드를 실행했을 때 온프레미스 대비 에너지 효율이 최대 4.1배 더 높은 것으로 나타났다. 특히 한국 기업들이 AWS상에서 AI 워크로드를 최적화할 경우 온프레미스 대비 탄소 배출을 최대 95%까지 줄일 수 있는 것으로 나타났다. 연구에 따르면 국내에서 컴퓨팅 부하가 높은 AI 워크로드를 AWS 데이터센터에서 실행할 경우, 에너지 효율이 더 높은 하드웨어 사용(22%)과 향상된 전력 및 냉각 시스템(50%)을 통해 온프레미스 대비 탄소 배출량을 72%까지 줄일 수 있다. 추가로 AWS에서 최적화하고 AI 전용 실리콘을 사용할 경우 AWS로 이전하고 최적화한 국내 기업은 AI 워크로드의 총 탄소 배출량을 최대 95%까지 감축할 수 있다. AWS가 에너지 효율을 혁신하는 대표적인 방법 중 하나는 자체 칩에 대한 투자다. AWS는 지난 2018년 자체 개발 맞춤형 범용 프로세서인 그래비톤(Graviton)을 첫 출시했다. 최신 프로세서인 그래비톤4의 성능은 기존 그래비톤보다 4배 향상되었으며, 동급의 아마존 EC2 인스턴스 대비 동일한 성능을 구현하는 데에 60% 더 적은 에너지를 사용하는 그래비톤3보다도 더 에너지 효율적이다. AWS는 생성형 AI 애플리케이션의 성능과 에너지 소비를 최적화하기 위해 AWS 트레이니움(AWS Trainium), AWS 인퍼런시아(AWS Inferentia)와 같은 AI 전용 실리콘을 개발하여 동급의 가속 컴퓨팅 인스턴스보다 높은 처리량을 달성했다. AWS 트레이니움은 생성형 AI 모델의 학습 시간을 몇 달에서 몇 시간으로 단축한다. 트레이니움2는 1세대 트레이니움에 비해 최대 4배 빠른 훈련 성능과 3배 더 많은 메모리 용량을 제공하는 동시에 에너지 효율(와트당 성능)을 최대 2배까지 개선하도록 설계되었다. 한편, AWS 인퍼런시아는 AWS 칩 중 가장 전력 효율이 높은 머신러닝 추론 칩이다. AWS 인퍼런시아2는 와트당 최대 50% 더 높은 성능을 제공하며, 동급 인스턴스 대비 최대 40%까지 비용을 절감할 수 있다.  이와 함께, AWS는 리소스 활용을 최적화하여 유휴 용량을 최소화하고 인프라의 효율성을 지속적으로 개선하고 있다고 전했다. AWS는 데이터센터 설계에서 대형 중앙 무정전전원공급장치(UPS)를 제거하는 대신 모든 랙에 통합되는 소형 배터리팩과 맞춤형 전원공급장치를 사용하여 전력 효율성을 개선하고 가용성을 높였다. 교류(AC)에서 직류(DC)로, 또는 그 반대로 전압을 변환할 때 발생하는 전력 손실을 줄이기 위해 중앙 UPS를 제거하고 랙 전원 공급 장치를 최적화하여 에너지 변환 손실을 약 35% 감소시켰다. AWS 데이터센터에서 서버 장비에 전력을 공급하는 것 다음으로 에너지 사용량이 많은 부분 중 하나는 냉각 시스템이다. 효율성을 높이기 위해 AWS는 장소와 시간에 따른 프리 쿨링(free air cooling) 등 다양한 냉각 기술을 활용하고 실시간 데이터를 통해 기상 조건에 적응한다. AWS의 최신 데이터센터 설계는 최적화된 공랭 솔루션과 엔비디아(NVIDIA)의 그레이스 블랙웰 슈퍼칩과 같은 가장 강력한 AI 칩셋을 위한 액체 냉각 기능을 통합한다. 유연한 다중 모드 냉각을 통해 기존 워크로드 혹은 AI 모델 등 실행하는 워크로드에 상관없이 성능과 효율성을 극대화할 수 있다. AWS는 SK텔레콤 등 자사의 고객들이 그래비톤의 탄소 절감 효과를 누리고 있다고 소개했다. AWS는 SK텔레콤의 차세대 AI 네트워크 관리 시스템인 탱고 솔루션 구축에 대규모 데이터 처리와 인공지능 및 머신러닝 워크로드에 최적화된 그래비톤 인스턴스를 제공함으로써, 온프레미스 대비 AWS 워크로드의 탄소배출량을 약 27% 감축하는데 기여했다. 또한, AWS는 자사의 클라우드 인프라가 스타트업, 기업, 헬스케어, 연구, 교육 기관 등 수만 곳의 한국 기업에게 신기술에 대한 접근성을 향상해 국내 비즈니스 생태계의 혁신과 성장을 지원하고 있다고 전했다. 종합에너지그룹 삼천리는 AWS를 활용해 대고객서비스 및 소비자 현장 지원 애플리케이션을 안정적으로 운영하고, 고객탄소발자국 툴(Customer Carbon Footprint Tool)을 통해 IT 운영에 따른 탄소 배출량을 상시 모니터링할 계획이다. AWS는 삼천리가 이번 클라우드 도입으로 향후 5년간 탄소배출량을 약 29.6% 감축할 것으로 기대하고 있다. AWS의 켄 헤이그(Ken Haig) 아시아 태평양 및 일본 에너지 및 환경 정책 총괄은 “전 세계 기업의 IT 지출 중 85%가 온프레미스에 집중된 상황에서, 한국 기업이 AWS상에서 AI 워크로드 최적화를 통해 탄소 배출량을 최대 95% 줄일 수 있다는 것은 지속가능성 측면에서 의미 있는 기회”라고 강조했다. 이어 “지속가능성의 혁신은 한국이 2050년까지 탄소 중립 목표를 달성하는데 중요한 역할을 할 것이며, 전력망에서 재생에너지 비중을 늘리려는 한국의 노력은 AI 워크로드의 탈탄소화를 앞당길 것”이라면서, “AWS는 데이터센터 설계 최적화부터 AI 전용 칩에 대한 투자까지 데이터센터 전반의 지속가능성을 위해 끊임없이 혁신하여 고객의 컴퓨팅 수요를 충족하기 위해 에너지 효율성을 지속적으로 높이고 있다”고 덧붙였다.