아마존웹서비스(AWS)가 ‘AWS 리인벤트 2023’ 이벤트에서 업무용으로 설계돼 고객의 비즈니스에 맞춤화할 수 있는 새로운 유형의 생성형 인공지능(AI) 기반 어시스턴트인 ‘아마존 Q(Amazon Q)’를 발표했다. 고객은 아마존 Q를 사용해 긴급한 질문에 대한 관련성 높은 답변을 신속하게 얻고, 콘텐츠를 생성하며, 고객의 정보 저장소(repository)/코드/엔터프라이즈 시스템에 기반한 조치를 취할 수 있다. 생성형 AI 채팅 애플리케이션은 기업 조직의 비즈니스, 데이터, 고객, 운영 및 직원이 수행하는 업무와 상호작용하는 상대, 사용하는 정보와 접근 가능한 정보에 대해 알지 못한다. 또한 처음부터 직원들이 일상 업무에서 안전하게 사용하는 데 필요한 보안 및 개인정보 보호 기능을 갖추고 있지 않다. AWS는 고객이 모든 직원이 생성형 AI의 이점을 최대한 활용할 수 있도록 지원하고자 아마존 Q를 만들었다. 아마존 Q는 직원에게 정보와 조언을 제공해 업무를 간소화하고, 의사결정과 문제 해결을 가속화하며, 업무에서의 창의성과 혁신을 촉진하는 데 도움을 준다. 기업 고객의 엄격한 요구사항을 충족하도록 설계된 아마존 Q는 기존 신원과 역할, 권한에 따라 각 개별 사용자에게 맞게 맞춤형 상호작용을 제공할 수 있다. 또한 아마존 Q는 비즈니스 고객의 콘텐츠를 기반 모델 학습을 위해 사용하지 않는다. 또한, 아마존 Q는 AWS를 기반으로 구축하고, 내부적으로 작업하며, 비즈니스 인텔리전스(BI) 관리와 고객 센터 관리, 공급망 관리를 위해 AWS 애플리케이션을 사용하는 고객에게 생성형 AI 기반의 지원을 제공해, 모든 규모와 산업의 조직이 생성형 AI를 안전하게 사용할 수 있도록 지원한다. 아마존 Q는 개발자와 IT 전문가가 AWS에서 애플리케이션과 워크로드를 구축, 배포, 운영하는 방식을 혁신한다. 고객은 AWS 매니지먼트 콘솔의 대화형 인터페이스, 설명서 페이지, 자체 IDE, 슬랙(Slack) 또는 기타 타사 채팅 앱을 통해 아마존 Q에 액세스할 수 있다. 고객은 AWS 기능에 대해 알아보고, AWS 서비스 작동 방식을 조사하고, 솔루션을 설계하는 가장 좋은 방법을 찾고, 사용 사례에 가장 적합한 서비스를 파악하기 위해 질문함으로써 답변과 지침을 얻을 수 있다. 아마존 Q는 질문에 따라 인용문과 출처 링크가 포함된 간결한 답변을 제공하며, 고객은 후속 질문을 통해 더 자세한 정보를 얻고, 워크로드에 가장 적합한 옵션을 찾고, 시작을 위한 기본 단계에 대한 개요를 받을 수 있다. 한편, 고객은 아마존 Q를 비즈니스 데이터, 정보 및 시스템에 연결해 모든 것을 종합하고 맞춤형 지원을 제공해 직원들이 문제를 해결하고, 콘텐츠를 생성하고, 비즈니스와 관련된 조치를 취할 수 있도록 도울 수 있다. 아마존 S3, 드롭박스, 컨플루언스, 구글 드라이브, 마이크로소프트 365, 세일즈포스, 서비스나우, 젠데스크 등 널리 사용되는 데이터 소스를 위한 40개 이상의 기본 제공 커넥터와 내부 인트라넷, 위키, 런북 등을 위한 사용자 지정 커넥터를 구축할 수 있는 옵션을 통해 아마존 Q를 빠르고 쉽게 시작할 수 있다. 아마존 Q가 연결된 모든 정보를 종합하고 고객이 자체 어시스턴트를 배포할 준비가 되면, 아마존 Q는 직원이 고객의 기존 인증 시스템을 사용해 접근할 수 있는 웹 애플리케이션을 생성한다. 아마존 Q는 인증 시스템을 사용하여 사용자, 역할, 액세스 권한이 있는 시스템을 파악하기 때문에 직원은 세부적이고 미묘한 질문을 하고 해당 사용자가 볼 수 있는 정보만 포함된 맞춤형 결과를 얻을 수 있다. 직원들은 여러 데이터 소스에서 일일이 검색해야 했던 것을 아마존 Q에 질문할 수 있으며, 아마존 Q는 관련 콘텐츠를 종합하여 답변과 소스 링크를 공유한다. 또한 아마존 Q는 일상적인 커뮤니케이션을 간소화해 직원들이 블로그 게시물 생성, 문서 요약, 이메일 초안 작성, 회의 안건 작성과 같은 작업을 할 수 있도록 돕는다. 아마존 Q는 고객이 제공한 소스 자료와 지식에 정확하고 충실한 답변과 인사이트를 제공하며, 고객은 추가 관리 제어를 사용해 전체 주제를 차단하고 키워드를 사용해 질문과 최종 답변을 필터링할 수 있다. 관리자는 특정 직원이나 데이터 소스에 대한 특정 답변을 제한할 수도 있다.  아마존 Q는 현재 프리뷰 버전으로 사용할 수 있으며, AWS는 아마존 Q를 여러 서비스와 애플리케이션에 제공한다고 밝혔다. 여기에는 클라우드용 통합 BI서비스인 아마존 퀵사이트(Amazon QuickSight), 클라우드 고객센터 아마존 커넥트(Amazon Connect), 공급망에 대한 인사이트를 제공하는 AWS 서플라이 체인(AWS Supply Chain) 등이 있다. 아마존 커넥트를 위한 아마존 Q는 현재 사용 가능하며, AWS 서플라이 체인용 아마존 Q는 곧 출시될 예정이다. AWS의 스와미 시바수브라마니안(Swami Sivasubramanian) 데이터 및 AI 부문 부사장은 “데이터 우선 접근 방식과 엔터프라이즈급 보안 및 개인정보 보호를 기본 내장한 아마존 Q는 다양한 데이터 및 비즈니스 애플리케이션을 활용하든, 고객이 작업하는 모든 곳에 생성형 AI를 제공함으로써, 모든 조직에 새로운 가능성을 열어주는 생성형 AI 스택의 애플리케이션 레이어에 강력하게 추가된다”면서, “AWS는 목적에 맞게 구축된 인프라, 도구, 애플리케이션 등 스택의 세 가지 계층 모두에서 솔루션을 통해 고객이 생성형 AI를 활용할 수 있도록 지원하고 있다”고 말했다.

아마존웹서비스(AWS)는 국내 정유 업체 HD현대오일뱅크의 디지털 혁신 강화, 오퍼레이션 향상 및 신속한 고객 요구 대응을 지원한다고 밝혔다. HD현대오일뱅크는 2024년까지 AWS 클라우드로 전면 이전할 계획으로, 핵심 고객 서비스 및 전사적 자원 관리를 담당하는 200대 이상의 서버를 포함해 온프레미스 워크로드 대부분의 이전을 진행 중이다. HD현대오일뱅크는 탄소 배출량을 줄이면서 증가하는 전력 수요를 충족하는데 핵심적인 역할을 하는 주요 업무를 AWS에서 운영함으로써, 기존 정유 및 석유화학 사업을 친환경 에너지 플랫폼으로 전환하는 것을 목표로 하고 있다. 지속가능한 교통수단에 대한 수요가 늘어남에 따라 국내에서 탄소 무배출 차량 수요가 급증하고 있다. HD현대오일뱅크는 전기차 충전 사업을 준비 중이며, 이를 위해 아마존 EKS(Amazon Elastic Kubernetes Service)를 활용하고 있다. 아마존 EKS는 HD현대오일뱅크가 전기차 충전 서비스를 위해 클라우드 상에서 쿠버네티스 컨테이너 애플리케이션을 시작, 운영, 확장할 수 있는 유연성을 제공하고, 충전량 배치 등 다양한 전기차 충전 서비스를 관리하고 자동화한다. AWS 클라우드를 활용함으로써 향후 확장될 충전소 인프라에 대해 탄력적인 시스템 대응이 가능하며, 이를 통해 충전소 운영 가시성을 높여 전반적인 효율성과 수익성에도 기여를 할 수 있을 것으로 기대하고 있다. HD현대오일뱅크는 아마존 베드록(Amazon Bedrock)과 같은 머신러닝(ML) 및 생성형 인공지능(AI) 기술을 사용하여 정유 공정 최적화, 유지보수 요구 사항 예측, 위험 관리, 실시간 운영 모니터링 등 혁신을 지속해나갈 계획이다. HD현대오일뱅크는 온프레미스에서 AWS로 이전함으로써, IT 관련 비용의 20%를 절감하는 것을 목표로 하고 있다. HD현대오일뱅크는 재고 관리 등의 프로세스를 최적화하며 에너지 수요 예측의 정확도를 높일 예정이다. 데이터센터 관리에 필요한 IT 자원이 줄어든 만큼 혁신과 고객 경험, 신규 사업 기회, 직원 역량 개발 전략에 집중한다는 계획이다. HD현대오일뱅크의 천경선 디지털전략부문장은 “AWS의 확장성과 안정성은 클라우드 퍼스트 전략의 목표를 달성하고 효율성을 높이며 고객 요구사항 처리 능력을 향상하는 데 매우 중요하다”며, “AWS는 나날이 증가하는 청정에너지 인프라에 대한 고객 수요 충족에 필요한 기반을 제공한다. 기존 온프레미스 IT 인프라를 AWS로 마이그레이션함으로써, 인프라 비용을 절감하고 프로세스 및 장비 성능을 최적화하여 효율성을 극대화할 수 있을 것으로 보고 있다. 향후, AWS의 생성형 AI 서비스를 활용하여 임직원의 생산성 향상에 기여하고 예측 정확성을 높일 것으로 기대하고 있다”고 밝혔다. AWS코리아의 함기호 대표는 “탄소 배출량을 줄이는 동시에 청정에너지에 대한 수요를 충족하는 것은 전 세계 기업들이 가장 중요하게 생각하는 과제”라며, “HD현대오일뱅크는 AWS의 첨단 클라우드 기술을 활용해 탄소 무배출 차량에 대한 수요를 충족하고, 정유 시설의 선제적인 관리를 위한 예측을 하는 동시에, 사업 목표를 달성해 나가고 있다”고 말했다.

아비바가 AWS의 에너지 컴피턴시(Amazon Web Services Energy Competency) 인증을 획득했다고 밝혔다. 이번 인증으로 아비바의 고객은 AWS의 클라우드 기술을 활용하여 복잡한 산업 시스템을 혁신하고, 지속 가능한 에너지 미래로의 전환을 가속화할 수 있게 됐다. AWS 에너지 컴피턴시 인증은 생산 설계 및 구축 단계부터 새로운 에너지 솔루션과 같은 자산 운영 및 최적화 등 전체 가치 사슬에 걸쳐 솔루션을 성공적 개발, 운영할 수 있도록 지원한다. 인증을 획득하기 위해서는 고객 레퍼런스 검증을 비롯한 여러 가지 엄격한 기술 검증이 요구된다. AWS는 솔루션의 원활한 통합과 배포를 지원하기 위해, 각 업계에서 풍부한 경험과 전문성을 갖춘 AWS 파트너를 식별할 수 있도록 AWS 컴피턴시 프로그램을 운영하고 있다. 아비바는 7000곳 이상의 AWS 파트너사 중 뉴에너지(New Energies)에 대한 AWS 에너지 컴피턴시 인증을 획득한 7개 기업 중 하나다. 현재 통용되는 디지털 도구는 국제에너지기구(IEA)가 에너지, 재료 및 모빌리티 산업을 위해 제시한 2050년 탄소중립 목표를 달성하는 데 필요한 온실가스(GHG) 배출량 감축의 최대 20%를 기여할 수 있다. 아비바는 다양한 산업 분야의 기업이 에너지 수요를 관리하고, 기업 운영을 최적화하며, 배출량을 추적 및 측정하는 데 도움이 되는 특수 목적의 산업용 소프트웨어 솔루션을 제공한다. 공급 측면에서 아비바 솔루션은 전체 에너지 시스템의 확장을 지원하여 저탄소 산업이 청정 수소 및 대규모 탄소 포집과 같은 실증 또는 프로토타입 단계의 기술 비용을 절감할 수 있도록 돕는다. 아비바의 브라이 딜런(Bry Dillon) 파트너 및 비즈니스 개발 담당 수석 부사장은 “아비바와 AWS는 차별화된 혁신적인 소프트웨어 솔루션을 통해 인더스트리얼 시장의 변화를 촉진하고 에너지 전환을 가속화하는 데 기여하고 있다”면서, “AWS 에너지 컴피턴시 인증은 아비바의 폭넓은 산업용 SaaS 솔루션 포트폴리오에 민첩성, 혁신, 서비스 역량을 더해 저탄소 미래로 나아가는 과정에서 연결성과 탄력성을 강화할 수 있는 방법을 제시한다”고 말했다. 

엔비디아는 아마존웹서비스(AWS)와 협력해 차세대 머신러닝 워크로드용 아마존 EC2 캐퍼시티 블록(Amazon Elastic Compute Cloud Capacity Blocks)에 자사의 H100 텐서 코어 GPU를 탑재한다고 밝혔다. 이번 협력을 통해 고객들은 아마존 일래스틱 컴퓨트 클라우드(EC2)로 고성능 머신러닝 워크로드용 아마존 EC2 울트라클러스터(UltraCluster)에 구축된 수백 개의 엔비디아 GPU를 확보할 수 있다. 머신러닝의 발전으로 모든 규모의 산업 분야 조직은 새로운 제품을 개발하고 비즈니스를 혁신할 수 있는 기회가 생겼다. 기존 머신러닝 워크로드에는 상당한 컴퓨팅 용량이 필요하다. 여기에 생성형 AI의 등장으로 파운데이션 모델(FM)과 대규모 언어 모델(LLM)을 훈련하는 데 사용되는 방대한 데이터세트를 처리하기 위해서는 보다 더 큰 컴퓨팅 용량이 요구된다. GPU 클러스터는 병렬 처리 기능이 결합돼 훈련과 추론 프로세스를 가속화함으로써 이 과제에 적합하다. 머신러닝용 아마존 EC2 캐퍼시티 블록은 새로운 소비형 아마존 EC2 사용 모델로, GPU 인스턴스에 쉽게 액세스해 머신러닝과 생성형 AI 모델을 훈련하고 배포할 수 있도록 함으로써 머신러닝을 대중화하는 데에 기여할 수 있다. EC2 캐퍼시티 블록을 통해 고객은 고성능 머신러닝 워크로드로 설계된 EC2 울트라클러스터에 배치된 수백 개의 엔비디아 GPU를 예약할 수 있다. 페타비트(peta-bit) 규모의 논블로킹(non-blocking) 네트워크에서 EFA(Elastic, Fabric Adapter) 네트워킹을 사용해 아마존 EC2에서 사용 가능한 높은 네트워크 성능을 제공할 수 있다. EC2 캐퍼시티 블록은 최대 8주 전에 미리 확보할 수 있으며, 예약 가능한 총 일수는 1일 단위로 1~14일이다. EC2 캐퍼시티 블록은 1~64개 인스턴스(512개 GPU)의 클러스터 크기로 엔비디아 H100 텐서 코어 GPU 기반의 아마존 EC2 P5 인스턴스에서 사용할 수 있다. 이를 통해 고객은 광범위한 머신러닝 워크로드를 유연하게 실행하고 필요한 GPU 시간만큼만 비용을 지불할 수 있다. EC2 캐퍼시티 블록은 고객이 중요한 머신러닝 프로젝트에 필요한 GPU 컴퓨팅 용량에 안정적이고 예측 가능하며 중단 없이 액세스할 수 있도록 지원한다. EC2 캐퍼시티 블록을 통해 EC2에서 머신러닝을 훈련하기 위한 높은 성능을 제공하는 EC2 P5 인스턴스를 예측 가능하도록 쉽게 이용할 수 있다. 또한 이를 통해 몇 번의 클릭만으로 GPU 인스턴스를 확보하고 머신러닝 개발을 계획할 수 있다. EC2 캐퍼시티 블록이 예약되면, 고객은 필요할 때 GPU 용량을 확보할 수 있다는 것을 알고 확실하게 머신러닝 워크로드 배포를 계획할 수 있다. 더불어 EC2 캐퍼시티 블록은 머신러닝 모델을 훈련하고 미세 조정과 짧은 실험, 향후 머신러닝 애플리케이션에 대한 수요 급증에 대비하기 위해 용량 보장이 필요할 때 사용될 수 있다. 또는 비즈니스 핵심 애플리케이션, 규제 요구 사항 또는 재해 복구 등 컴퓨팅 용량 보장이 필요한 다른 모든 워크로드 유형에 대해 온디맨드 용량 예약(On-Demand Capacity Reservations)을 계속 사용할 수 있다. EC2 캐퍼시티 블록은 AWS 미국 동부 오하이오 지역에서 사용할 수 있으며, 향후 다른 지역으로 확대될 예정이다.