아마존웹서비스(AWS)가 아시아 태평양(서울) 리전에 ‘아마존 베드록(Amazon Bedrock)’을 정식 출시한다고 발표했다. 아마존 베드록은 사용자가 특정 용도에 적합한 고성능 파운데이션 모델(FM) 및 거대언어모델(LLM)을 쉽게 찾고 접근할 수 있도록 하며, 생성형 인공지능(AI) 애플리케이션을 구축하고 확장할 수 있는 기능을 제공한다.
AWS는 2023년부터 일부 지역을 시작으로 베드록 서비스를 제공해오고 있다. 이번 AWS 아시아 태평양(서울) 리전의 아마존 베드록 정식 출시에 대해 AWS는 “국내 고객에게 생성형 AI를 활용한 혁신을 지원하고, 생성형 AI 애플리케이션을 실행하고 저장할 수 있는 위치에 대한 폭 넓은 선택지를 제공한다”면서, “최종 사용자에 더 가깝게 생성형 AI 워크로드를 배포하여 저지연 환경이 중요한 고객에게도 유용하다. 낮은 지연 시간은 실시간 콘텐츠 생성, 인터랙티브 사용자 경험, 실시간 대화형 인사이트와 같은 AI 작업에 필수적인 빠른 처리 및 응답 시간을 제공하는 데 특히 중요하다”고 설명했다.
국내 기업들은 생산성 향상, 혁신적인 사용자 경험 제공, 업무 재구상 등 다양한 목적으로 생성형 AI를 사용하고 있다. 아마존 베드록은 완전 관리형 서비스로, 고객에게 엔터프라이즈급 보안과 개인정보 보호로 구축된 고성능 모델과 강력한 모델 커스터마이즈 기능을 제공한다. 또한, AWS는 고객이 책임감 있고 안전한 생성형 AI 혁신을 발전시키는 데 필요한 툴과 리소스, 교육을 제공한다. 국내 고객은 아마존 타이탄(Amazon Titan)의 텍스트 임베딩 v2(Text Embeddings v2), 앤스로픽(Anthropic)의 클로드3.5 소네트(Claude 3.5 Sonnet)와 클로드3 하이쿠(Claude3 Haiku) 등의 최신 모델을 이용할 수 있다.
AWS는 국내 다양한 산업 분야의 고객사와 파트너를 보유하고 있으며, 이들이 생성형 AI를 통해 혁신을 이뤄낼 수 있게 지원하고 있다고 전했다. GS리테일은 아마존 베드록을 활용해 클로드 3 멀티모달 모델 기반 차세대 패션 상품 검색 시스템을 구축했다. 이를 통해 GS SHOP의 700만 개 이상의 패션 상품 데이터에서 속성을 자동으로 추출하고 분류할 수 있게 되었으며, 그 결과 비용을 줄이면서 검색 정확도는 향상되었다.
센드버드(Sendbird)는 금융, 커머스, 미디어, 게임 등의 산업에 대규모 오픈채팅 및 그룹 메신저 채팅 기능을 API 형태로 제공하는 국내 SaaS(서비스형 소프트웨어) 기업이다. 아마존 베드록을 통해 센드버드는 더욱 빠르게 새로운 생성형 AI 모델을 도입할 수 있었고, 데이터 및 비용 관리 문제에서도 경쟁력 있는 대안을 제시함으로써 센드버드 챗봇 제품의 경쟁력을 높일 수 있었다.
식신(Siksin)은 모바일 식권 서비스와 맛집 정보 서비스를 제공하는 푸드테크 기업으로, AWS의 인프라를 활용한 LLM 기반의 AI 대시보드 ‘외식메타 인덱스’를 구축했다. 이는 아마존 베드록을 통해 클로드 3.5 소네트 모델을 사용했으며, 식신이 보유한 100만개 이상의 맛집 데이터 및 월간 350만명의 이용자의 데이터 그리고 금융, 공공 검색, SNS 분석 정보 등 다양한 이기종 데이터를 통합 분석할 수 있었다.
외국인 대상 통번역 지원 서비스를 제공해 온 비영리 단체 bbb코리아는 아마존 베드록을 통해 앤스로픽의 클로드 3.5를 활용해 통역 내용 요약 및 분석을 수행하고 있다. bbb코리아는 AWS를 활용해 통역 내용 분석을 위한 자동화된 파이프라인 구축 시간을 단축하는 등 비용을 약 120% 절감했다.
AWS 코리아의 함기호 대표는 “AWS는 고객이 실험에서 생산 단계에 이르는 생성형 AI 여정을 효율적이고 안전한 방식으로 가속화할 수 있도록 지원하고자 최선을 다하고 있다. 고객은 선택의 폭을 중요하게 생각하는데, 어떤 고객은 처음부터 구축하는 것을 선호하는 반면, 어떤 고객은 특정 사용 사례에 맞는 모델을 선호한다”면서, "아마존 베드록을 통해 모든 산업 분야의 고객이 생성형 AI 혁신을 가속화할 수 있도록 지원하게 되어 기쁘게 생각하며, AWS는 한국 내 기업들이 생성형 AI를 구축하는데 필요한 성능과 비용 효율적인 인프라를 제공할 것”이라고 말했다.
한편, AWS는 한국 전역에서 파트너 지원 프로그램, 스타트업 액셀러레이터, LLM 개발 프로그램 등에 투자해 국내 기업이 특화된 생성형 AI 에플리케이션을 더욱 쉽게 구축할 수 있도록 지원하고 있다고 소개했다. AWS는 혁신적인 생성형 AI 솔루션을 개발하는 스타트업을 선별하여 교육, 멘토링, 최대 2억 6200만원(미화 20만 달러) 상당의 AWS 크레딧을 제공하는 AWS 생성형 AI 엑셀러레이터 프로그램을 발표했다. 또한, AWS 크레딧, 기술 교육, 멘토링 및 네트워킹 기회를 제공해주는 AWS 정글 프로그램도 발표하며 스타트업 기업을 지원하고 있다.
