인텔은 IBM 클라우드가 클라우드 서비스 제공사로는 처음으로 인텔 가우디 3(Intel Gaudi 3) AI 가속기 기반 상용 서비스를 제공한다고 밝혔다. 인텔은 이로써 클라우드 서비스 고객이 고성능 인공지능 역량을 보다 쉽게 활용할 수 있도록 지원하고, AI 특화 하드웨어의 높은 비용 장벽을 낮출 수 있을 것이라고 밝혔다. 이번 IBM 클라우드 상용화는 가우디 3의 첫 대규모 상업 배포이다. 양사는 IBM 클라우드에서 인텔 가우디 3를 활용해 고객이 합리적인 비용으로 생성형 AI를 테스트·혁신·배포하도록 돕는 것을 목표로 하고 있다. 가트너의 최근 조사에 따르면 2025년 전 세계 생성형 AI 관련 지출은 2024년 대비 76.4% 증가한 6440억 달러에 이를 전망이다. 가트너는 “생성형 AI가 IT 지출 전 영역에 변혁적 영향을 미치고 있으며, 이에 따라 AI 기술이 기업 운영과 소비재에 필수 요소로 자리 잡을 것”이라고 분석했다. 많은 기업이 생성형 AI와 같은 도구가 자동화·워크플로 개선·혁신 촉진 등에 분명한 이점이 있다는 것을 알고 있으나, AI 애플리케이션 구축에는 막대한 연산 능력이 필요하고 대개의 경우 고가의 특화된 프로세서를 요구하기 때문에 많은 기업들은 AI 혜택을 누리지 못하고 있다.     인텔 가우디 3 AI 가속기는 개방형 개발 프레임워크를 지원하면서 생성형 AI·대규모 모델 추론·파인튜닝 등에 대한 폭발적인 수요를 충족하도록 설계됐으며, 멀티모달 LLM(대규모 언어 모델)과 RAG(검색 증강 생성) 워크로드에 최적화되어 있다. IBM 클라우드는 다양한 기업 고객, 특히 금융 서비스, 의료 및 생명 과학, 공공 부문 등 규제 산업에 종사하는 고객에게 서비스를 제공한다. 현재 가우디 3는 독일 프랑크푸르트, 미국 워싱턴 D.C., 택사스 댈러스의 IBM 클라우드 리전에 적용되어 사용할 수 있다. 가우디 3은 IBM의 광범위한 AI 인프라스트럭처 제품에도 통합되고 있다. 고객들은 현재 IBM VPC(가상 프라이빗 클라우드)의 IBM 클라우드 가상 서버를 통해 가우디 3를 사용할 수 있으며, 2025년 하반기부터 다양한 아키텍처에 배포할 수 있다. 레드햇 오픈시프트(Red Hat OpenShift)와 IBM 왓슨엑스 AI 플랫폼(IBM’s watsonx AI platform)에 대한 지원은 이번 분기 내 가능해질 예정이다. 인텔의 사우라브 쿨카니(Saurabh Kulkarni) 데이터센터 AI 전략 담당은 “인텔 가우디 3 AI 가속기가 IBM 클라우드에 도입되며 기업 고객에게 추론 및 파인 튜닝을 위해 최적화된 성능으로 생성형 AI 워크로드를 확장할 수 있도록 지원하게 되었다”면서, “이번 협력은 전 세계 기업이 AI를 더 쉽게, 비용효율적으로 구현할 수 있도록 지원하려는 양사의 공동 노력의 일환”이라고 밝혔다. IBM의 사틴더 세티(Satinder Sethi) 클라우드 인프라스트럭처 서비스 총괄은 “더 많은 데이터 처리 능력과 더 높은 성능 구현은 전 세계 고객의 AI 도입을 촉진할 것”이라며 “인텔 가우디 3는 고객에게 AI의 하드웨어에 대한 더 많은 선택권과 더 많은 자유, 더 비용 효율적인 플랫폼을 제공해준다”고 밝혔다.

IBM은 ‘테크익스체인지(TechXchange)’ 연례 행사에서 자사의 진보된 인공지능(AI) 모델 제품군인 ‘그래니트(Granite) 3.0’을 발표했다.  IBM 그래니트 모델은 아파치 2.0 라이선스 하에 공개되어 특정 모델에 대한 비종속성을 갖는다. IBM은 “3세대 그래니트 플래그십 언어 모델은 많은 학술 및 산업 벤치마크에서 비슷한 크기의 다른 모델들을 능가하거나 동등한 성능을 보이며, 성능, 투명성, 안전성을 입증했다”고 전했다. 이번에 발표된 IBM의 그래니트 3.0 제품군은 범용/언어 모델, 안전 장치 및 안전성 모델, 혼합 전문가 모델 등으로 구성되었다. 이 중 새로운 그래니트 3.0 8B 및 2B 언어 모델은 기업 AI에 최적화된 주력 모델로 설계되어, RAG(검색 증강 생성), 분류, 요약, 엔터티 추출 및 도구 사용과 같은 다양한 작업에서 높은 성능을 제공한다. 이 모델들은 소형이면서도 유연해 기업 데이터를 기반으로 세밀하게 조정할 수 있으며, 다양한 비즈니스 환경과 워크플로에 손쉽게 통합되도록 설계되었다는 것이 IBM의 설명이다.     대부분의 대규모 언어 모델(LLM)은 공개 데이터를 기반으로 훈련되며, 기업의 데이터를 활용하는 경우는 아직 많지 않다. IBM은 지난 5월 레드햇과 함께 선보인 인스트럭트랩(InstructLab) 정렬 튜닝 기법을 통해 소형 그래니트 모델과 기업 데이터를 결합하면 더 큰 모델의 성능을 훨씬 낮은 비용으로 구현할 수 있다고 소개한 바 있다. 특히, IBM은 왓슨x.ai(watsonx.ai)에서 제공되는 모든 그래니트 모델에 대해 지적 재산권 보장 프로그램을 제공해, 기업 고객이 자신의 데이터를 모델과 결합해 사용할 수 있도록 지원한다. 그래니트 3.0 기술 보고서와 사용 가이드는 이 모델들을 훈련하는 데에 사용된 데이터 세트, 필터링, 정제 및 큐레이션 과정에 대한 상세 정보와 주요 학술 및 기업 벤치마크에서의 성능 결과를 제공한다. IBM은 이번 출시를 통해 그래니트 가디언(Granite Guardian) 모델도 새롭게 선보였다. 이 모델은 애플리케이션 개발자가 사용자 명령어와 LLM의 답변에서 발생할 수 있는 다양한 위험 요소를 감지해 안전 장치를 구현할 수 있도록 지원한다. 그래니트 가디언 3.0 8B와 2B 모델은 포괄적인 위험 및 피해 탐지 기능을 제공한다. 이 모델은 사회적 편견, 증오, 유해성, 욕설, 폭력, 보안 우회(jailbreaking) 등의 위험 요소를 감지할 뿐만 아니라, 정보의 신뢰성, 맥락의 적합성, 답변의 관련성과 같이 RAG 작업에 특화된 고유한 검증 기능도 갖추고 있다. 그래니트 가디언 모델은 그래니트 언어 모델에서 파생되었지만, 타사의 어떤 AI 모델과도 함께 안전 장치를 구현하는 데에 사용할 수 있다. 한편, IBM은 왓슨x 오케스트레이트(watsonx Orchestrate)와 같은 로코드 도구와 자동화를 통해 기업들이 자체 AI 어시스턴트를 쉽게 개발할 수 있도록 돕는 기술부터 고객 서비스, 인사, 영업, 마케팅 등 특정 업무와 영역에 특화시켜 사전 구축된 어시스턴트에 이르기까지 다양한 AI 어시스턴트 기술 포트폴리오를 지속적으로 발전시키고 있다고 전했다. 전 세계의 많은 조직이 왓슨x 어시스턴트를 활용해 고객이나 직원의 질문에 답변하고, 레거시 IT 애플리케이션을 현대화하며, 학생들이 직업 경로를 탐색하도록 돕거나 주택 구매자를 위한 디지털 융자 지원을 제공하는 등 AI 어시스턴트를 구축했다. 이를 위해 IBM은 그래니트 코드 모델을 기반으로 C, C++, Go, 자바(Java), 파이썬(Python) 등 다양한 프로그래밍 언어에 대한 범용 코딩 지원과 엔터프라이즈 자바(Java) 애플리케이션을 위한 고급 애플리케이션 현대화 기능을 제공하는 차세대 ‘왓슨x 코드 어시스턴트(watsonx Code Assistant)’ 도 올해 4분기에 출시할 예정이라고 발표했다. 그래니트 3.0 모델은 아파치 2.0 라이선스 하에 허깅페이스(HuggingFace)에서 다운로드할 수 있다. 그래니트 3.0 8B 및 2B 언어 모델의 인스트럭트 버전과 그래니트 가디언 3.0 8B 및 2B 모델은 IBM 왓슨x 플랫폼에서 상업적으로 사용가능하다. 일부 그래니트 3.0 모델은 엔비디아의 NIM 마이크로서비스 및 허깅페이스와 통합된 구글 클라우드의 버텍스 AI 모델 가든(Vertex AI Model Garden)을 통해서도 제공된다. 또한, IBM은 전 세계 기업들에 더 많은 선택지를 제공하기 위해 AWS, 도커(Docker), 도모(Domo), 퀄컴 테크놀러지스(Qualcomm Technologies, Inc.)의 퀄컴 AI 허브(Qualcomm AI Hub), 세일즈포스(Salesforce), SAP 등 생태계 파트너들과 다양한 그래니트 모델을 이들 파트너 솔루션에 통합하거나 플랫폼에서 사용할 수 있도록 협력하고 있다.

인텔과 AMD는 전 세계에서 널리 사용되는 컴퓨팅 아키텍처의 미래 조성을 위해 기술 리더들이 참여한 ‘x86 생태계 자문 그룹’을 설립한다고 발표했다. X86은 지난 40년 이상 현대 컴퓨팅의 기반이 되어 왔으며, 전 세계 데이터센터와 PC에서 주요한 아키텍처로 자리매김했다. 동적인 AI 워크로드, 맞춤형 칩렛, 3D 패키징 및 시스템 아키텍처의 발전으로 특징지어지며 오늘날의 진화하는 환경에서 견고하고 확장되는 x86 생태계의 중요성이 그 어느 때보다 중요해졌다. 이번에 설립된 x86 생태계 자문 그룹은 플랫폼 간 호환성을 지원하고 소프트웨어 개발을 간소화하며 개발자에게 미래를 위한 혁신적이고 확장 가능한 솔루션을 개발하기 위한 아키텍처 요구사항과 기능을 파악할 수 있는 플랫폼을 제공함으로써, x86 생태계를 확장하는 데에 주력할 계획이다. 자문 그룹에는 구글 클라우드, 델 테크놀로지스, 레드햇, 레노버, 마이크로소프트, 메타, 브로드컴, HP, 오라클, 휴렛 팩커드 엔터프라이즈 등이 참여한다. 또한 에픽게임즈의 팀 스위니 CEO와 리눅스를 만든 리누스 토발즈가 이름을 올렸다. 인텔과 AMD를 비롯한 자문 그룹 참가자들은 이 이니셔티브가 x86 제품 전반의 호환성, 예측 가능성 및 일관성을 향상시킬 것으로 보고, 이를 위해 x86 하드웨어 및 소프트웨어 커뮤니티에 필수 기능과 특징에 대한 기술적 의견을 모을 예정이다.     자문 그룹이 기대하는 성과는 ▲하드웨어와 소프트웨어 전반에 걸쳐 고객의 선택권과 호환성을 강화하는 동시에 새로운 최신 기능의 혜택을 빠르게 활용할 수 있도록 가속화 ▲아키텍처 가이드라인을 간소화하여 인텔과 AMD의 x86 제품 전반에 걸쳐 소프트웨어 일관성과 인터페이스를 향상 ▲운영체제(OS), 프레임워크 및 애플리케이션에 새로운 기능을 더욱 효율적으로 통합 등이다.  이 자문 그룹은 업계 리더들을 하나로 묶어 보다 통일된 지침과 아키텍처 인터페이스를 통해 x86의 미래를 설계하고 개발자의 혁신을 촉진하는 것을 목표로 한다. 또한 협업을 통해 데이터센터, 클라우드, 클라이언트, 에지 및 임베디드 디바이스 등 모든 부문으로 확장된 주요 x86 아키텍처 기능 및 프로그래밍 모델의 일관되고 호환 가능한 구현을 촉진함으로써, 궁극적으로 고객에게 다운스트림 혜택을 제공할 수 있을 것이라는 기대도 나타냈다. 인텔의 팻 겔싱어 CEO는 “우리는 현재와 미래의 고객 요구를 충족하는 데 필요한 새로운 수준의 커스터마이징, 호환성 및 확장성을 갖춘 x86 아키텍처 및 생태계에서 수십 년 만에 가장 중요한 변화의 정점에 서 있다”면서, “우리는 AMD 및 이 자문 그룹의 창립 멤버들과 함께 컴퓨팅의 미래를 밝힐  수 있을 것”이라고 밝혔다. AMD 리사 수 회장 겸 CEO는 “x86 생태계 자문 그룹을 설립함으로써 x86 아키텍처는 개발자와 고객 모두가 선택하는 컴퓨팅 플랫폼으로 계속 발전할 것”이라며, “업계와 함께 향후 아키텍처 개선에 대한 방향을 제시하고 x86의 놀라운 성공을 향수 수십년간 이어나갈 수 있게 되어 기쁘다”고 밝혔다.

AI와 하이브리드 클라우드로 디지털 혁신 지원   한국IBM은 9월 3일 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스 그랜드볼룸에서 ‘IBM AI 서밋 코리아 2024’를 개최했다. 이번 서밋에서는 ‘기업 혁신을 극대화하는 AI, 자동화, 하이브리드 클라우드’를 주제로 다양한 논의가 이루어졌다. 또한 AI와 하이브리드 클라우드를 활용한 디지털 혁신의 방향성에 대해 깊이 있는 통찰이 제시됐다. 한국IBM 이은주 사장과 AI 및 클라우드를 통한 디지털 혁신과 향후 전망에 대해 이야기를 나눴다. ■ 박경수 기자   ▲ 한국IBM 이은주 사장   AI를 도입하려는 기업들이 초기에 직면하는 주요 도전 과제는 무엇이며, IBM은 이러한 도전 과제를 어떻게 지원하고 있나 기업이 AI를 도입하는 과정에서 해결해야 하는 과제 중에서 ‘AI 모델’과 ‘데이터’가 가장 기본적인 요소이다. ‘AI 모델’의 경우, 하나의 AI 모델을 적용해서 비즈니스의 모든 문제를 해결하기를 기대하는 경우가 있는데 이는 효율적이지 않은 경우가 많다. 고객 서비스를 위해 챗봇 상담원이 필요한 부서와 애플리케이션을 개발하고 IT 운영을 관리하는 부서에서 필요한 AI 모델이 다르기 때문이다.  IBM 왓슨x는 다양한 오픈소스 AI 모델 중 적용하고자 하는 업무에 맞는 AI 모델을 선택해서 사용할 수 있게 하고 있다. 특히 업무별 특화 모델을 제공해서 대규모 범용 AI 모델을 사용하는 것에 비해 훨씬 저렴한 비용으로 큰 효과를 누릴 수 있도록 하고 있다. 그리고, 기업에서 가장 중요한 신뢰성과 규제, 리스크를 관리할 수 있는 거버넌스를 위한 AI 기술을 제공하고 있다.  AI 프로젝트에서 또 다른 필수 요소는 ‘데이터’이다. 복잡한 비즈니스 환경에서 발생하는 많은 데이터를 어떻게 효과적으로 AI에 학습, 관리, 적용시킬 것인가가 AI 도입의 성공 여부를 결정짓는 요소이다. 이를 위해 IBM은 IBM 데이터 패브릭 아키텍처를 통해 전체 데이터와 AI 라이프사이클을 지원하는 모듈형의 전략적 포트폴리오를 제공하고 있다.    하이브리드 클라우드와 AI가 결합되었을 때 보안 측면에서 기업들이 염두에 두어야 할 핵심 요소는 무엇이며, IBM은 이를 어떻게 해결하고 있는지 신뢰할 수 있는 AI를 구축하기 위해서 데이터 수집과 처리에 대한 데이터 보호, 모델 개발과 훈련에 대한 모델 보호, 모델 추론과 실사용에 대한 활용 보호와 함께, AI 모델이 구축되고 실행되는 인프라에 대한 보호가 필요하다. IBM은 AI를 위한 기업 내 다양한 데이터에 대해 이상 트랜잭션을 실시간으로 감지하고 하이브리드 멀티 클라우드 환경에 대한 중앙집중식 가시성, 제어 및 자동화를 제공하는 가디엄(Guardium)과 같은 보안 솔루션으로 고객을 지원하고 있다.    ▲ 한국IBM 이은주 사장은 IBM 데이터 패브릭 아키텍처를 통해 전체 데이터와 AI 라이프사이클을 지원하는 모듈형의 전략적 포트폴리오를 제공하고 있다고 설명했다.   AI와 자동화가 기업 혁신에 미치는 장기적인 영향은 무엇이라고 보는지. 한국 시장에서는 어떤 산업군이 이러한 혁신을 가장 빠르게 받아들이고 있다고 생각하나 AI는 전례 없는 혁신 기술로 전세계 GDP를 연간 4조 4000억 달러 (한화 약 5800조 원) 증가시킬 것으로 전망된다. 초기 AI가 소비자 영역에서 즐거움과 혁신을 가져왔다면, 비즈니스를 위한 AI는 생산성과 수익 성장을 주도할 것이다. AI는 고객 경험을 향상시키고, 애플리케이션 개발에 있어 생산성을 크게 끌어올릴 뿐 아니라, 디지털 노동에서 수작업을 자동화하고 HR/IT/조달 등 업무 프로세스를 간소화할 것이다. 최근 고객을 만나보면 금융, 제조, 유통, 공공 등 모든 산업에 있는 고객사가 AI 도입에 관심을 가지고 이미 도입하거나 도입을 고려하고 있다. 이는 특정 산업군에서만 발견되는 것이 아니라 전 산업군에서 모두 볼 수 있는 현상이다.    ▲ IBM의 차세대 AI 및 데이터 플랫폼, IBM의 watsonx   IBM AI 서밋에서 소개된 최신 기술 중, 향후 3~5년 내에 가장 큰 변화를 가져올 것이라고 생각하는 기술 또는 개념은 무엇인지 지금 이 시간에도 빠르게 발전하고 있는 AI가 사회적으로나 비즈니스적으로 가장 큰 변화를 가져올 것은 자명하다. AI는 생산성이나 효율성에 있어 그 어떤 기술과 비교할 수 없는 향상을 가져올 것이다. 그러나 향후 4년 내에 최대 10억 개의 관련 앱이 만들어질 것이라는 전망이 있듯이 생성형 AI의 도입은 필연적으로 비즈니스 환경과 운영의 복잡성을 증가시킬 것이다. 따라서 인스타나(Instana), 터보노믹(Turbonomic), 앱티오(Apptio), IBM 콘서트(Concert) 등과 같이 비즈니스 운영상의 복잡성을 해결해주는 AI 기반 자동화 기술의 도입이 가속화되어 애플리케이션 통합 및 현대화 영역의 문제를 해결할 것이다.   AI 솔루션을 도입한 기업이 기존 인프라와의 통합 과정에서 겪는 어려움은 무엇이고, IBM은 이를 어떻게 해결하고 있나 AI와 하이브리드 클라우드는 동전의 양면과 같아서 따로 떼어 생각할 수 없다. 데이터를 저장하는 위치, 접근하고 안전하게 유지하는 방법에 이르기까지 데이터가 중요하기 때문이다. 수익성 있게 생성형 AI를 확장하려면 우연히 갖게 된 하이브리드 클라우드 환경이 아니라 AI에 대해 개방적이고 유연하면서도 신뢰할 수 있는 접근 방식을 지원할 수 있는, 의도적으로 설계된 하이브리드 클라우드 즉 ‘하이브리드 바이 디자인(Hybrid by Design)’ 접근방식이 필요하다.  조사에 의하면, 하이브리드 바이 디자인 접근방식을 취한 기업은 우연히 하이브리드 클라우드를 활용하게 된 기업보다 3배 이상 높은 ROI를 거두는 것으로 나타났다. 실제로, 세계적인 기업인 아우디와 버라이존은 레드햇 오픈시프트 기반의 ‘하이브리드 바이 디자인’ 환경을 갖춰 IT 프로젝트나 5G 네트워크 구축 프로젝트 시 시간과 비용, 효율면에서 뛰어난 성과를 거두었다.   ▲ 생성형 AI로 인해 글로벌 GDP가 약 10조 달러 증가할 것으로 예상된다.   ■ 같이 보기 : [포커스] IBM, 산업 혁신을 돕는 AI와 하이브리드 클라우드 기술 소개     ■ 기사 내용은 PDF로도 제공됩니다.