서울 삼성동 그랜드 인터컨티넨탈 서울 파르나스 호텔에서 ‘IBM AI 서밋 코리아(IBM AI Summit Korea)’가 열렸다. 한국IBM이 주최한 이번 행사는 “AI로 앞서가는, 더 똑똑한 비즈니스의 시작”이라는 주제로, 기업들이 AI를 어떻게 전략적으로 수용하고 활용할지에 대한 깊이 있는 논의와 경험이 공유되었다. 한국IBM 이수정 사장은 개회사에서 AI를 단순한 트렌드가 아닌 기업 경쟁력의 핵심 동인으로 강조했다. 산업 구조와 업무 방식이 AI로 재편되고 있으며, 특히 왓슨x(watsonx) 플랫폼을 중심으로 “클라이언트 제로(Client Zero)” 사례를 통해 실제 성과를 검증했다고 밝혔다. 특히 왓슨x 기반으로 비용 대비 최대 효용을 내기 위한 맞춤형 AI 모델, 그리고 각 산업과 업무 영역에 특화된 접근 방식이 중요하다고 강조했다. IBM 아시아 태평양 총괄 한스 데커스 사장은 '가능성을 현실로, AI로 실현하는 비즈니스의 새로운 지평'을 주제로 데이터 중심, 아키텍처 + 실행 전략이 AI 성공의 열쇠라고 강조했다. 투자 대비 수익(ROI)을 실질적으로 확보하는 기업이 적은 현실(클라우드+AI 도입 기업 중 약 25%만이 만족할 만한 ROI를 실현)에서 왓슨x 포트폴리오 등이 그 한계를 극복할 수 있는 가능성을 제시했다. 특별 강연으로 궁금증뇌연구소 대표인 장동선 박사가 참여해 '뇌과학자가 바라보는 AI 시대의 미래'를 주제로, 뇌과학 관점에서 본 AI 시대의 인간과 기술의 공존에 대해 이야기했다. 장 박사는 AI와 함께 살아가야 하는 시대일수록 인간과 인간이 연결 고리는 더욱 중요해질 것이라고 말했다. 한편, 현장 전시에서는 IBM의 왓슨x 기술이 실제 기업 환경에서 어떻게 적용되는지를 보여주는 ‘페르소나 기반 AI 여정’이 눈길을 끌었다. 인사, 구매, 영업 등 현업 부서와 AI 혁신팀, 데이터팀, IT 운영팀 등 기술 조직을 각각의 페르소나로 설정하고, 각 조직이 직면한 과제를 AI가 어떻게 해결하는지를 시나리오 중심으로 구성했다. 예를 들어, HR 부서는 채용 프로세스 자동화와 직원 경험 개선, 영업 부서는 예측 기반 고객 관리, IT 운영 부서는 운영 리스크 탐지 및 자동 대응 등 각 부서의 니즈에 맞춘 왓슨x 기반 AI 활용 사례가 전시되었다. 이를 통해 참가자들은 기술 중심이 아닌 업무 중심의 AI 적용 방식을 직접 체험할 수 있었다.

인텔은 IBM 클라우드가 클라우드 서비스 제공사로는 처음으로 인텔 가우디 3(Intel Gaudi 3) AI 가속기 기반 상용 서비스를 제공한다고 밝혔다. 인텔은 이로써 클라우드 서비스 고객이 고성능 인공지능 역량을 보다 쉽게 활용할 수 있도록 지원하고, AI 특화 하드웨어의 높은 비용 장벽을 낮출 수 있을 것이라고 밝혔다. 이번 IBM 클라우드 상용화는 가우디 3의 첫 대규모 상업 배포이다. 양사는 IBM 클라우드에서 인텔 가우디 3를 활용해 고객이 합리적인 비용으로 생성형 AI를 테스트·혁신·배포하도록 돕는 것을 목표로 하고 있다. 가트너의 최근 조사에 따르면 2025년 전 세계 생성형 AI 관련 지출은 2024년 대비 76.4% 증가한 6440억 달러에 이를 전망이다. 가트너는 “생성형 AI가 IT 지출 전 영역에 변혁적 영향을 미치고 있으며, 이에 따라 AI 기술이 기업 운영과 소비재에 필수 요소로 자리 잡을 것”이라고 분석했다. 많은 기업이 생성형 AI와 같은 도구가 자동화·워크플로 개선·혁신 촉진 등에 분명한 이점이 있다는 것을 알고 있으나, AI 애플리케이션 구축에는 막대한 연산 능력이 필요하고 대개의 경우 고가의 특화된 프로세서를 요구하기 때문에 많은 기업들은 AI 혜택을 누리지 못하고 있다.     인텔 가우디 3 AI 가속기는 개방형 개발 프레임워크를 지원하면서 생성형 AI·대규모 모델 추론·파인튜닝 등에 대한 폭발적인 수요를 충족하도록 설계됐으며, 멀티모달 LLM(대규모 언어 모델)과 RAG(검색 증강 생성) 워크로드에 최적화되어 있다. IBM 클라우드는 다양한 기업 고객, 특히 금융 서비스, 의료 및 생명 과학, 공공 부문 등 규제 산업에 종사하는 고객에게 서비스를 제공한다. 현재 가우디 3는 독일 프랑크푸르트, 미국 워싱턴 D.C., 택사스 댈러스의 IBM 클라우드 리전에 적용되어 사용할 수 있다. 가우디 3은 IBM의 광범위한 AI 인프라스트럭처 제품에도 통합되고 있다. 고객들은 현재 IBM VPC(가상 프라이빗 클라우드)의 IBM 클라우드 가상 서버를 통해 가우디 3를 사용할 수 있으며, 2025년 하반기부터 다양한 아키텍처에 배포할 수 있다. 레드햇 오픈시프트(Red Hat OpenShift)와 IBM 왓슨엑스 AI 플랫폼(IBM’s watsonx AI platform)에 대한 지원은 이번 분기 내 가능해질 예정이다. 인텔의 사우라브 쿨카니(Saurabh Kulkarni) 데이터센터 AI 전략 담당은 “인텔 가우디 3 AI 가속기가 IBM 클라우드에 도입되며 기업 고객에게 추론 및 파인 튜닝을 위해 최적화된 성능으로 생성형 AI 워크로드를 확장할 수 있도록 지원하게 되었다”면서, “이번 협력은 전 세계 기업이 AI를 더 쉽게, 비용효율적으로 구현할 수 있도록 지원하려는 양사의 공동 노력의 일환”이라고 밝혔다. IBM의 사틴더 세티(Satinder Sethi) 클라우드 인프라스트럭처 서비스 총괄은 “더 많은 데이터 처리 능력과 더 높은 성능 구현은 전 세계 고객의 AI 도입을 촉진할 것”이라며 “인텔 가우디 3는 고객에게 AI의 하드웨어에 대한 더 많은 선택권과 더 많은 자유, 더 비용 효율적인 플랫폼을 제공해준다”고 밝혔다.

한국IBM이 4월 21일, 여의도 본사에서 기자간담회를 열고, 기업 비즈니스 환경에 최적화된 '에이전틱 AI(Agentic AI)' 전략과 이를 구현하는 핵심 솔루션인 '왓슨x 오케스트레이트(watsonx Orchestrate)'를 소개하는 자리를 마련했다. 한국IBM 최고기술책임자(CTO) 이지은 전무는 에이전틱 AI를 "사용자나 시스템을 위해 자율적으로 과제를 수행하는 AI 에이전트들이 결합된 환경"으로 정의하며, "기존 AI 대비 사람의 개입을 최소화하고 다양한 시스템과 연계해 복합적인 업무를 자율적으로 수행할 수 있는 것이 특징"이라고 설명했다.​ ▲ 한국IBM 최고기술책임자(CTO) 이지은 전무 ▲ '기업을 위한 AI 에이전트'로 열린 한국IBM 기자간담회 현장    IBM은 자사의 AI 플랫폼인 왓슨x를 중심으로 ▲오픈소스 및 파트너 AI 기술을 유연하게 활용할 수 있는 개방성(Open) ▲영역별로 특화된 고성능 소형 LLM으로 90% 높은 비용효율성 ▲온프레미스와 클라우드를 포괄하는 유연성을 제공하는 하이브리드 기술 ▲산업 및 영역별 전문성을 토대로 한 IBM 컨설팅 서비스 등을 제공하는 기업향 AI 전략의 차별화 요소를 강조했다. 한국IBM 클라이언트 엔지니어링(Client Engineering) 총괄 김지관상무는 "왓슨x 오케스트레이트를 통해 자연어 기반의 직관적인 대화형 인터페이스를 제공한다"며, 이를 통해 "직원, 고객 등 최종 사용자의 요청을 수집하고, 다양한 비즈니스 애플리케이션과 연결해 자동화된 방식으로 처리한다"고 밝혔다.​ ▲ 한국IBM 클라이언트 엔지니어링 총괄 김지관 상무 또한, LLM 기반의 시스템을 통해 사용자의 요청을 지능적으로 분석하고 가장 적절한 경로로 연결하며, 단순한 질의응답을 넘어 특정 업무 수행, 지식 베이스 검색, 필요 시 사람의 개입까지 유연하게 확장되어 기존에 수 분에서 수 시간이 소요되던 업무를 수 초 또는 수 분 이내에 처리할 수 있도록 지원하고 있다고 설명했다.​ 한국IBM은 에이전틱 AI 전략의 차별화 요소로 ▲사전 구축된 AI 에이전트 컴포넌트와 스킬 기반의 빠른 구현 역량 ▲다양한 클라우드 또는 벤더에서 제공하는 AI와 앱에 대한 통합과 조정 ▲기업용 거버넌스 역량으로 신뢰할 수 있는 AI 구현 및 운영 ▲클라우드, 온프레미스 등 원하는 환경을 자유롭게 선택, 구축, 이동할 수 있는 하이브리드 기술 등을 강조했다.​ 한편, 한국IBM은 4월 22일 서울 드래곤시티 호텔 그랜드볼룸에서 'IBM 테크 이노베이션 서밋 2025(IBM Tech Innovation Summit 2025)'을 개최할 예정이다. 이번 행사는 AI 엔지니어, 데이터 사이언티스트, IT 아키텍트, 개발자 등 현업 IT 기술 전문가들을 대상으로 IBM의 최신 기술을 소개하고 직접 체험할 수 있는 자리로, 생성형 AI 도입부터 기술 심화 및 확장 단계, AI 에이전트, 생성형 AI를 위한 데이터, IT 자동화 등 기업의 AI 여정을 가속화할 수 있는 다양한 주제를 다룰 예정이다.

IBM은 하드웨어, 소프트웨어, 시스템 운영 전반에 걸쳐 AI 기술을 탑재한 차세대 메인프레임 IBM z17을 공개했다. IBM 텔럼 II 프로세서(IBM Telum Processor)를 기반으로 하는 IBM z17은 거래 기반 AI(transactional AI) 기능을 넘어 새로운 워크로드를 지원할 수 있도록 시스템 기능을 확장했다. IBM z17은 이전 제품인 z16 대비 하루 50% 더 많은 AI 추론 작업을 처리할 수 있는 등 기업이 혁신을 추진하고 더 많은 일을 할 수 있도록 지원한다. IBM z17은 대출 리스크 완화, 챗봇 서비스 관리, 의료 이미지 분석 지원, 상거래 범죄 방지 등 250개 이상의 광범위한 AI 활용 사례로 산업 전반에 걸쳐 비즈니스 가치를 창출하도록 설계되었다. IBM z17은 미국 특허청에 출원한 300개 이상의 특허를 포함한 5년간의 설계 및 개발의 결과물이다. 100여 개 이상의 고객사가 직접 제시한 의견을 반영한 것은 물론, IBM 리서치 및 소프트웨어 팀과의 긴밀한 협업을 통해 설계된 이 새로운 시스템은 다중 모델 AI 기능, 데이터 보호를 위한 새로운 보안 기능, 시스템 사용성 및 관리 개선을 위한 AI 툴을 도입했다.     z17에 탑재된 AI 추론 기능은 향상된 주파수, 컴퓨팅 용량, 캐시 40% 증가, 하루에 4500억 건 이상의 추론 작업과 1ms의 응답 시간을 지원하는 IBM 텔럼 II 프로세서에 내장된 2세대 온칩 AI 가속기에 의해 구동된다. 2025년 4분기에 PCIe 카드를 통해 출시될 예정인 IBM 스파이어 액셀러레이터(IBM Spyre Accelerator)는 텔럼 II 프로세서를 보완하는 추가적인 AI 컴퓨팅 성능을 제공한다. 두 제품은 다중 모델 방식의 AI를 지원하기 위한 최적화된 환경을 조성하는데 기여한다. 스파이어 액셀러레이터는 시스템에 포함된 엔터프라이즈 데이터를 활용해 어시스턴트를 실행하는 등 메인프레임에 생성형 AI 기능을 제공하도록 특별히 설계됐다. IBM z17은 2025년 6월 18일, IBM 스파이어 액셀러레이터는 2025년 4분기에 출시될 예정이다. z17은 개발자와 IT 운영자의 기술과 효율성을 강화하기 위해  IBM 왓슨x 코드 어시스턴트 포 Z(IBM watsonx Code Assistant for Z)와 IBM 왓슨x 어시스턴트 포 Z(IBM watsonx Assistant for Z)를 포함한 AI 어시스턴트와 AI 에이전트를 활용할 수 있게 설계되었다. 한편, IBM 왓슨x 어시스턴트 포 Z는 실시간 시스템 데이터를 사용해 최초로 AI 채팅 기반 사고 감지 및 해결 기능을 제공하는 Z 오퍼레이션 유나이트(Operations Unite)와 통합될 예정이다. 한국IBM의 류정훈 Z/리눅스원 사업총괄 상무는 “IBM 메인프레임은 전 세계 금융 거래의 70%를 처리하고 있다”면서, “최근 기업들이 AI 활용에 큰 관심을 보이는 만큼, AI 성능을 크게 향상시킨 z17을 통해 보다 많은 업무를 효율적이고 안전하게 처리할 수 있도록 지원하겠다”고 말했다.

IBM은 ‘테크익스체인지(TechXchange)’ 연례 행사에서 자사의 진보된 인공지능(AI) 모델 제품군인 ‘그래니트(Granite) 3.0’을 발표했다.  IBM 그래니트 모델은 아파치 2.0 라이선스 하에 공개되어 특정 모델에 대한 비종속성을 갖는다. IBM은 “3세대 그래니트 플래그십 언어 모델은 많은 학술 및 산업 벤치마크에서 비슷한 크기의 다른 모델들을 능가하거나 동등한 성능을 보이며, 성능, 투명성, 안전성을 입증했다”고 전했다. 이번에 발표된 IBM의 그래니트 3.0 제품군은 범용/언어 모델, 안전 장치 및 안전성 모델, 혼합 전문가 모델 등으로 구성되었다. 이 중 새로운 그래니트 3.0 8B 및 2B 언어 모델은 기업 AI에 최적화된 주력 모델로 설계되어, RAG(검색 증강 생성), 분류, 요약, 엔터티 추출 및 도구 사용과 같은 다양한 작업에서 높은 성능을 제공한다. 이 모델들은 소형이면서도 유연해 기업 데이터를 기반으로 세밀하게 조정할 수 있으며, 다양한 비즈니스 환경과 워크플로에 손쉽게 통합되도록 설계되었다는 것이 IBM의 설명이다.     대부분의 대규모 언어 모델(LLM)은 공개 데이터를 기반으로 훈련되며, 기업의 데이터를 활용하는 경우는 아직 많지 않다. IBM은 지난 5월 레드햇과 함께 선보인 인스트럭트랩(InstructLab) 정렬 튜닝 기법을 통해 소형 그래니트 모델과 기업 데이터를 결합하면 더 큰 모델의 성능을 훨씬 낮은 비용으로 구현할 수 있다고 소개한 바 있다. 특히, IBM은 왓슨x.ai(watsonx.ai)에서 제공되는 모든 그래니트 모델에 대해 지적 재산권 보장 프로그램을 제공해, 기업 고객이 자신의 데이터를 모델과 결합해 사용할 수 있도록 지원한다. 그래니트 3.0 기술 보고서와 사용 가이드는 이 모델들을 훈련하는 데에 사용된 데이터 세트, 필터링, 정제 및 큐레이션 과정에 대한 상세 정보와 주요 학술 및 기업 벤치마크에서의 성능 결과를 제공한다. IBM은 이번 출시를 통해 그래니트 가디언(Granite Guardian) 모델도 새롭게 선보였다. 이 모델은 애플리케이션 개발자가 사용자 명령어와 LLM의 답변에서 발생할 수 있는 다양한 위험 요소를 감지해 안전 장치를 구현할 수 있도록 지원한다. 그래니트 가디언 3.0 8B와 2B 모델은 포괄적인 위험 및 피해 탐지 기능을 제공한다. 이 모델은 사회적 편견, 증오, 유해성, 욕설, 폭력, 보안 우회(jailbreaking) 등의 위험 요소를 감지할 뿐만 아니라, 정보의 신뢰성, 맥락의 적합성, 답변의 관련성과 같이 RAG 작업에 특화된 고유한 검증 기능도 갖추고 있다. 그래니트 가디언 모델은 그래니트 언어 모델에서 파생되었지만, 타사의 어떤 AI 모델과도 함께 안전 장치를 구현하는 데에 사용할 수 있다. 한편, IBM은 왓슨x 오케스트레이트(watsonx Orchestrate)와 같은 로코드 도구와 자동화를 통해 기업들이 자체 AI 어시스턴트를 쉽게 개발할 수 있도록 돕는 기술부터 고객 서비스, 인사, 영업, 마케팅 등 특정 업무와 영역에 특화시켜 사전 구축된 어시스턴트에 이르기까지 다양한 AI 어시스턴트 기술 포트폴리오를 지속적으로 발전시키고 있다고 전했다. 전 세계의 많은 조직이 왓슨x 어시스턴트를 활용해 고객이나 직원의 질문에 답변하고, 레거시 IT 애플리케이션을 현대화하며, 학생들이 직업 경로를 탐색하도록 돕거나 주택 구매자를 위한 디지털 융자 지원을 제공하는 등 AI 어시스턴트를 구축했다. 이를 위해 IBM은 그래니트 코드 모델을 기반으로 C, C++, Go, 자바(Java), 파이썬(Python) 등 다양한 프로그래밍 언어에 대한 범용 코딩 지원과 엔터프라이즈 자바(Java) 애플리케이션을 위한 고급 애플리케이션 현대화 기능을 제공하는 차세대 ‘왓슨x 코드 어시스턴트(watsonx Code Assistant)’ 도 올해 4분기에 출시할 예정이라고 발표했다. 그래니트 3.0 모델은 아파치 2.0 라이선스 하에 허깅페이스(HuggingFace)에서 다운로드할 수 있다. 그래니트 3.0 8B 및 2B 언어 모델의 인스트럭트 버전과 그래니트 가디언 3.0 8B 및 2B 모델은 IBM 왓슨x 플랫폼에서 상업적으로 사용가능하다. 일부 그래니트 3.0 모델은 엔비디아의 NIM 마이크로서비스 및 허깅페이스와 통합된 구글 클라우드의 버텍스 AI 모델 가든(Vertex AI Model Garden)을 통해서도 제공된다. 또한, IBM은 전 세계 기업들에 더 많은 선택지를 제공하기 위해 AWS, 도커(Docker), 도모(Domo), 퀄컴 테크놀러지스(Qualcomm Technologies, Inc.)의 퀄컴 AI 허브(Qualcomm AI Hub), 세일즈포스(Salesforce), SAP 등 생태계 파트너들과 다양한 그래니트 모델을 이들 파트너 솔루션에 통합하거나 플랫폼에서 사용할 수 있도록 협력하고 있다.

AI와 하이브리드 클라우드로 디지털 혁신 지원   한국IBM은 9월 3일 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스 그랜드볼룸에서 ‘IBM AI 서밋 코리아 2024’를 개최했다. 이번 서밋에서는 ‘기업 혁신을 극대화하는 AI, 자동화, 하이브리드 클라우드’를 주제로 다양한 논의가 이루어졌다. 또한 AI와 하이브리드 클라우드를 활용한 디지털 혁신의 방향성에 대해 깊이 있는 통찰이 제시됐다. 한국IBM 이은주 사장과 AI 및 클라우드를 통한 디지털 혁신과 향후 전망에 대해 이야기를 나눴다. ■ 박경수 기자   ▲ 한국IBM 이은주 사장   AI를 도입하려는 기업들이 초기에 직면하는 주요 도전 과제는 무엇이며, IBM은 이러한 도전 과제를 어떻게 지원하고 있나 기업이 AI를 도입하는 과정에서 해결해야 하는 과제 중에서 ‘AI 모델’과 ‘데이터’가 가장 기본적인 요소이다. ‘AI 모델’의 경우, 하나의 AI 모델을 적용해서 비즈니스의 모든 문제를 해결하기를 기대하는 경우가 있는데 이는 효율적이지 않은 경우가 많다. 고객 서비스를 위해 챗봇 상담원이 필요한 부서와 애플리케이션을 개발하고 IT 운영을 관리하는 부서에서 필요한 AI 모델이 다르기 때문이다.  IBM 왓슨x는 다양한 오픈소스 AI 모델 중 적용하고자 하는 업무에 맞는 AI 모델을 선택해서 사용할 수 있게 하고 있다. 특히 업무별 특화 모델을 제공해서 대규모 범용 AI 모델을 사용하는 것에 비해 훨씬 저렴한 비용으로 큰 효과를 누릴 수 있도록 하고 있다. 그리고, 기업에서 가장 중요한 신뢰성과 규제, 리스크를 관리할 수 있는 거버넌스를 위한 AI 기술을 제공하고 있다.  AI 프로젝트에서 또 다른 필수 요소는 ‘데이터’이다. 복잡한 비즈니스 환경에서 발생하는 많은 데이터를 어떻게 효과적으로 AI에 학습, 관리, 적용시킬 것인가가 AI 도입의 성공 여부를 결정짓는 요소이다. 이를 위해 IBM은 IBM 데이터 패브릭 아키텍처를 통해 전체 데이터와 AI 라이프사이클을 지원하는 모듈형의 전략적 포트폴리오를 제공하고 있다.    하이브리드 클라우드와 AI가 결합되었을 때 보안 측면에서 기업들이 염두에 두어야 할 핵심 요소는 무엇이며, IBM은 이를 어떻게 해결하고 있는지 신뢰할 수 있는 AI를 구축하기 위해서 데이터 수집과 처리에 대한 데이터 보호, 모델 개발과 훈련에 대한 모델 보호, 모델 추론과 실사용에 대한 활용 보호와 함께, AI 모델이 구축되고 실행되는 인프라에 대한 보호가 필요하다. IBM은 AI를 위한 기업 내 다양한 데이터에 대해 이상 트랜잭션을 실시간으로 감지하고 하이브리드 멀티 클라우드 환경에 대한 중앙집중식 가시성, 제어 및 자동화를 제공하는 가디엄(Guardium)과 같은 보안 솔루션으로 고객을 지원하고 있다.    ▲ 한국IBM 이은주 사장은 IBM 데이터 패브릭 아키텍처를 통해 전체 데이터와 AI 라이프사이클을 지원하는 모듈형의 전략적 포트폴리오를 제공하고 있다고 설명했다.   AI와 자동화가 기업 혁신에 미치는 장기적인 영향은 무엇이라고 보는지. 한국 시장에서는 어떤 산업군이 이러한 혁신을 가장 빠르게 받아들이고 있다고 생각하나 AI는 전례 없는 혁신 기술로 전세계 GDP를 연간 4조 4000억 달러 (한화 약 5800조 원) 증가시킬 것으로 전망된다. 초기 AI가 소비자 영역에서 즐거움과 혁신을 가져왔다면, 비즈니스를 위한 AI는 생산성과 수익 성장을 주도할 것이다. AI는 고객 경험을 향상시키고, 애플리케이션 개발에 있어 생산성을 크게 끌어올릴 뿐 아니라, 디지털 노동에서 수작업을 자동화하고 HR/IT/조달 등 업무 프로세스를 간소화할 것이다. 최근 고객을 만나보면 금융, 제조, 유통, 공공 등 모든 산업에 있는 고객사가 AI 도입에 관심을 가지고 이미 도입하거나 도입을 고려하고 있다. 이는 특정 산업군에서만 발견되는 것이 아니라 전 산업군에서 모두 볼 수 있는 현상이다.    ▲ IBM의 차세대 AI 및 데이터 플랫폼, IBM의 watsonx   IBM AI 서밋에서 소개된 최신 기술 중, 향후 3~5년 내에 가장 큰 변화를 가져올 것이라고 생각하는 기술 또는 개념은 무엇인지 지금 이 시간에도 빠르게 발전하고 있는 AI가 사회적으로나 비즈니스적으로 가장 큰 변화를 가져올 것은 자명하다. AI는 생산성이나 효율성에 있어 그 어떤 기술과 비교할 수 없는 향상을 가져올 것이다. 그러나 향후 4년 내에 최대 10억 개의 관련 앱이 만들어질 것이라는 전망이 있듯이 생성형 AI의 도입은 필연적으로 비즈니스 환경과 운영의 복잡성을 증가시킬 것이다. 따라서 인스타나(Instana), 터보노믹(Turbonomic), 앱티오(Apptio), IBM 콘서트(Concert) 등과 같이 비즈니스 운영상의 복잡성을 해결해주는 AI 기반 자동화 기술의 도입이 가속화되어 애플리케이션 통합 및 현대화 영역의 문제를 해결할 것이다.   AI 솔루션을 도입한 기업이 기존 인프라와의 통합 과정에서 겪는 어려움은 무엇이고, IBM은 이를 어떻게 해결하고 있나 AI와 하이브리드 클라우드는 동전의 양면과 같아서 따로 떼어 생각할 수 없다. 데이터를 저장하는 위치, 접근하고 안전하게 유지하는 방법에 이르기까지 데이터가 중요하기 때문이다. 수익성 있게 생성형 AI를 확장하려면 우연히 갖게 된 하이브리드 클라우드 환경이 아니라 AI에 대해 개방적이고 유연하면서도 신뢰할 수 있는 접근 방식을 지원할 수 있는, 의도적으로 설계된 하이브리드 클라우드 즉 ‘하이브리드 바이 디자인(Hybrid by Design)’ 접근방식이 필요하다.  조사에 의하면, 하이브리드 바이 디자인 접근방식을 취한 기업은 우연히 하이브리드 클라우드를 활용하게 된 기업보다 3배 이상 높은 ROI를 거두는 것으로 나타났다. 실제로, 세계적인 기업인 아우디와 버라이존은 레드햇 오픈시프트 기반의 ‘하이브리드 바이 디자인’ 환경을 갖춰 IT 프로젝트나 5G 네트워크 구축 프로젝트 시 시간과 비용, 효율면에서 뛰어난 성과를 거두었다.   ▲ 생성형 AI로 인해 글로벌 GDP가 약 10조 달러 증가할 것으로 예상된다.   ■ 같이 보기 : [포커스] IBM, 산업 혁신을 돕는 AI와 하이브리드 클라우드 기술 소개     ■ 기사 내용은 PDF로도 제공됩니다.

한국IBM은 9월 3일 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 'IBM AI 서밋 코리아 2024'를 개최했다. 이번 행사는 '기업 혁신을 극대화하는 AI, 자동화, 하이브리드 클라우드'를 주제로 하여, 디지털 전환을 촉진하는 IBM의 AI 및 클라우드 솔루션을 중심으로 다양한 산업 혁신 사례들이 소개됐다. ■ 박경수 기자    ▲ IBM이 개최한 ‘IBM AI 서밋 코리아 2024’ 발표현장   왓슨x를 통한 글로벌 기업 AI 혁신 사례  IBM은 2023년에 출시한 왓슨x(watsonx) 플랫폼을 활용해 전 세계 기업들이 AI를 활용해 어떻게 비즈니스 가치를 창출하고 있는지를 강조했다. 왓슨x는 IBM이 개발한 AI 및 데이터 플랫폼으로, 기업이 AI 모델을 구축하고 관리할 수 있도록 지원하는 통합 솔루션이다. 왓슨x는 생성형 AI와 머신러닝 모델의 학습, 튜닝, 배포를 돕는 플랫폼으로, 기업이 신뢰할 수 있는 데이터 기반의 AI를 통해 더 효율적이고 비용 효과적으로 AI 솔루션을 도입할 수 있도록 설계되었다. 유럽의 한 통신사는 왓슨x로 고객 응대 시스템을 혁신했다. 이 통신사는 왓슨x를 사용해 매달 80만 건의 고객 문의 응답 시간을 30% 단축했고, 이를 통해 고객 만족도를 40% 향상시키는 성과를 거두었다. 미국의 한 헬스케어 기업은 왓슨x를 통해 환자 데이터 관리 시스템을 개선했다. 이를 통해 더 나은 진료 분석과 예측 모델을 구현해, 의료 서비스의 질을 크게 향상시켰다. 이 기업은 왓슨x를 통해 대규모 데이터셋을 효과적으로 관리하며, 진단과 치료 방식을 자동화했다. 왓슨x는 금융 서비스 분야에서도 활용되어 리스크 관리와 자동화된 고객 서비스 개선에 기여하고 있다. 금융 회사들은 왓슨x의 AI 솔루션을 활용해 실시간 거래 분석과 예측 모델을 구축함으로써 더 나은 투자 결정을 내리는데 활용하고 있다. 이은주 한국IBM 사장은 환영사에서 “현재 많은 기업이 AI를 시험 단계를 넘어 비즈니스 전반으로 확산하려는 방안을 모색하고 있지만, 여러 도전 과제가 있다”며, “AI 여정을 성공적으로 이끌고 있는 고객들은 소수의 AI 프로젝트에 집중한 뒤 이를 기업 전체로 확장하고 있다”고 설명했다. 이어서 “전 세계 1000개 이상의 고객과 파트너들이 고객 경험, 애플리케이션 현대화, 디지털 노동(digital labor) 등 특정 영역에 IBM의 생성형 AI 플랫폼인 왓슨x를 적용하고 있다. IBM 왓슨x는 신뢰할 수 있는 데이터로 학습된 파운데이션 모델을 제공하며, 목적에 맞게 조정된 소규모 모델을 활용해 AI 추론 비용을 제어하면서도 성능과 품질을 유지할 수 있다”고 강조했다.   ▲ ‘IBM AI 서밋 코리아 2024’에서 부스를 꾸미고 관람객과 소통에 나선 IBM과 채널사들   AI와 하이브리드 클라우드를 통한 디지털 혁신 IBM은 이번 서밋에서 AI와 하이브리드 클라우드가 어떻게 기업의 디지털 전환을 가속화하고 있는지에 대해 다양한 사례를 들어 설명했다. IBM의 하이브리드 클라우드는 온프레미스(기업 내부 서버), 프라이빗 클라우드, 퍼블릭 클라우드를 모두 통합해 사용할 수 있도록 설계된 클라우드 컴퓨팅 환경이다. 이를 통해 기업은 유연성과 효율성을 극대화하면서도 보안과 데이터 관리의 유연성을 유지할 수 있다. 하이브리드 클라우드는 IBM의 레드햇 오픈시프트(Red Hat OpenShift) 플랫폼과 통합되어 운영되며, 이를 통해 다양한 클라우드 환경에서 일관된 애플리케이션 관리를 가능하게 한다는 점이 특징이다. 이처럼 IBM의 하이브리드 클라우드는 다양한 IT 환경에서 AI 모델을 유연하게 배포하고 관리할 수 있도록 설계되어 있으며, 이를 통해 기업은 비용을 절감하고 성능을 극대화할 수 있다. 특히 IBM 왓슨x 플랫폼은 고품질 데이터와 맞춤형 모델로 AI 추론 비용을 제어하면서도 우수한 성능을 유지할 수 있도록 설계되었다는 점이 특징이다. 이는 IBM의 글로벌 고객들이 디지털 노동, 애플리케이션 현대화 등 다양한 비즈니스 과제에서 AI를 활용해 혁신을 이루는데 기여하고 있다. 한편, 전 프로골퍼이자 기업인으로 방송인으로 활발한 활동을 보여주고 있는 박세리 감독이 이번 서밋에 참석했다. 박세리 감독은 한국IBM CTO 이지은 전무와 함께 ‘AI 기술로 변화하는 스포츠의 미래’를 주제로 스포츠 업계에서 어떻게 AI를 활용하고 있는지 토론에 참여했다. 박세리 감독은 “스포츠에서는 팬들의 참여를 유도하는 것이 비즈니스 성공의 핵심 요소”라며, “스포츠 업계는 더 많은 관중 참여와 관심을 끌기 위해 매년 최첨단 기술 도입에 적극 나서고 있다”고 설명했다. 실제로 IBM은 마스터즈 골프, 윔블던 테니스, US 오픈 등 글로벌 스포츠 이벤트뿐만 아니라 금융, 제조, 유통 등 다양한 산업에서 사용되는 생성형 AI, 자동화, 하이브리드 클라우드를 접목해 디지털 팬 경험을 향상시키고, 스포츠 비즈니스의 생산성을 높이는데 기여하고 있다.  박세리 감독은 마스터즈 골프를 예로 들며, “생성형 AI와 같은 기술이 도입되면서 현장에 참여하지 못한 팬들도 높은 만족감을 느낄 수 있었다. 이 기술이 다양한 분야에서 스포츠 비즈니스의 성장을 이끌고 변화를 가져올 것이라고 기대한다”고 말했다.   ▲ 이지은 한국IBM CTO와 스포츠 분야에 AI 도입에 대해 토론 중인 박세리 감독   성공적인 AI 적용을 위한 데이터 관리의 중요성 IBM의 데이터 및 AI 전문가들은 생성형 AI의 성공적인 비즈니스 적용을 위해서는 신뢰할 수 있는 모델과 데이터 관리가 필수임을 강조했다. IBM의 인스트럭트랩(InstructLab) 기술은 이러한 데이터 관리 과정을 체계화하여, 기업이 AI 모델을 더 효율적으로 학습시키고 운영할 수 있도록 돕는다. 이 기술은 AI와 클라우드를 통합하여 기업이 데이터 통합, 거버넌스, 그리고 신뢰성 문제를 해결하는 데 중요한 역할을 한다. 인스트럭트랩은 AI 모델 학습 및 데이터 관리를 위한 도구로, 주로 기업이 AI 프로젝트에서 데이터를 보다 효율적으로 관리하고 생성형 AI 모델을 성공적으로 적용할 수 있도록 지원하는 기술이다. 인스트럭트랩은 왓슨x 플랫폼과 통합되어 AI 모델을 학습시키고, 다양한 비즈니스 요구에 맞게 조정하는데 필수적인 기능을 제공한다. 이 기술의 핵심 목표는 데이터 통합, 품질 관리, 신뢰할 수 있는 데이터 거버넌스를 통해 AI 모델이 더 정확하고 효율적으로 학습할 수 있도록 돕는 것이다. 특히, 인스트럭트랩은 복잡한 데이터 관리 과정을 자동화하고 체계화함으로써 AI 프로젝트의 생산성과 성공률을 높이는 역할을 한다. 미드하트 샤히드 IBM 월드와이드 데이터 패브릭 및 클라우드 팩 포 데이터 제품 관리 부사장과 아눕 쿠마 IBM 아태지역 데이터 & AI CTO는 생성형 AI를 비즈니스에 성공적으로 적용하기 위해서는 신뢰할 수 있는 모델, 고품질의 데이터, 데이터 통합 및 거버넌스 등 체계적인 데이터 관리가 필수라고 강조했다. 이들은 이번 서밋에서 생성형 AI를 성공적으로 비즈니스에 적용하려면 신뢰할 수 있는 모델, 고품질 데이터, 데이터 통합 및 거버넌스가 필수적이라고 강조했다. 또한 AI 프로젝트의 성공을 위해 신뢰성 있고 일관된 데이터 관리가 필수적이라며, 이를 통해 AI 모델의 성능을 극대화할 수 있다고 이야기했다. 샤히드 부사장은 IBM의 데이터 패브릭(Data Fabric) 기술을 통해 다양한 데이터 소스에서 실시간으로 데이터를 안전하게 통합하고 관리하는 중요성에 대해 설명했다. 이 데이터 패브릭은 AI 모델 학습의 기초가 되며, 신뢰할 수 있는 데이터를 지속적으로 공급함으로써 AI 프로젝트가 시험 단계를 넘어 실제 비즈니스에 도입될 수 있도록 돕는다. 쿠마 CTO는 기업이 생성형 AI를 성공적으로 도입하기 위해서는 데이터 거버넌스가 매우 중요하다고 강조했다. AI 모델이 공정하고 편향되지 않도록 관리하는 것이 중요한데, 그는 IBM의 watsonx.governance가 이를 자동화된 방식으로 해결한다고 설명했다. 이 도구는 AI 모델의 신뢰성, 공정성, 편향 여부를 지속적으로 모니터링하고, 규제 요구사항에 맞게 관리할 수 있게 해준다. 한편, 이번 서밋에서는 한국IBM의 데이터 및 AI 전문가와 국내 고객이 함께 진행한 다양한 산업별, 업무 영역별 생성형 AI 파일럿 프로젝트의 경험과 교훈도 공유되었다. 또한 AI 프로젝트 지원을 위한 디스커버리 워크샵, 핸즈온 프로그램, 인큐베이션 프로그램 등도 소개되었다.   ■ 같이 보기 : [피플&컴퍼니] 한국IBM 이은주 사장     ■ 기사 내용은 PDF로도 제공됩니다.