해마다 연말이 되면 업계에서는 새해의 전망을 내놓는다. 특히 IT 분야에서는 여러 기술 기업이 AI(인공지능)를 중심으로 한 2026년 전망을 소개했다. 2026년은 산업을 가리지 않고 AI가 본격 활용되는 해가 될 것으로 보인다. 이제는 AI를 사용하는 기업 사용자의 초점이 ‘AI를 도입해야 하는가’에서 ‘어떻게 AI를 활용해야 하는가’로 옮겨가고 있다. 지난 달 미디어 대상의 간담회를 진행한 IBM, 델 테크놀로지스, 오라클은 공통적으로 ‘데이터’가 AI를 성공적으로 정착시키고 기업의 미래를 결정짓는 핵심 자산이라고 강조했다. ■ 정수진 편집장
데이터, AI 시대 기업 경쟁력의 핵심이 되다
AI 학습을 위한 데이터의 중요성은 꾸준히 커지고 있다. AI 시대의 데이터는 단순한 정보의 기록에 그치지 않고, 기업의 미래를 결정짓는 핵심 자산이자 경쟁력의 원천이라는 것이다. 한편으로, 누구나 사용할 수 있는 범용 AI 모델이나 알고리즘만으로는 차별회된 경쟁력을 확보하기 어렵다는 목소리도 나온다.
한국IBM의 이수정 사장은 “기업이 비즈니스를 수행하며 축적해 온 기업의 고유 데이터야말로 AI를 자사에 최적화하고 실질적인 성과를 내게 하는 결정적 자산”이라고 설명했다. 델 테크놀로지스는 AI 알고리즘만으로는 차별화된 혁신을 이룰 수 없으며, 고품질의 데이터와 이에 대한 손쉬운 접근이 필수라고 짚었다.
▲ IBM은 AI가 학습하고 활용할 수 있도록 준비된 데이터가 필요하다고 짚었다.
오라클 역시 공개된 데이터로 학습된 범용 AI 모델만으로는 기업 관점에서 신뢰할 수 있고 실질적인 가치를 창출하기에 부족하다고 보았다. 기업이 가진 문제를 해결하기 위해서는 기업 내부에 축적된 비공개 데이터를 학습하고 활용해야 하며, 누가 더 자신의 데이터를 AI에 잘 접목하느냐가 AI 시대의 경쟁력이라는 것이다.
AI의 신뢰성과 성능을 위한 데이터 활용 전략
데이터는 AI가 정확한 답변을 내놓게 하고, 고도화된 추론을 수행하게 만드는 연료가 된다. IBM은 AI, 특히 생성형 AI의 결과물 수준이 입력되는 데이터의 품질에 따라 결정된다고 보고 있다. 품질이 낮거나 관리가 안 된 데이터는 AI의 환각(hallucination) 현상으로 이어지기 때문에, 추적이 가능하고 통제된 ‘AI를 위한 데이터(AI ready data)’가 신뢰할 수 있는 AI를 만들 수 있다는 설명이다.
델 테크놀로지스는 데이터가 단순한 정보 제공을 넘어 자율형 AI 에이전트의 ‘지능’과 ‘기억’을 형성하는 데 결정적인 역할을 한다고 설명했다. 델 테크놀로지스의 존 로즈(John Roese) CTO(최고 기술 책임자) 겸 CAIO(최고 AI 책임자)는 “에이전트가 일반적인 LLM보다 똑똑해지려면 기업의 특화 데이터를 지식 그래프(knowledge graph) 형태로 변환해서 단기 및 장기 메모리를 제공해야 하며, 실시간 추론 과정에서도 정제된 데이터 공급이 필수”라고 전했다.
▲ 델 테크놀로지스는 AI가 이해할 수 있는 데이터를 구축하는 지식 레이어의 필요성을 강조했다.
한편, 그동안 활용되지 못한 방대한 비정형 데이터를 AI가 이해할 수 있는 형태로 변환하는 것이 새로운 기회로 떠오르고 있다. IBM은 기업 데이터의 90% 이상을 차지하는 문서나 이미지 등의 비정형 데이터를 AI가 이해할 수 있도록 정형화하는 것이 AI 경쟁력의 핵심이라고 보고 있다. 델 테크놀로지스 또한 전 세계 신규 데이터의 80%가 비정형 형태로 생성되고 있다면서, 이를 효과적으로 관리하고 처리하는 역량이 미래 기업의 경쟁력이 될 것으로 전망했다.
인사이트를 얻고 데이터 주권을 확보할 수 있도록 데이터를 통합하는 것 역시 중요한 전략으로 꼽힌다. 데이터가 분산되어 있으면 AI의 지능도 조각나며, 보안이 없이는 AI 도입 자체가 불가능하다는 점도 데이터 전략이 중요해지는 배경이다. 한국오라클의 조경진 상무는 “데이터가 분산되면 기업은 단편적이고 분산된 지식밖에 얻을 수 없다”면서, “통합된 데이터를 기반으로 해야만 기업 전체를 꿰뚫는 심도 있는 인사이트를 도출할 수 있다”고 지적했다. 또한 민감한 정보가 유출되지 않도록 데이터가 저장된 원천 위치에서 보안과 통제가 이루어져야 기업이 안심하고 AI를 도입할 수 있다고 강조했다.
AI 시대의 성패는 데이터가 결정한다
세 기업은 모두 남들이 가진 일반적인 데이터나 범용 AI 모델(Public Model)만으로는 기업의 차별화된 경쟁력을 확보할 수 없다는 데 의견을 같이했다. 한편으로, 이를 실현하는 방법론에서 IBM은 ‘정제’, 델은 ‘계층화’, 오라클은 ‘내재화’를 핵심 키워드로 제시했다.
IT 업계에서는 이제 AI 도입의 실험 단계를 넘어, 기업들이 실질적인 투자 수익(ROI)을 거두는 단계로 진입해야 한다고 보고 있다. 이를 위한 선결 과제는 사내 곳곳에 흩어진 데이터를 AI가 이해할 수 있는 형태로 가공하고, 강력한 거버넌스를 통해 관리해서 기업 고유의 자산을 확보하는 것이다.
‘원유’인 데이터를 정제하는 플랫폼
IBM은 데이터 전략을 기술 전략이 아닌 경영 전략으로 보고 있다. IBM의 접근법은 데이터를 고성능의 생성형 AI를 위한 연료로 만드는 것이다. 데이터를 추적 가능하고 통제된 상태의 ‘AI를 위한 데이터’로 정제해야 한다는 설명이다. IBM은 데이터를 단순히 보관하는 것이 아니라, 매출 전환이나 고객 이탈 방지 등 구체적인 KPI와 연결해 자산 가치를 입증하는 데 주력하고 있다.
데이터 구조의 진화, ‘지식 레이어’를 구축해야
델은 IT 업계의 중심이 GPU 등의 연산(compute) 능력에서 데이터로 이동할 것으로 전망했다. 델의 해법은 인프라와 데이터 구조를 진화시키는 데에 초점을 맞춘다. 델은 기존의 시스템에 기록된 데이터를 AI 에이전트가 이해할 수 있는 벡터나 지식 그래프 형태로 변환해서, 별도의 ‘지식 레이어(knowledge layer)’를 구축해야 한다고 보고 있다. 이런 지식 레이어는 자율형 AI 에이전트에게 기억과 지능을 제공함으로써, 실시간 추론과 업무 수행을 가능하게 하는 기반이 된다.
▲ 오라클은 데이터베이스 안에서 AI와 데이터가 결합된 통합 아키텍처를 제시했다.
데이터가 있는 곳에 AI를
오라클은 보안과 데이터 주권을 강조하면서, 데이터를 AI 모델로 가져가는 것이 아니라 데이터가 있는 곳에 AI를 심는 AI 내재화(built-in) 방식을 제안한다. 데이터베이스 자체에 AI 기능을 통합함으로써 데이터의 외부 유출을 원천 차단할 수 있다는 것인데, 이를 통해 루트 권한자가 볼 수 없는 데이터는 AI도 볼 수 없게 하는 강력한 보안을 구현한다는 설명이다. 또한, 관계형 데이터와 벡터 데이터를 통합 처리하는 융합형 데이터베이스를 통해 데이터 분산에 따른 지식의 파편화를 막고, 통합된 인사이트를 제공한다는 점을 차별화 포인트로 내세우고 있다.
■ 기사 내용은 PDF로도 제공됩니다.
