[칼럼] PLM 분야에서 AI의 현주소 : 기업은 AI를 어디에, 어떻게 쓰고 있나
트렌드에서 얻은 것 No. 33
‘뭐든 척척’ − 그리고 숨은 간극
요즘 주변의 엔지니어와 동료를 만나 AI 이야기를 꺼내면 반응이 한결같이 밝다. 설계 검토를 거들고, 반복적인 코드를 대신 짜 주고, 장문의 보고서까지 매끄럽게 뽑아 주니 “뭐든 척척 해낸다”며 만족스러워한다. 실제로 손에 익혀 본 사람일수록 호의적이다. 그리고 이 체감은 결코 과장이 아니다. 일하는 방식이 눈에 띄게 가벼워졌다는 증언은 이제 도처에서 들린다.
데이터도 이를 뒷받침한다. 맥킨지(McKinsey)의 ‘2025 AI 현황(State of AI)’ 조사에서 기업의 88%가 이미 AI를 쓰고 있다고 답했다. AI는 더 이상 실험이 아니라 일상이 됐다.
다만 한 꺼풀 더 들어가면 흥미로운 간극이 보인다. 같은 조사에서 AI로 전사 영업이익(EBIT)에 5% 이상 기여한 ‘고성과 기업’은 6%에 그쳤고, MIT의 ‘GenAI Divide’ 보고서는 전 세계가 생성형 AI에 300~400억 달러를 쏟아부었음에도 파일럿의 95%가 손익을 측정할 만한 성과를 내지 못했다고 진단했다. 개인의 만족은 분명한 사실인데, 그 만족이 아직 조직 전체의 성과로는 충분히 번지지 못한 셈이다.
그렇다면 이 ‘척척 해내는’ 개인의 경험을, 어떻게 조직의 성과로 키울 수 있을까. 기업 현장의 AI 활용을 영역별로 따라가 본다.
▲ 클릭하면 큰 그림으로 볼 수 있습니다.
AI 비서(코파일럿) : 만족이 시작되는 곳
대부분의 만족은 ‘AI 비서’에서 출발한다. 메일 초안, 회의록 요약, 번역, 규격 문서 검색, 매크로·코드 작성, 보고서 정리까지 대화 몇 번이면 결과물이 나온다. 사무용 협업 도구와 개발 환경에 비서가 기본 탑재되면서, 개인의 생산성 향상은 누구나 체감하는 현실이 됐다. 지인들이 “뭐든 척척”이라고 말하는 바로 그 지점이다. 이 효용은 진짜이고, AI 여정의 소중한 출발점이다.
여기서 한 걸음 더 나아갈 여지도 분명하다. MIT가 짚었듯, 범용 비서는 개인의 생산성은 확실히 높이지만 조직 전체의 워크플로까지 바꾸지는 못한다. 그래서 ‘AI를 쓴다’고 답한 88% 가운데 다수가 이 단계의 만족에 머문다. 비서는 훌륭한 시작점이며, 다음 단계는 이 개인의 성과를 팀과 공정의 성과로 잇는 일이다.
AI, 기업 속으로 파고들다 − 프리미엄 구독과 ‘섀도 AI’
흥미로운 변화는 위에서 내려오는 도입만이 아니라, 아래에서 올라오는 침투에서 일어나고 있다. 직원들이 회사의 공식 승인과 무관하게, 개인 프리미엄 구독으로 일상 업무에 AI를 끌어다 쓰는 흐름이다.
예컨대 클로드(Claude)의 상위 요금제인 맥스(Max)는 월 100달러(5배)~200달러(20배) 수준으로, 표준 프로(Pro) 요금제 대비 사용량을 크게 늘리고 코딩 도구(Claude Code)까지 온전히 열어준다. 하루 4~5시간씩 복잡한 업무에 AI를 붙들고 사는 지식근로자·개발자·분석가를 겨냥한 요금제다. 이런 고사용 구독을 개인이 직접 결제해, 문서 작성부터 코드·분석까지 ‘하루 종일 쓰는 주력 도구’로 삼는 사람이 빠르게 늘고 있다. 그만큼 효용을 강하게 체감한다는 방증이다.
문제는 이 사용의 상당수가 회사의 레이더망 밖에서 일어난다는 점이다. MIT 조사에 따르면, 직원들이 개인 챗봇 계정을 업무에 쓰는 기업이 90%를 넘는 반면, 회사 차원의 공식 LLM 구독을 갖춘 곳은 40%에 그쳤다. 공식 도입이 정체된 사이, ‘섀도 AI(shadow AI)’ 경제가 음지에서 번창하고 있는 셈이다. 한 보고서는 지식근로자의 71%가 여전히 IT 승인 없이 AI 도구를 쓴다고 집계했다.
이에 대한 기업의 대응은 크게 갈린다. 한쪽은 보안을 이유로 외부 AI를 차단한다. 분기 보고서를 요약하려고 마진 데이터를 외부 챗봇에 붙여 넣는 식의 정보 유출이 실제로 벌어지고, 섀도 AI가 관련된 유출 사고는 건당 평균 약 67만 달러의 추가 비용을 낳는다는 조사도 있다. 우려는 정당하다. 그러나 차단이 곧 사용 중단으로 이어지지는 않는다. 한 도구를 막으면 직원들은 다른 도구로 옮겨갈 뿐이고, 차단은 기업이 얻을 수 있는 AI 가치의 상당 부분까지 함께 버리는 결과가 된다.
그래서 다른 한쪽, 그리고 점점 더 많은 기업은 ‘막기’가 아니라 ‘잘 쓰게 하기’로 방향을 튼다. 승인된 안전한 도구(팀·엔터프라이즈 요금제, 거버넌스가 적용된 사내 환경)를 적극적으로 제공해 직원의 만족과 생산성을 동시에 끌어올리는 것이다. 실제로 한 의료 기관은 승인된 AI 도구를 제공한 뒤 비승인 사용이 89% 줄고, 임상의 1인당 하루 32분을 절약했다고 보고했다. 요컨대 AI는 이미 기업 안으로 깊숙이 들어와 있고, 관건은 그것을 음지에 둘 것인가, 양지로 끌어내 성과로 전환할 것인가다.
로컬 LLM과 주권 AI : 데이터를 안에 두기
물론 ‘잘 쓰게 하기’의 출발점은 보안이다. 사내 정보가 외부 서비스로 흘러가는 것에 대한 우려가 크다. 국내 조사에서도 AI 도입을 가로막는 가장 큰 이유로 ‘정보 유출 우려(41.9%)’가 꼽혔다. 그 결과, 모델과 데이터를 자사 통제 영역 안에 두려는 흐름이 뚜렷해졌다.
핵심 키워드는 ‘로컬 LLM’과 ‘주권 AI(sovereign AI)’다. 거대 범용 모델 대신, 규모는 작지만 특정 도메인에 맞춘 소형 언어 모델(sLLM)을 온프레미스나 사설 클라우드에 올려 민감 데이터가 회사 울타리를 벗어나지 않게 하는 방식이다. 한 조사에서는 데이터 주권을 추구하는 기업의 약 67%가 이미 어떤 형태로든 사설 AI 인프라로 옮겨갔다고 한다. 국내에서도 보안 민감도가 높은 제조·금융 대기업이 외부 서비스 대신 자체 모델(예컨대 삼성전자의 ‘가우스’)과 ‘사내 GPT’를 구축하는 배경이 여기에 있다. 이렇게 안전한 사내 환경이 갖춰지면, 직원들은 마음 놓고 더 적극적으로 AI를 쓸 수 있게 된다.
그리고 보안이 사실상 전부인 일부 영역에서는, 이 로컬·온프레미스 전략이 ‘트렌드’가 아니라 ‘유일한 선택지’가 된다. 대표적인 곳이 국방과 규제 산업이다.
시나리오 중심의 구축 : 국방과 규제 산업
이들 영역의 키워드는 ‘에어갭(air-gap, 폐쇄망)’이다. 시스템이 런타임에 필요로 하는 모든 것—모델, 토크나이저, 검색 엔진—을 경계 안에 미리 갖춰 두고, 외부 API 호출과 클라우드 의존을 0으로 만드는 구조다. 오픈웨이트 모델(라마·미스트랄·큐원 등)을 자체 GPU 클러스터에 올려, 토큰 생성이 단 한 번도 경계를 벗어나지 않게 한다. 여기서 AI는 비서에 그치지 않고, ‘시나리오에 맞춰 짓는’ 대상이 된다.
국방
해외에서는 미 로스앨러모스 국립연구소가 2025년 초, 핵·방산 관련 통제정보(CUI·ITAR)를 다루기 위해 클라우드 대신 LLM 자체 호스팅이라는 ‘더 어려운 길’을 택했다. 미 육군은 로컬에서 호스팅하는 보안 LLM에 접근하는 ‘엔터프라이즈 LLM 워크스페이스’를 배치했고, 이를 군사 영향등급 IL5에서 기밀 작전용 IL6로 확장하고 있다. 데이터 유출 우려 때문에 육군이 타군의 AI 프로그램을 자기 망에서 차단한 일까지 있었을 만큼, 보안 민감도는 절대적이다.
국내도 빠르게 움직인다. 방위사업청은 방위력 개선사업 관련 법령·규정·용어를 학습시켜 내부망에서 문서 요약·초안 작성·특화 번역을 제공하는 생성형 AI 서비스 구축을 추진 중이다. 1단계로 내부 포털에 ‘AI 비서’를 얹고, 2단계에서 사업보고서 초안 생성·현황 분석까지 수행하는 단계적 구상이다. 국방통합데이터센터(DIDC)는 국방 생성형 AI 운영을 위한 GPU 서버 구축을 진행하고, 국내 클라우드 기업은 국방 AI 전환 전담 조직을 신설해 정찰· 감시 영상 분석, 작전 교신 분석 등 군사 데이터를 통합하는 ‘한국형 국방 AI 플랫폼’ 구축에 나섰다. 특히 보안 기관에 엔지니어가 상주하며 현장 시나리오에 맞춰 시스템을 직접 설계·운영하는 ‘전방 배치 엔지니어(FDE)’ 방식까지 등장했다. 그 바탕에는 병력 감소라는 구조적 압박—적은 인력으로 더 많은 일을 해야 한다는 현실—이 있다.
규제 산업
제약(GxP 하의 배치 이력·공정 레시피), 금융(FINRA·SEC 규제), 의료(환자정보 PHI), 그리고 전력·플랜트 같은 중요 인프라와 OT(운영기술) 환경도 같은 길을 걷는다. 이들에게 에어갭은 ‘기능’이 아니라, 규제·감사·국가안보를 동시에 만족시키는 ‘유일한 컴플라이언스 자세’다. 이런 환경의 AI 에이전트는 범용이 아니라 임무 특화로 지어진다. 폐쇄망 안에서 기밀 문서 분석·정보 요약을 수행하고, 공장에서는 인터넷 없이 예지보전·비전 검사·에이전틱 워크플로를 돌린다. 공정 레시피도, 환자 정보도, 공급사 IP도 시설 밖으로 한 줄도 나가지 않는다.
핵심은 ‘범용’이 아니라 ‘시나리오’다. 작전·공정·규제라는 구체적 맥락에 맞춰, 모델과 에이전트를 그 경계 안에서 설계하고 길들인다.
사내 정보 학습과 엔지니어링 지식센터(RAG)
모델을 안으로 들였다면, 다음은 ‘우리 지식을 먹이는 일’이다. 핵심 기술이 RAG(검색 증강 생성)다. 사양서·도면·작업표준·장애 이력·회의록처럼 흩어진 사내 문서를 색인하고, AI가 답을 만들 때 그 근거를 실시간으로 끌어오게 하는 구조다. 이렇게 하면 환각(hallucination)을 크게 줄이고 ‘우리 회사 맥락’에 맞는 답을 얻을 수 있다.
엔지니어링 관점에서 이는 곧 ‘엔지니어링 지식센터’의 구축으로 이어진다. 베테랑의 머릿속과 개인 폴더에 흩어져 있던 설계 노하우·실패 사례·검토 기준을, 질문하면 출처와 함께 답하는 살아있는 지식 베이스로 바꾸는 것이다. 신입도 베테랑의 경험을 즉시 꺼내 쓸 수 있게 되니, ‘척척 해내는’ 경험이 개인을 넘어 조직 전체로 확장된다. 실제로 한 유럽 은행은 RAG 기반으로 감사·컴플라이언스 업무를 자동화해 3년간 약 2천만 유로를 절감하고 36명분의 업무 시간을 돌려받았다고 보고했다.
다만 전제가 있다. RAG의 답은 먹인 데이터의 품질을 넘지 못한다. 사내 문서가 정돈돼 있지 않고 표준이 없으면, 지식센터는 ‘쓰레기를 빠르게 찾아 주는’ 시스템이 될 뿐이다. 8개월 전에 폐기된 규정을 자신 있게 답하는 AI는 모델의 문제가 아니라 데이터·구조의 문제다. 접근권한 통제와 최신성 관리도 필수다.
실행하는 에이전트 : 인사·재무·엔지니어링
가장 앞선 활용은 ‘실행하는 에이전트’다. 질문에 답하는 비서를 넘어, 여러 시스템을 넘나들며 다단계 업무를 스스로 수행한다. 가트너(Gartner)는 2025년 5% 미만이던 ‘업무 특화 에이전트 내장 애플리케이션’이 2026년 말 약 40%까지 늘 것으로 내다봤다. 부서별로 보면 현주소가 좀 더 구체적으로 잡힌다.
인사(HR) : 이력서 스크리닝, 면접 일정 조율, 입사 온보딩 오케스트레이션, 휴가·급여·복리후생 문의 응대 등 정형·반복 업무를 메신저 안에서 처리해, HR 인력을 채용 전략·조직문화 같은 고부가 업무로 돌린다.
재무(finance) : 인보이스-발주서 자동 대사(matching), 비용 승인 흐름, 이상 거래·부정 징후 탐지, ERP 연계 결제 처리. 한 글로벌 투자은행은 450개 이상의 AI 활용 사례를 매일 운영하고, 한 결제 서비스 기업은 단일 고객상담 에이전트로 850여 명분의 업무량을 처리했다고 밝혔다.
엔지니어링 : 현장 엔지니어들이 가장 높은 만족을 표하는 영역이기도 하다. 설계 검토 보조, 생성형 설계(generative design), 코드 자동화, 사내 지식 검색이 일상에 녹아든다. 맥킨지의 조사에서도 에이전트 도입 선도 분야로 IT·지식 관리와 함께 ‘엔지니어링’이 꼽혔고, 소프트웨어·IT 영역에서는 10~20%의 비용 절감이 보고된다.
공통점은 분명하다. 좁고, 반복적이며, 오류 비용이 관리 가능한 업무에서 에이전트는 빛난다. 반대로 과제가 열려 있고 판단의 무게가 클수록, 사람의 검증(human-in-the-loop)은 여전히 필수다.
벤더는 어떻게 대응하나 − PLM·ERP·SaaS의 공통 행보
그렇다면 설루션 벤더들은 이 흐름에 어떻게 대응하고 있을까. 특정 회사를 떠나, PLM·ERP·SaaS 진영 전반에서 관찰되는 공통점은 세 가지다.
첫째, ‘기록의 시스템’에서 ‘실행의 시스템’으로의 전환이다. 과거 데이터를 저장·조회하던 플랫폼들이, 이제 자연어 비서와 에이전트를 기본 기능으로 내장해 사용자가 시스템 안에서 직접 일을 처리하게 만든다. PLM은 BOM·도면 탐색 비서를, ERP는 구매·인사·재무 워크플로 에이전트를, SaaS는 자사 데이터 위에서 동작하는 코파일럿을 전면에 내세운다.
둘째, 보안과 주권을 전제로 한 배치다. 거대 파운데이션 모델을 활용하되, 전용 인스턴스·온프레미스·지역별 데이터 처리 옵션을 제공해 규제와 데이터 주권 요구를 흡수하려 한다. 앞서 본 ‘로컬 LLM’ 수요에 벤더가 응답하는 방식이다.
셋째, ‘담장 안의 지능’이라는 한계다. 어느 벤더든 AI는 결국 자사 플랫폼이 관리하는 데이터 안에서만 똑똑하다. PLM의 AI는 PLM 데이터를, ERP의 AI는 ERP 데이터를 본다. 정작 제품 개발 의 진짜 병목인 PLM−ERP−MES-품질을 가로지르는 단절은 아직 어느 벤더의 AI도 풀어 주지 못한다. ‘에이전트 네이티브’로 시스템을 재설계하기보다, 기존 시스템에 비서를 끼워 넣는 단계에 머 물러 있는 셈이다.
맺음말 − 만족을 성과로
기업의 AI 활용을 비서 → 기업 속으로의 침투 → 로컬화 → 시나리오별 구축 → 지식 학습 → 에이전트로 늘어놓고 보면, 정작 중요한 질문이 떠오른다. “우리 조직은 지금 어느 지점에 있는가?”
분명한 것은, AI가 이미 많은 이들에게 ‘뭐든 척척 해내는’ 든든한 동료가 되었다는 사실이다. 설계도, 보고서도, 코드도 거뜬히 거들어 주니 현장의 만족이 높을 수밖에 없다. 그 만족은 진짜이고, 변화의 가장 강력한 연료다. 다만 88%와 6%를 가른 결정적 차이는 도구의 보유가 아니라 ‘워크플로의 재설계’였다. 개인이 느끼는 만족을 조직의 성과로 키우려면, 그 만족 위에 정돈된 데이터와 다시 짠 일의 흐름을 얹어야 한다. 국방과 규제 산업이 보여주듯, 가장 큰 성과는 막연한 범용이 아니라 구체적 시나리오 위에서 만들어진다.
그래서 좋은 소식은, 이미 AI의 효용을 몸으로 느낀 사람들이야말로 다음 단계로 갈 준비가 가장 잘 되어 있다는 점이다. 도입은 쉽고 전환은 어렵지만, ‘척척’의 경험을 가진 현장이 그 어려운 길을 가장 앞서 갈 수 있다. 그리고 그 끝에, 6%의 자리가 있다.
■ 류용효
디원의 상무이며 페이스북 그룹 ‘컨셉맵연구소’의 리더로 활동하고 있다. 현업의 관점으로 컨설팅, 디자인 싱킹으로 기업 프로세스를 정리하는데 도움을 주며, 1장의 빅 사이즈로 콘셉트 맵을 만드는데 관심이 많다. (블로그)
■ 기사 내용은 PDF로도 제공됩니다.
작성일 : 2026-07-02
