마이크로소프트가 AI 보안 보고서 ‘사이버 펄스(Cyber Pulse : An AI security report)’를 공개하고, 기업이 에이전트를 안전하게 도입해 혁신을 가속하기 위한 가시성, 거버넌스, 제로 트러스트 보안 원칙을 제시했다. 전 세계적으로 사람과 에이전트가 협업하는 사람-에이전트 팀(human-agent team)이 빠르게 확산되고 있다. 실제로 포춘 500대 기업의 80% 이상이 로코드/노코드(low-code/no-code) 도구로 활성 에이전트(active agent)를 구축 및 운용 중인 것으로 조사됐다. 이번 보고서는 AI 에이전트의 급격한 확산이 가시성 격차라는 새로운 비즈니스 리스크를 만들어내고 있다고 분석했다. 이어 AI 도입 경쟁에서 앞서게 될 조직은 비즈니스·IT·보안팀이 협력해 에이전트 활동을 관측하고 거버넌스를 적용하며 보안을 강화하는 체계를 갖춘 곳이 될 것으로 전망했다. 보고서는 먼저 제로 트러스트 원칙의 중요성을 강조했다. 이는 ▲필요한 권한만 부여하는 최소 권한 액세스(least privilege access) ▲ID·기기·위치·리스크 기반의 명시적 검증(explicit verification) ▲침해 가능성을 항상 전제로 하는 침해 가정(assume compromise)을 핵심으로 한다. 마이크로소프트는 2026년을 ‘AI 에이전트의 해’로 전망했다. 로코드·노코드 도구의 확산으로 지식 근로자들이 직접 에이전트를 개발할 수 있는 환경이 마련되면서, AI 기반 자동화가 산업 전반으로 빠르게 확산되고 있다는 것이 마이크로소프트의 설명이다. 이러한 흐름은 지역과 산업별 지표에서도 확인된다. 지역별 활성 에이전트 비중은 유럽·중동·아프리카42%, 미국 29%, 아시아 19%, 아메리카 10% 순으로 나타났다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9%의 비중을 기록했다. 이런 에이전트 도입은 다양한 플랫폼을 통해 활발히 이뤄지고 있는 것으로 보인다. 에이전트 도입이 빠르게 확산되면서 보안 및 컴플라이언스 통제 수준을 앞지르는 사례가 늘고 있다. 이에 따라 섀도 AI(shadow AI) 리스크가 확대되고 있으며, 악의적인 행위자가 에이전트의 접근 권한과 권한 범위를 악용할 경우 에이전트가 의도치 않은 이중 에이전트(double agents)로 전락할 수 있다. 이는 인간 직원과 마찬가지로, 과도한 접근 권한을 부여받았거나 부적절한 지침을 받은 에이전트는 조직 내 보안 취약점으로 작용할 수 있다는 설명이다. 최근 마이크로소프트 디펜더 팀(Microsoft Defender team)은 메모리 포이즈닝(memory poisoning) 기법을 악용한 사기성 공격 캠페인을 포착했다. 이는 여러 공격자가 AI 어시스턴트의 메모리를 지속적으로 조작해 향후 응답을 은밀히 유도하고, 시스템 정확성에 대한 신뢰를 약화시키는 방식으로 이뤄졌다. 또한, 마이크로소프트 AI 레드 팀(Microsoft AI Red Team)은 에이전트가 기만적인 인터페이스 요소로 인해, 일상적인 콘텐츠에 포함된 유해한 지침을 따르는 사례를 파악했다. 아울러 조작된 작업 프레이밍(task framing)으로 에이전트의 추론 방향이 왜곡되는 사례도 확인했다. 관리적 리스크도 뚜렷하게 드러났다. 하이포테시스 그룹(Hypothesis Group)이 마이크로소프트 의뢰로 실시한 조사에서는 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 나타났다. 또한 마이크로소프트 데이터 보안 지수(Data Security Index)에 따르면 생성형 AI 보안 통제를 도입한 조직은 47%에 불과했다. 이 같은 조사 결과는 안전한 AI 도입을 위해 명확한 가시성이 필요함을 시사한다. 프론티어 기업들은 AI 에이전트를 계기로 거버넌스를 현대화하고, 불필요한 데이터 공유를 최소화하며, 전사적 통제 체계를 단계적으로 강화하고 있다. 보고서는 이러한 접근이 에이전트 보호를 경쟁 우위로 전환하는 전략적 자산으로 부상하고 있다고 설명했다. 이어 에이전트 보안의 출발점으로 가시성 확보를 제시했다. 이는 IT·보안·개발자 등 조직 전 계층을 아우르는 제어 플레인(Control Plane)을 구축해, 에이전트 존재 여부, 소유자, 데이터 접근 범위, 행동 양식 등을 파악하는 통합 관리 체계를 의미한다. 가시성은 ▲에이전트를 식별·관리하는 ‘레지스트리’ ▲최소 권한 원칙을 적용하는 ‘액세스 제어’ ▲리스크와 행위를 실시간 모니터링하는 ‘시각화’ ▲플랫폼 간 일관된 운영을 지원하는 ‘상호 운용성’ ▲내·외부 위협으로부터 에이전트를 보호하는 ‘보안’ 등 5가지 핵심 영역으로 구성된다. 마이크로소프트는 이번 보고서에서 AI 에이전트 리스크를 최소화하기 위한 7가지 실행 과제를 제시했다. 여기에는 ▲AI 에이전트별 운영 목적을 문서화하고, 최소 접근 권한을 부여 ▲AI 채널에 데이터 보호 규칙을 적용해 라벨링·감사 추적 기능 유지 ▲기업이 승인한 플랫폼을 제공해 섀도우 AI를 억제 ▲시나리오에 따라 비즈니스 연속성 계획을 업데이트하고, 관측 지표를 추적 ▲학습 데이터 관리, 편향성 평가, 인적 감독 체계를 통해 규제 준수를 설계 ▲리스크를 전사 차원으로 격상해 경영진 책임과 KPI, 이사회 가시성을 확보 ▲전 임직원을 대상으로 안전한 AI 사용 교육을 통해 투명성과 협업 장려 등이 있다. 덧붙여서 마이크로소프트는 “AI 에이전트 도입 경쟁에서 성공하는 조직은 가시성·거버넌스·보안을 중심에 두고 이를 유기적으로 실행하는 체계를 갖춘 곳”이라고 강조했다. 그리고 “이를 위해서는 비즈니스, IT, 보안, AI팀, 개발자 등 조직 전 계층이 협업하고, 모든 에이전트를 단일한 중앙 제어 평면에서 일관되게 관리·관측할 수 있는 환경이 필요하다”고 설명했다.

자율제조를 위한 데이터 표준화와 사이버 보안 강화 전략 (1)   글로벌 제조 환경은 자율제조 AI(인공지능) 및 SDM(소프트웨어 정의 제조)로 전환하고 있다. 그러나 시시각각 급변하는 생산자원(4M2E) 메타 데이터와 OT 사이버 보안에 대한 국제 표준 준수 없이는 사상누각이 될 수 있다. 앞으로 2회에 걸쳐 이에 대응하기 위한 방법을 소개하고자 한다.이번 호에서는 자율제조 AI 및 SDM 환경에서 4M2E 생산자원 데이터 표준화와 관련된 도전과 기회를 종합적으로 분석한다.   ■ 연재순서 제1회 제조 혁신의 열쇠, 4M2E 생산자원 데이터 표준화 제2회 산업 사이버 위협을 돌파하기 위한 IEC 62443   ■ 차석근 에이시에스의 부사장이며 산업부 국표원 첨단제조 표준화 포럼 의장 및 산업부 산업융합 옴부즈만 위원을 맡고 있다.   글로벌 제조 환경은 인공지능(AI) 기반의 자율제조와 소프트웨어 정의 제조(SDM : Software Defined Manufacturing)로의 전환을 통해 전례 없는 혁신을 경험하고 있다. 이러한 변화는 생산성, 효율성, 그리고 경쟁력 향상이라는 막대한 잠재력을 내포하고 있다. 그러나 이러한 혁신의 완전한 실현은 방대한 제조 데이터의 효과적인 관리 및 활용, 특히 4M2E(Man, Machine, Material, Method, Environment, Energy) 생산자원 데이터의 표준화에 달려 있다. 동시에, IT(정보 기술)와 OT(운영 기술) 시스템의 융합이 가속화되면서 산업 제어 시스템(IACS)은 사이버 위협에 더욱 노출되고 있으며, 이는 IEC 62443과 같은 국제 산업용 사이버 보안 표준 준수의 중요성을 증대시키고 있다. 이번 연재에서는 자율제조 및 SDM 환경에서 4M2E 생산자원 데이터 표준화의 필요성과 기술 동향을 심층 분석하고, 대한민국 수출 제품의 IEC 62443 산업용 사이버 보안 준비 현황과 당면 과제를 짚어보고자 한다. 특히 국내 중소기업이 겪는 인력, 예산, 노후 설비 등의 애로사항과 공급망 보안의 중요성을 강조한다. 이러한 분석을 바탕으로, 데이터 표준화와 사이버 보안 역량을 동시에 강화하여 국가 경쟁력을 제고하고 안전한 글로벌 시장 참여를 보장하기 위한 구체적인 정책적 및 전략적 대응 방안을 제안한다. 이는 기술 개발 지원, 인력 양성, 중소기업 맞춤형 프로그램 확대, 그리고 국제 협력 강화를 포함하는 포괄적인 접근 방식을 제시한다.   자율제조 및 SDM 시대의 도래와 산업 혁신 글로벌 제조 산업은 인공지능(AI)과 소프트웨어 정의 제조(SDM)의 발전으로 심오한 변화를 겪고 있다. 이러한 변화는 생산성, 효율성, 그리고 전반적인 경쟁력의 향상을 약속한다. 미국 국립과학재단(NSF)의 지원을 받아 개발된 마빌라(MaVila)와 같은 새로운 AI 모델은 공장 내부를 ‘보고’ ‘대화’할 수 있도록 설계되었다. 이 모델은 부품 이미지를 분석하고, 결함을 평이한 언어로 설명하며, 해결책을 제안하고, 심지어 기계와 통신하여 자동 조정을 수행할 수 있다. 이러한 역량은 지능적이고 적응력 있는 제조 시스템으로의 중요한 도약을 의미한다. 한편, SDM은 경직된 하드웨어 중심의 자동화를 유연한 소프트웨어 중심 아키텍처, AI 기반 지능, 그리고 제어 및 데이터 흐름을 최적화하는 모듈형 산업 플랫폼으로 대체하고 있다. 이러한 운영 기술 인프라의 현대화는 제조 부문의 전반적인 경쟁력을 향상시키는 데 필수이다. SDM의 핵심은 하드웨어, 연결성, 스토리지, 보안 및 IT와 OT 환경 전반에 걸쳐 내장된 지능을 포함한 제조의 모든 측면을 체계적으로 최적화하고 현대화하는 데 있다.   생산자원 데이터 표준화 및 산업용 사이버 보안의 핵심 과제 자율제조 및 SDM의 완전한 구현은 방대한 제조 데이터의 효과적인 관리 및 활용에 크게 의존한다. 그러나 수많은 센서, 기계 및 시스템에서 생성되는 파편화된 데이터는 종종 표준화가 부족하여 관리, 통합 및 분석이 어렵다. 이러한 데이터 파편화는 생산성을 높이고 효율성을 개선하며 비용을 절감하기 위한 산업 데이터의 완전한 활용을 방해한다. 특히 다양한 세대의 기계에서 발생하는 광범위하고 이질적인 데이터 소스를 가진 기업의 경우, 표준화된 라벨링의 부재는 데이터 관리 및 활용을 더욱 복잡하게 만든다. 동시에, 이러한 첨단 제조 환경에서 IT 및 OT 시스템이 융합되면서 산업 제어 시스템(IACS)은 사이버 위협에 점점 더 노출되고 있으며, IEC 62443과 같은 국제 표준 준수를 통한 강력한 사이버 보안은 필수이다. 사용자 질의는 특히 대한민국 수출 제품의 이 분야에서의 잠재적인 ‘준비 미비’를 강조하며, 이는 국가 산업 전략에 있어 중요한 과제를 부각시킨다.   자율제조 및 SDM의 개념과 데이터의 중요성 AI 기반 자율제조의 발전과 데이터 활용 인공지능은 다양한 분야를 근본적으로 변화시키고 있으며, 제새로운 AI 모델은 공장 환경에 특화되어 개발되고 있다. 이 모델들은 공장 내 시각 및 언어 기반 데이터로부터 직접 학습하여 부품 이미지를 분석하고, 결함을 평이한 언어로 설명하며, 해결책을 제안하고, 심지어 기계와 통신하여 자동 조정을 수행할 수 있다. 이렇게 내부적이고 제조 특화된 데이터 중심 접근 방식은 더욱 스마트하고 적응력 있는 제조 시스템을 구축하여 경제 부문을 더욱 효과적으로 지원하는 데 매우 중요하다. 궁극적인 목표는 작업자의 역량을 강화하고, 생산성을 높이며, 치열한 글로벌 시장에서 국가의 입지를 강화하는 것이다. AI가 진정한 자율제조를 가능하게 하려면 일반적이거나 파편화된 데이터에 의존할 수 없다. 복잡한 시스템, 장비 및 워크플로에 대한 깊이 있는 실시간 이해가 요구된다. 이는 데이터가 단순히 수집되는 것을 넘어, AI가 기계가 읽을 수 있고 실행 가능한 형태로 맥락화되고 표준화되어야 함을 의미한다. 만약 AI 모델이 파편화되고 비표준화된 데이터로 학습된다면, 정확하고 관련성 높은 정보를 제공하고 자율적인 조정을 수행하는 능력이 심각하게 제한되어 자율제조의 본질적인 약속을 저해할 수 있다. 따라서 제조 분야에서 AI의 성공과 신뢰성은 입력 데이터의 품질, 일관성 및 표준화에 직접적으로 비례하며, 이는 AI 기반 자율성을 위한 데이터 표준화의 근본적인 중요성을 강조한다.     ■ 자세한 기사 내용은 PDF로 제공됩니다.