마이크로소프트, AI 기반 에이전틱 보안 시스템 MDASH 공개
마이크로소프트는 취약점 발굴부터 검증, 대응까지 전 과정을 수행하는 에이전틱 보안 분석 시스템 MDASH(멀티 모델 에이전틱 스캐닝 하네스)를 공개했다.
MDASH는 마이크로소프트의 자율 코드 보안팀(ACS)이 구축한 시스템이다. 단일 모델 방식의 한계를 보완하기 위해 프런티어 모델과 증류 모델을 결합한 앙상블 아키텍처를 적용했다. 100개 이상의 전문 AI 에이전트가 취약점 발견부터 검증, 토론, 악용 가능성 증명까지 전 과정을 엔드 투 엔드로 수행한다. 마이크로소프트는 단일 AI 모델의 성능보다 다수 모델과 에이전트를 결합한 시스템 아키텍처 자체가 보안 성능의 핵심이라고 설명했다.
마이크로소프트는 이 시스템을 활용해 윈도우 네트워킹과 인증 스택 전반에서 16개의 신규 취약점을 식별했다고 소개했다. 이 가운데 4건은 치명적인 원격 코드 실행 취약점이며, 윈도우 커널 TCP/IP 스택과 IKEv2 서비스 등에서 발견됐다. 레이스 컨디션 기반 UAF(Use-after-free)처럼 단순 패턴 매칭만으로는 포착하기 어려운 복잡한 결함 유형도 확인됐다.
실전 대응 역량을 보여주는 지표도 공개됐다. MDASH는 공개 사이버짐(CyberGym) 벤치마크에서 88.45%의 점수를 기록했는데, 이는 다음 순위와 비교해 약 5포인트 높은 수치다. 마이크로소프트 보안 대응 센터(MSRC)의 5개년 확정 사례를 기준으로 한 회고 평가에서도 높은 성과를 냈다. clfs.sys 파일에서 96%인 28건, tcpip.sys 파일에서 100%인 7건의 재현율을 기록했다.
마이크로소프트는 보안 감사가 까다로운 자사 코드베이스의 특수성을 강조했다. 윈도우, 하이퍼-V(Hyper-V), 애저(Azure) 등은 방대한 비공개 코드 영역과 서비스 생태계로 구성된다. 해당 영역은 범용 AI 모델의 학습 데이터에서 제외된다. 이 때문에 커널 호출 규칙이나 IPC 신뢰 경계는 단순 패턴 매칭이 아니라 코드 흐름, 객체 생명주기, 동시성까지 고려한 추론이 요구된다.
대규모 데브섹옵스(DevSecOps) 환경과 고가치 타깃의 특성도 제시됐다. 취약점이 발견되면 담당자 배정과 검증, 분류를 거쳐 정기 보안 업데이트에 반영된다. 이 과정에서 오탐이나 불필요한 경고가 증가하면 대응 비용이 커지며, 사용자 기반이 큰 제품일수록 부담도 가중된다.
MDASH는 준비부터 증명까지 이어지는 5단계 자동화 파이프라인으로 검증된 결과를 산출한다. 소스 분석과 위협 모델링을 시작으로 후보 발굴, 에이전트 간 교차 검증을 거친다. 이후 중복을 제거하고 취약점을 실제로 재현할 수 있는 입력을 구성하고 실행해 최종적으로 취약점을 입증한다.
이 파이프라인은 세 가지 핵심 속성으로 작동한다. 모델 앙상블을 단계별로 운용하고 모델 간 판단 불일치를 신뢰도 신호로 활용한다. 감사, 검증, 증명 단계에는 역할이 다른 전문 에이전트를 배치한다. 플러그인으로 내부 맥락을 주입할 수 있으며 주요 단계는 모델 불가지론적으로 설계됐다. 새로운 모델을 도입할 때 파이프라인을 재구축하지 않고 설정 변경과 A/B 테스트만으로 반영할 수 있다.
마이크로소프트는 AI 취약점 발굴이 연구 단계를 넘어 엔지니어링 과제로 전환되고 있다고 평가하면서, AI 취약점 발굴 결과가 규모 있게 확장될 수 있다고 내다봤다. 기술적 핵심으로는 구성과 검증을 꼽았다. MDASH는 단일 프롬프트가 아니라 파일 간 비교, 다단계 도달 가능성 분석, 에이전트 간 토론, 증명 단계를 순차적으로 결합했다. 검증 단계도 후보 표시에서 멈추지 않고 토론, 중복 제거, 증명까지 이어지도록 구성했다. 기술적 지속성을 위해 모델 교체를 흡수하는 아키텍처를 제시했다. 새 모델을 도입해도 프로젝트별 컨텍스트, 스캔 플러그인, 증명 에이전트 구성은 그대로 유지된다. 이는 AI 기반 취약점 탐지가 시스템 설계 중심의 엔지니어링 문제로 전환되고 있음을 보여준다.
마이크로소프트의 김태수 에이전틱 보안 부사장은 “MDASH는 마이크로소프트 엔지니어링 팀이 상용 AI 모델을 활용해 보안 성과를 실질적으로 개선하는 데 도움을 주고 있다”면서, “앞으로도 마이크로소프트는 모두에게 더 안전한 세상을 만들기 위한 노력을 이어갈 것”이라고 말했다. 현재 마이크로소프트는 일부 고객을 대상으로 MDASH의 한정 프라이빗 프리뷰를 진행하고 있다.
작성일 : 2026-05-18