국제사이버보안인증협회(CSC)와 사단법인 한국인터넷정보학회가 공동으로 운영하는 인공지능 사이버보안 연구회가 지난 5월 8일 제주도 서귀포시 휘닉스아일랜드에서 2026년도 춘계학술발표대회 특별세션을 개최했다. 이번 세션은 인공지능 기술의 급격한 발전에 따른 새로운 보안 위협을 분석하고 이에 대응하기 위한 최신 연구 성과를 공유하는 자리로 마련되었다.

사이버보안 연구의 구심점 역할 및 연구 범위 확대
사이버보안연구회는 지난 2015년 3월 사이버보안의 학술적 연구와 정보보호 및 응용공학 연구의 구심점 역할을 목표로 설립되었다. 이후 변화하는 기술 환경에 발맞춰 2026년 2월 인공지능 사이버보안 연구회로 명칭을 변경하고 인공지능 시스템의 안전성 확보를 위한 다각적인 연구를 이어오고 있다. 이번 특별세션에는 공병철, 이준화, 여동균, 윤현근, 임범석, 박지원, 남혁우, 공민지 등 8명의 연구자가 참여하여 인공지능과 보안이 결합된 핵심 논문을 발표했다.

인공지능 시스템의 보안 위협 분석과 대응 방법론
CSC협회 공병철 회장은 인공지능(AI) 시스템의 보안 위협 및 오류 해결에 대한 연구를 주제로 발표를 진행했다. 범용 인공지능(General-purpose AI)이 인간 전문가 수준의 역량을 갖추게 된 현시점에서 허위 정보 생성, 시스템 오작동, 데이터 오염, 프롬프트 주입 및 탈옥 등 잠재적 위험성을 경고했다. 특히 물리적 세계와 상호작용하는 과정에서 발생하는 한계와 불균형한 성능 문제를 해결하기 위한 기술적 방법론의 필요성을 역설했다.

이준화 이사는 인공지능(AI) 시스템의 개인정보 보호 위험관리에 대한 연구를 통해 4단계 위험관리 프레임워크를 제안했다. 의료, 금융, 교육, 공공 등 분야별 특성을 반영한 기준 개발과 함께 멀티모달 AI 시스템에서의 크로스모달 위험 관리, 자동화된 개인정보 감사 도구 개발의 중요성을 강조하며 국제 표준 개발의 필요성을 언급했다.

첨단 기술을 활용한 보안 프레임워크 및 실무 대안 제시
여동균 이사는 AI 기반 콘텐츠 인식형 모니터 보안 시스템을 통한 카메라 촬영 기반 개인정보 유출 방지 연구를 발표했다. 중요 시스템 관리자 화면에서 개인정보가 존재할 때만 보안 기능을 활성화하는 Fail-Secure 정책을 통해 사용자 편의성과 보안성을 동시에 확보하는 방안을 제시했다.

윤현근 이사는 블록체인 기반 DID를 활용한 AI 시스템 개인정보 보호 프레임워크 연구를 소개했다. DID, VC, 블록체인 기술을 결합한 5계층 모델을 통해 신원 인증부터 데이터 활용 이력 추적까지 통합 수행할 수 있는 구조를 설계하여 데이터 활용의 투명성을 높이는 대안을 내놓았다.

공급망 보안 및 인증 자동화 플랫폼 설계
임범석 이사는 AI 공급망 보안을 위한 CMMC 2.0과 NIST AI RMF 통제항목 매핑 및 정합성 분석 결과를 공유했다. 분석 결과 CMMC 2.0이 AI 특화 보안 요구사항에서는 일부 한계가 있음을 지적하며, 두 프레임워크를 상호 보완적으로 병행 적용하는 통합 보안체계 구축의 필요성을 제시했다.

박태균 수석연구원은 AI를 활용한 정보보안 인증 Evidence 자동 생성 및 Gap Analysis 플랫폼 설계 방법론을 발표했다. LLM과 API 연동을 통해 국내 ISMS-P 인증과 국제 표준 ISO 27001, ISO 27701 인증 준비 기간을 대폭 단축하고 인적 오류를 감소시킬 수 있는 실무적 해결책을 제시하여 주목을 받았다.

인공지능 사이버 보안 악몽 예방을 위한 연구 지속
공병철 회장은 이번 발표를 통해 인공지능이 개발한 응용프로그램과 시스템의 보안 취약성은 기업과 개인에게 치명적인 사이버 보안 악몽으로 다가올 수 있음을 경고했다. 연구회는 앞으로도 무분별한 오픈소스 AI 에이전트 활용에 따른 부작용을 예방하고, 정부 정책 방향과 기업의 시행착오를 줄일 수 있는 실질적인 대응 능력 전파에 집중할 계획이다.