[공학저널 김하늬 기자] 사이버 공격은 점차 지능화되고 복잡해지고 있다. AI를 기반으로 매번 새롭게 변주되는 사이버 위협에 대응하는 것은 이제 사람이 홀로 감당하기에는 어려운 일이 됐다.
이에 보안 관리자는 AI 보안 플랫폼을 통해 정상·비정상 이벤트에 대한 판단과 보안 이벤트 중 우선 처리해야 할 고위험 이벤트를 빠르게 선별하면서 보안 효율을 높이고 있다.
하지만 기존 AI 보안은 사이버 위협의 여부만을 판단해 알려주는 불친절한 AI로 보안 관리자가 신뢰하기 어려운 판단의 근거를 제시했다면, 최근 등장한 AI 보안은 AI 알고리즘이 특정 이벤트를 ‘왜’ 고위험 이벤트로 판단했는지 보안 관리자가 이해할 수 있도록 AI가 내린 예측에 대한 근거를 친절하게 알려준다.
이렇듯 AI의 판단에 대한 이유를 사람이 이해할 수 있는 방식으로 제시하는 ‘설명 가능한 AI(XAI, eXplainable AI)’의 등장은 AI 보안의 신뢰성을 높이는 기폭제가 되고 있다. 그리고 이것이 바로 최근 국내 최초 XAI를 보안 기술에 적용한 ‘이글루XAI(IGLOOXAI)’(가칭)가 주목받는 이유이기도 하다.
이글루XAI는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 보안 서비스다. 이 기술은 AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도, 챗GPT를 통한 자연어 형태의 설명을 비교 확인함으로써, AI 답변에 대한 이해도를 높이고 신뢰도를 평가할 수 있도록 돕는다.
올해 3월 국내에서는 처음으로 챗GPT를 이용한 AI 보안 서비스 이글루XAI를 선보인 ㈜이글루코퍼레이션(이하 이글루)은 기존에 확보한 AI 기반 탐지 기술과 XAI 기술에 기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어 내는 ‘생성형 AI(Generative AI)’ 기능을 접목해 화제를 모았다.
이글루XAI는 이글루가 보유한 고유의 프롬프트 엔지니어링(Prompt Engineering) 기술 적용을 통해 생성형 AI가 내놓는 답변의 정확성을 높이고 있다는 점에서 차별화되고 있다.
이글루코퍼레이션 관제기술연구팀 정일옥 기술위원(사진)은 “검색어에 따라 검색 결과가 달라지듯 똑같은 페이로드(Payload)를 입력했다고 할지라도 이글루XAI를 통해 사용자가 보다 잘 이해할 수 있는 답변을 얻을 수 있다”며 “주요 정보에 대한 비식별화 과정을 거친 프롬프트 제작 등의 여러 단계의 보안 조치를 통해, 민감한 데이터가 외부로 노출되는 것을 방지하는 것이 특징”이라고 설명했다.
이글루는 보안관제 사이트와 개인 사용자 대상으로 이글루XAI의 순차적인 시범 서비스를 제공한 후 피드백을 토대로 서비스를 고도화할 계획이다.
글로벌 정보보안 기업을 목표로 지난 1999년 11월 설립된 이글루코퍼레이션은 지속적인 R&D 투자를 통해 SIEM, 보안관제, 운영기술(OT)보안, 보안컨설팅 등 전 영역을 아우르는 다양한 보안 관리 솔루션과 서비스를 개발해왔다.
지난 2015년 AI 기반의 공격 탐지 기술이 적용된 AI 보안관제 솔루션 ‘스파이더 TM(SPiDER TM)’을 국내 최초로 선보이며 대규모 사이버 보안 데이터셋 구축 사업에 참여했다. 이후 설명 가능한 AI와 생성형 AI 모델을 빠르게 도입하며, AI 예측 결과의 정확성과 신뢰성을 높이는데 주력했다.
정 위원은 “현장에서는 아직까지 AI에 대한 신뢰가 부족한 상황이다. 이러한 AI의 신뢰성을 판단하는 것은 결국 기술보다도 사람과 같이 판단하고 대응이 가능하도록 친절함과 친밀성을 높이는 것이라고 생각한다”며 “보안 기술에 AI를 적용하는 것을 자동화 관점이라고 본다면, 챗GPT를 통한 XAI의 적용은 보안 관리자의 관점에서 탐지 결과에 대한 이해도를 높이고 유연한 대응방안 마련에 큰 도움을 줄 것으로 기대된다”고 말했다.
이글루가 제공하는 보안 솔루션 라인은 서비스 형태로, 플랫폼 위에서 자유롭게 적용할 수 있는 것이 특징이다. 또한, 타사 플랫폼과의 연동성을 높여 국내 제품뿐만 아니라 해외 제품까지도 연계가 용이한 것은 이글루 솔루션의 큰 강점으로 손꼽힌다.
디지털 전환이 가속화되면서 수많은 보안 솔루션을 연결해 활용하기 위한 보안 오케스트레이션·자동화·대응(SOAR) 역량의 필요성은 꾸준히 제기되고 있다. 이글루가 개발한 또 하나의 솔루션인 ‘스파이더 SOAR(SPiDER SOAR)’는 보안 위협의 대응 프로세스를 자동화해 보안 업무의 효율성을 높이고 있다.
공격 유형별 대응을 위한 수많은 요소들을 하나의 과정으로 묶은 ‘플레이북(Playbook)’에 기반한 것이 특징으로, 단순 반복적인 프로세스는 자동 처리하고 보안 위협 우선순위에 따라 대응 단계를 자동으로 분류해 표준화된 업무 절차에 따라 대응하는 솔루션이다.
특히 AI 기술과 사이버 위협 인텔리전스(CTI) 활용을 통해 신·변종 보안 위협에도 발 빠른 대응이 가능해 이글루XAI와 연동해 효과를 극대화할 수 있다는 점에서 함께 주목받고 있다.
정 위원은 “이글루는 다양한 AI 솔루션 구축과 함께 학습 데이터 품질 향상에 힘을 기울여 왔다. AI 알고리즘이 양질의 데이터를 학습해야 예측 결과의 수준도 높아질 수 있기 때문”이라며 “데이터의 품질 향상 전담 조직 운영을 통해, 원시데이터에서 학습 데이터를 선별해 추출·분석·가공하는 전처리와 학습 방향을 정하는 레이블링 작업 등을 수행하며 학습 데이터의 품질을 지속적으로 고도화하고 있다”고 전했다.
그는 이어 “이글루는 AI의 정확성과 신뢰성을 높이는 데이터 중심의 AI 역량을 바탕으로 기존의 보안 솔루션과 더불어 보안 위협에 대응할 수 있는 AI 보안 기술개발과 고도화에 힘쓸 계획”이라며 “AI에 대한 신뢰성과 안전성을 위해 AI 학습을 위한 데이터 생태계 조성과 생성형 AI 서비스, 챗GPT에 입력되는 명령어, 네트워크 등에 대한 보안도 함께 강화해 나갈 것”이라고 덧붙였다.
