[공학저널 김하늬 기자] 4차 산업혁명이라는 새로운 패러다임이 사회 전반에 큰 영향을 끼치고 있다. 고도화되는 인공지능(AI) 기술과 정보통신기술은 산업 전 분야에 접목되며 영역을 키워가고 있다.
특히 ‘AI 접목’은 사이버 보안 업계 화두로 떠올랐다. 최근 생성형 AI가 등장하면서 기하급수적으로 늘어난 악성코드와 사이버 공격, 그리고 이에 대응하는 AI 보안은 공격과 방어의 양 측면에서 양날의 검으로 작용하고 있다.
현재 시점에서 어떠한 기술의 발전보다도 보안기술은 매우 중요한 요소로 손꼽힌다. 사이버 위협은 점차 진화되고 있기 때문이다. 그리고 이러한 위협 이슈에서 빼놓을 수 없는 것이 바로 ‘정보 보호’다.
생성형 AI는 편의성을 가져왔지만, 개인정보 유출이라는 문제도 함께 가져왔다. 온라인 웹 페이지를 그대로 가져와서 데이터를 추출하거나, 과거에 수집한 데이터를 AI 학습에 활용하는 등 무분별하게 개인정보가 활용되고 있기 때문이다.
온라인에서 정보를 습득하는 AI의 특성상 학습에 사용되는 데이터는 심한 경우 개인의 민감정보까지도 담고 있다. 이를 방지하고자 비식별 처리를 하게 되면 AI 학습을 위한 데이터로서의 활용은 어려워진다. 또한, 이미지와 영상 등 비정형 데이터는 현재 비식별화하는 방법이 확립돼 있지 않은 실정으로, 이도 저도 할 수 없는 상황이 되는 것이다.
산업에서 AI의 활용은 필수적인 요소가 되고 있지만, 정보 보호 측면에서는 아직 한계를 안고 있어 실제 활용과 신뢰성에 대한 의견은 산업계에서도 분분하다.
이와 관련해 최근 개인정보보호위원회는 AI 관련 프라이버시 현안을 전담하는 ‘인공지능프라이버시팀’을 신설하는 내용의 개인정보보호위원회 직제 시행규칙을 공포하고, 본격적으로 가동한다고 밝혔다.
인공지능팀은 AI 분야 데이터 처리기준과 리스크 평가, 투명성 확보 등 세부 과제를 논의하고, 실제 현장에 적용할 수 있는 구체적 가이드 라인을 마련할 계획이다. 또한, AI 개인정보 분야 국제규범 마련과 글로벌 공조 체계 확대를 위한 노력에도 앞장설 예정이다.
서울대학교 전기정보공학부 백윤흥 교수(사진)는 AI 보안과 관련해 “AI는 대량의 데이터로 학습해 정확도를 높이지만, 유추 과정에서는 어느 정도 에러가 발생할 수밖에 없다. 이는 확률적 기반의 모델 특성 때문이며, 따라서 보안 산업에서 AI를 적용할 때, 공격자가 의도적으로 비정상적 유추를 유발하더라도 그것을 단순한 에러로 여길 가능성이 있다. 이러한 특성 때문에, AI 보안은 확고한 정상과 비정상의 구분이 가능한 전통적인 시스템과는 다른 방식으로 접근해야 할 것”이라고 설명했다.
백 교수는 또한 AI 산업에서 데이터 프라이버시의 중요성이 점차 증가할 것으로 전망했다. 그는 AI의 활용 영역이 확장되면서 민감한 개인정보를 포함한 데이터의 활용이 불가피하다고 지적했다.
그러나 강화되는 프라이버시 보호법과 개인의 프라이버시 인식 상승으로 인해 이러한 데이터를 활용하는 것이 어려워지고 있다면서 “AI 학습에 사용되는 데이터의 프라이버시 문제는 계속해서 주요 이슈로 떠오를 것”이라고 언급했다.
백 교수는 단순한 가명화나 익명화를 넘어 비정형 데이터를 대상으로 한 연구의 필요성을 강조하면서, 프라이버시 보존형 머신러닝 (PPML) 기술 중에서도 특히 동형암호(homomorphic encryption) 기술에 주목했다.
동형암호는 암호화된 데이터를 직접 처리할 수 있게 해주는 기술로, 데이터의 프라이버시를 보장하면서 AI 학습과 추론 같은 연산이 가능하게 한다. 다른 전통 암호들과 다르게 연산 과정 중 데이터가 외부에 노출되지 않아 중요한 정보가 보호될 수 있다는 장점이 있다.
하지만 동형암호 기반 머신러닝은 처리 속도가 일반 데이터의 수백 배 수준이라는 점과 AI 모델의 결괏값을 데이터를 암호화한 주체만이 활용할 수 있다는 한계가 있어 이를 극복하기 위한 연구개발이 활발히 이뤄지고 있는 상황이다.
백 교수는 “2019년 한국정보보호학회 내 AI보안연구회를 공동 창립하고 현재 연구회 위원장으로 AI와 보안의 융합과 교차치를 연계하는 브리지 역할을 하려고 노력 중이다”라며 “지속적으로 AI 산업과 보안 산업의 융합을 시도하면서 산업을 더욱 확대할 수 있도록 과제, 프로그램, 워크숍 등 AI 기획을 꾸준히 진행할 계획”이라고 전했다.
