[공학저널 이상오 기자] 인공지능(AI)이 제대로 된 기능을 하기 위해서는 빅데이터를 통한 딥러닝이 필수적이다.
일반적으로 음성이나 텍스트 등의 개인 데이터는 클라우드 서버로 전송되는 경우가 많다. 하지만 그 과정에서는 인터넷의 연결과 해킹의 위험이 존재한다.
최근 주목받고 있는 AI 비서의 경우도 마찬가지다. 그 연산이 매우 복잡해 각 서버나 클라우드를 통해 서비스가 제공되고 있다.
이 때 카메라를 통한 이미지, 마이크를 통한 음성 등의 개인정보 분석은 서버나 클라우드로 이동해야하므로 개인화된 인공지능 비서를 만들기에는 프라이버시 이슈 등 많은 난관이 있다.
이처럼 기존의 복잡한 AI 모델은 고성능 컴퓨팅 자원을 필요로 하기 때문에 연산 속도, 운영비용, 데이터 유출 등의 측면에서 한계가 있었다.
하지만 최근 AI 모델 사이즈를 압축하면서도 성능 저하를 최소화하는 기술이 개발 돼 화제를 모으고 있다. 엣지 디바이스 상에서 독립적으로 구동할 수 있는 AI 솔루션 ‘on-device AI’가 바로 그 주인공이다.
on-device AI는 클라우드나 서버와의 연결 없이 스마트폰같이 작은 디바이스에서 AI 소프트웨어가 독립적으로 구동할 수 있다. ‘딥러닝 모델 경량화’ 기술이 핵심적이다.
딥러닝 모델 경량화를 위해서는 다양한 접근방법이 존재한다. 특정 하드웨어에서 최적화 돼 동작할 수 있도록 딥러닝 모델을 변경하는 기술, 딥러닝 모델의 연산에 필요한 파라미터를 조절하는 기술 등이다.
지금까지 딥러닝 분야에서는 딥러닝을 이용해 다양한 분야에서 우수한 성능(정확도 등)을 달성하는 것을 주 목표로 했다. 반면 저전력, 저비용의 하드웨어에서 빠른 속도로 동작하도록 딥러닝 모델을 경량화하는 방향으로는 많은 연구·개발이 이뤄지지 않았다.
하지만 최근 프라이버시 이슈가 대두되고 AI 모델 연산을 가속화 하는 칩이 개발되면서 on-device AI에 대한 관심도 크게 늘고 있다.
특히나 on-device AI는 독립적인 구동이 가능할 뿐 아니라 사생활, 침해 우려가 적고 인터넷이 끊겨도 사용할 수 있다는 점이 특징적이다.
대용량 클라우드나 서버 용량을 필요로 하는 딥러닝을 가볍게 만들어 스마트폰이나 소형기기 안에서 AI가 구동될 수 있도록 한 것이다. 이를 통해 기기 안에서 AI가 독립적으로 구동되는 수준까지 딥러닝을 압축할 수 있다.
이러한 기술을 개발한 ㈜노타는 지난 2014년 인공지능 기반 오타감소 소프트키보드인 ‘노타키보드’ 아이템으로 KAIST E5 프로그램에서 입상한 것을 시작으로 2015년 법인을 설립했다.
현재 노타는 on-device 인공지능 비서 개발을 목표로 요소기술인 비전 기술 개발에 힘쓰고 있다. 이에 올해부터 음성 기술의 경량화와 텍스트 분석 기술의 경량화로 연구/개발을 확장할 계획이다.
노타 채명수 대표이사(사진)는 “노타는 인공지능 모델 경량화 기술을 기반으로 on-device AI 소프트웨어 솔루션을 개발하고 있다”며 “현재는 주로 비전 기술들을 다루고 있으며 향후에는 음성이나, 텍스트 분야로 확장하고, 궁극적으로는 on-device AI Assistant를 만들어내는 것이 목표”라고 설명했다.
그는 이어 “풍요로운 삶을 위해 다양한 분야, 다양한 태스크에서 인공지능을 활용하려는 개인, 기업들이 많지만 네트워크 연결에 대한 부담, 클라우드/서버 구축비용, 프라이버시 이슈 등 다양한 한계로 고민하고 있는 기업이 많다”며 “노타는 인공지능 모델 경량화 기술을 통해 그 어려움을 해결할 수 있다. 향후에도 일상생활에서의 불편함을 우리가 가진 기술과 지식을 이용해서 해소할 수 있도록 끊임없는 연구·개발에 힘쓸 것”이라고 덧붙였다.
