2025년 10월 16일, 서울 코엑스에서는 4대 과학기술원이 공동으로 주최하는 ‘2025 테크마켓’이 개최된다. 이번 행사에서는 울산과학기술원(UNIST)의 이슬기 조교수가 선보일 온디바이스AI 기술이 주목받고 있다. 이 기술은 제한된 연산 능력을 가진 기기에서 AI 모델을 내장하여 데이터를 실시간으로 분석하고 즉각적으로 판단을 내릴 수 있게 하는 혁신적인 접근법이다. 현재 대부분의 AI 서비스는 클라우드 서버에 의존하여 데이터를 처리하는 구조로, 인터넷 연결이 필수적이며 처리 지연이 발생할 수 있다. 그러나 온디바이스AI는 기기 자체에서 연산을 수행하기 때문에 네트워크 환경에 구애받지 않고 안정적으로 동작할 수 있는 장점이 있다. 또한, 민감한 데이터를 외부 서버로 전송하지 않기 때문에 보안성과 개인정보 보호 측면에서도 우수하다.
이슬기 조교수는 온디바이스AI의 필요성을 강조하며, 자동차, 로봇, 웨어러블 기기 등 즉각적인 판단이 요구되는 장치에서 이 기술이 더욱 중요해질 것이라고 설명했다. 그는 온디바이스AI의 세 가지 주요 장점을 제시했다. 첫째, 데이터 전송의 필요성이 없으므로 개인 정보 및 산업 기밀이 보다 안전하게 보호된다. 둘째, 불안정한 인터넷 환경에서도 안정적인 작동이 가능하다. 셋째, 서버 운영 비용과 네트워크 지연을 줄여 산업 현장의 전반적인 효율성을 향상시킨다. 예를 들어, 자동차가 스스로 고장을 진단할 수 있다면, 서버로 데이터가 모이지 않아도 되고, 각 차량에 맞춤형 진단이 가능해진다.
이 조교수는 자신의 연구 범위를 자동차에 국한하지 않고, 의료기기, 제조 설비, 우주 탐사 분야로 확장하고 있다. 그는 의료용 기기나 웨어러블 기기가 통신 장애 발생 시 큰 위험을 초래할 수 있음을 언급하며, 이러한 기기 내에서 AI가 신호를 실시간으로 분석해 안전하고 신뢰성 있는 의료 서비스를 제공할 수 있을 것이라고 말했다. 또한, 공장 내부의 장비에 초소형 칩을 장착하여 압력이나 유량 변화를 실시간으로 예측하고 이상 징후를 조기에 발견함으로써 비용과 시간을 절감할 수 있는 가능성에 대해서도 설명했다.
최근에는 한국항공우주연구원(KARI)과 협력하여 달이나 다른 행성 탐사에 필요한 기술을 개발 중이다. 이 조교수는 탐사선이 자체적으로 카메라 영상을 분석하여 안전한 착륙 지점을 실시간으로 판단할 수 있도록 하는 기술을 시범 개발하고 있다. 그는 온디바이스AI가 우주 탐사뿐만 아니라 드론 및 군사 장비와 같은 국방 분야에서도 중요한 역할을 할 것으로 전망했다.
하지만 온디바이스AI가 직면한 최대 과제는 제한된 하드웨어 자원이다. 이슬기 조교수는 AI 모델의 크기가 점점 커지고 기기의 크기는 작아지는 상황에서 이 간극을 좁히기 위해 AI 모델의 효율적인 압축과 최적화 기술이 필요하다고 강조했다. 그의 연구팀은 모델 경량화 및 알고리즘 최적화에 집중하고 있으며, 신경망 모델을 수학적으로 축소하고 기기 내부 자원을 효율적으로 배치하여 연산 지연을 최소화하는 방법을 모색하고 있다.
그는 앞으로 2~3년 내에 온디바이스AI의 발전 속도가 더욱 빨라질 것이라고 내다봤다. 스마트폰, 자율주행차, 로봇 등의 고급 기기에 AI 연산 전용 칩인 MPU가 표준으로 탑재될 것이며, 기존 CPU는 일반 프로그램을 처리하고 MPU는 AI를 전담하는 구조가 자리 잡을 것으로 예측했다. 또한, 생성형 AI와 대규모 언어 모델이 머지않아 기기에서 직접 실행될 것이라고 예상하며, 스마트폰과 가전제품에 가벼운 GPT 모델이 탑재되어 번역, 요약, 음성 비서 기능을 네트워크 연결 없이도 수행할 수 있게 될 것이라고 말했다.
장기적으로 이 조교수는 창업의 포부도 가지고 있다. 그는 누구나 데이터를 준비하기만 하면 원하는 디바이스에 AI를 자동으로 탑재할 수 있는 엔드투엔드 플랫폼을 개발하고 싶다는 꿈을 밝혔다. 이는 모델 탐색부터 학습, 컴파일, 배포까지의 과정을 한 번에 자동화하는 시스템으로, 향후 많은 분야에 걸쳐 혁신적인 변화를 가져올 것으로 기대된다. 온디바이스AI 기술의 발전이 스마트팩토리 및 다양한 산업 현장에 새로운 바람을 일으킬 날이 머지않아 다가올 것이다.
[관련기사] https://n.news.naver.com/mnews/article/008/0005254909?sid=105
답글 남기기