온디바이� AI
중국 AI 모델 딥시�(DeepSeek)� 등장으로 AI 시장� 대� 관심이 더욱 높아지� 있다. 딥시크는 저렴한 운영 비용으로 높은 성능� � � 있다� 주장하며 시장에서 화제� 모았�. 기존 생성� AI� 우수� AI 서비스를 체험하기 위해서는 대량의 데이터를 처리� � 있는 고성� 반도체와 데이터센� 등의 정보처리 인프� 확보� 중요성이 강조됐다. 이와 함께 인터� 연결 없이� 생성� AI 서비� 구현� 가능한 ‘온디바이스(On-Device) AI’가 부상하� 관� 시장� 성장� 주목해야 � 시기이다.
생성� AI 운영� 필요� 높은 수준� 비용 부담을 해소하기 위해 딥시크와 같은 데이� 처리 부담을 줄인 AI 모델� 데이� 이동� 최소화해 인프� 부담을 줄이� 방법� 주목받고 있다. 온디바이� AI� 이용자의 디바이스 내에� 소형 AI 모델� 사용� 외부 데이� 이동 없이 생성� AI 서비스를 제공하는 방식이다.
생성� AI 운영 위한 구성 요소 � AI 파운데이� 모델·클라우드 시스�
챗GPT와 함께 생성� AI 시대가 개막하며, 오픈AI� GPT(Generative Pre-trained Transformer), 구글� 제미나이(Gemini) � AI 파운데이� 모델� 함께 생성� AI 서비스의 보편화에 기여� 배경으로 클라우드 시스템의 보급� 거론된다. 대규모 언어 모델� 기반으로 � AI 시대가 확장됨에 따라 AI 모델� 학습시키�, 추론� 과정� 통해 결과물을 � � 있도� 하는 인프� 확보 차원에서 클라우드� 역할� 더욱 강조되고 있다. 클라우드 시스템을 활용� 컴퓨� 방식은 클라우드라는 인터� 기반� 가� 컴퓨� 공간에서 네트워크망을 통해 실시간으� 데이터센� � 외부� 위치� 컴퓨� 역량� 연동하는 특징� 지닌다. 이를 통해 자체 보유� 컴퓨� 자원 이상� 활용� � 있도� 하는 서비� 체계이다.
AI 서비스를 구성하는 AI 모델� 점차 대형화됨에 따라 클라우드 기반� 생성� AI 운영과정에서 다량� 데이터가 소모되어 전력� 반도� 등의 컴퓨� 역량 자원� 크게 소비된다. 생성� AI 운용 과정에서 발생하는 인프� 부담을 줄이� 방식으로 최근 많은 주목� 받고 있는 방식은 온디바이� AI이다.
출처: 삼정㣨Leyu 경제연구�
디바이스 � AI 서비� 구동되는 온디바이� AI 부�
온디바이� AI� 이용자가 요청사항� 디바이스� 입력하면, 디바이스 내에 탑재� 소형 AI 모델� 저전력 반도� � 자체 데이� 처리 시스템이 구동되어 데이터의 외부 이동 없이 AI 서비스가 구현된다. 이에 온디바이� AI� 기반으로 � 생성� AI 서비스는 AI 모델� 분석 속도가 빠르�, 시스� 운영 비용� 비교� 적다. 또한 디바이스 외부� 이용자가 입력하는 정보� 내보내지 않는다는 점에� 개인정보 등의 민감� 데이터를 처리하기� 적합도가 높다.
온디바이� AI� 장점� 활용하기 위해 다양� 기업에서 빠른 속도� 시장 확대 움직임� 보이� 있다. 삼성전자� 갤럭� S 시리�, 애플� Apple Intelligence, 마이크로소프트의 Copilot+PC � 글로벌 빅테� 기업� 앞다투어 온디바이� AI 기능� 탑재� 디바이스가 출시했다. 삼성전자, SK하이닉스 � 대� 반도� 기업 외에� 딥엑�, 모빌린트 � 팹리� 반도� 기업에서� 온디바이� AI 디바이스에서 활용 가치가 높은 저전력 반도� 기술 확보� 위한 노력� 이어지� 있다.
출처: 삼정㣨Leyu 경제연구�
온디바이� AI 시대 Scale-up� 위한 전략
온디바이� AI� 기반으로 서비스의 다양화를 구상하는 기업은 ‘SCALE[S (Semiconductor)-C(Cloud)-A(Ambient Computing)-L(Language Model)-E(Explainable AI)]’에 주목해야 한다. 먼저 온디바이� AI� 디바이스 � 전력� 활용� AI 모델� 운영하기 때문� AI 서비� 운영과정에서 소비되는 전력 소모� 적게 유지해야 한다� 점에� 저전력 반도� 기술� 강조� 것으� 보인�. 이용� 주변� 있는 IT 디바이스가 이용자의 패턴� 자체적으� 학습� 디바이스가 알아� 필요� 서비스를 제공하는 ‘앰비언� 컴퓨팅� 시장 � 기회� 주목해야 한다. 온디바이� AI� 우수� 보안 성능은 개인� 데이터를 확보하고 분석하는 앰비언트 컴퓨� 환경� 구축하는 � 높은 활용 가치를 지닌다.
또한 온디바이� AI� 소형 AI 모델� 기반으로 서비스를 운영한다� 점에�, 소형 AI 모델 시장� 본격 확대� 것으� 전망된다. 소형 AI 모델은 스마트폰, 가� � AI 모델� 탑재되는 개별 온디바이� AI� 디바이스에서 요구되는 결과값의 퀄리티를 높일 � 있도� 개발� 진행� 것으� 보인�. 마지막으�, 온디바이� AI� 활용하면 이용� 개인� 보유� 디바이스에서 즉각적으� AI 분석� 이뤄지� 되어 이용자와 AI 모델 간의 거리가 더욱 가까워진다. 이에 이용자와 더욱 밀착되� 서비스를 제공하게 � AI� 안전하게 관리하�, AI 모델� 대� 이용자의 이해도를 높여 혼란� 방지� � 있는 ‘설� 가능한 AI(Explainable AI)� 기술 통제 방안에도 주안점을 둬야 한다.
* 아래� 클릭하면 칼럼� 관� 보고서를 확인� � 있습니다.
‘생성형 AI에게 펼쳐� 새로� 무대, 온디바이� AI�
· MC2본부/AI센터 � 이준� 상무
·Tel. 02-2112-0615 E-mail. ([email protected])
· 경제연구� � 최창� 책임연구�
· Tel. 02-2112-7438 / E-mail. ([email protected])