퀄컴 스냅드래곤 서밋 2023
퀄컴은 2023년 10월 24일부터 26일 까지 스냅드레곤 서밋을 열었습니다. 올해 퀄컴이 가장 역점을 둔 것은 AI 였습니다. 이 자리에서 퀄컴은 플래그쉽 모바일 칩인 스냅드래곤 8Gen3의 성능이 전작대비 CPU가 30%, GPU가 25%, NPU가 98% 상승했다고 밝혔습니다.
NPU의 높은 성능개선으로 퀄컴은 스냅드래곤 8Gen3를 장착한 스마트폰이 온디바이스 AI를 활용하게 될 것이라고 강조하였습니다.
온디바이스 AI 사례
온디바이스 AI는 서버 및 클라우드를 거치지 않고, 기기 자체에서 AI 기능을 구현하는 기술입니다. 챗GPT와 같은 거대 LLM(Large Language Model) 기반의 AI는 어마어마한 전력을 소모하기 때문에, 현재 기술로 LLM 모델을 스마트폰에서 구현하기는 불가능합니다.
그러나 LLM 모델을 스마트폰에 최적화 하여, 클라우드를 통해서만 가능했던 기능들을 모바일 기기 내에서 동작하게 하는 것이 일부 가능하게 되었습니다.
이미지 생성 (image generation)
퀄컴은 이미지는 생성 시키는데 0.5초가 걸리는 기술이 스냅드래곤 8Gen3 플랫폼 안에 이미 구현되었다고 합니다.
사진이나 비디오에서 불필요한 사물 지우기
이 기술은 픽셀8에도 구현된 바 있습니다. 이제 사진이나 비디오의 증거 능력이 상실될 정도로 정확하고 부드럽게 영상을 편집할 수 있습니다. 다만, 이런 기술이 클라우드가 아니라 꼭 스마트폰의 하드웨어를 통해서만 가능한지에 대해서는 의문이 생깁니다.
퀄컴은 AI를 통해, 사진의 이미지를 확장하는 것을 시현하였습니다. 이런 기술을 활용하면 사진이나 이미지에서 사물을 지우거나 이동시키는 것이 가능합니다.
출처: 퀄컴
야간 영상 화질 개선
퀄컴은 AI를 통해, 야간에 촬영된 영상이나 사진의 선명도를 비약적으로 개선했다고 합니다. 이런 기술은 현재에서도 보정이라는 형태로 사용되고 있습니다. 앞서 퀄컴이 보여준, 이미지 생성 기술을 활용하여 야간에 촬영된 이미지나 영상을 다시 창조하는 형태라면, 이것이 내가 찍은 것인지 AI가 그린 것인지 헷갈리게 되는 시점이 곧 올 것 같다는 생각이 듭니다.
레이트레이싱
게임 그래픽 등에 반사, 투명도, 그림자 등을 AI로 만들어 그래픽의 사실성을 높여주는 기술입니다. 이미 GPU를 통해서 이런 기술이 게임에 활용되고 있습니다. 스마트폰의 NPU가 개선됨에 따라, 스마트폰용 게임의 그래픽 성능이 크게 개선될 것으로 기대됩니다.
사생활보호와 제품의 개인화
사실, 온디바이스 AI에서 가장 기대하는 부분이 사생활 보호일 것입니다. 클라우드의 AI를 사용할 경우, 성능은 뛰어나겠지만, 나의 모든 데이터가 클라우드로 전송되고 분석되기 때문에 조금 꺼려지는 것이 사실입니다.
온디바이스 AI의 경우, 나의 문장 패턴이나, 어투 그리고 일상의 루틴을 분석하여, 개인 생활의 편리를 높이는 서비스를 제공할 수 있을 것입니다. 그리고 이런 서비스의 경우, 챗GPT와 같은 거대 모델이 필요하지 않기 때문에 충분히 차별화할 수 있을 것입니다.
삼성전자 갤럭시S24에 온디바이스 AI 탑재
삼성전자는 2024년 1월에 출시될 갤럭시 S24에 온디바이스 AI기능을 탑재한다고 밝혔습니다. 그리고 온디바스 AI와 클라우드 AI를 결합한 ‘하이브리드 AI’도 준비중이라고 합니다.
갤럭시 S24의 경우 엑시노스 칩셋도 함께 탑재되기 때문에, 퀄컴의 플랫폼을 활용하여 온디바이스 AI를 출시할 경우, 엑시노스에는 적용이 어렵기 때문인 것으로 보입니다. 다만, 갤럭시 S24에 온디바이스 AI도 퀄컴이 시현한 기능들에서 크게 벗어나지는 않을 것으로 보입니다.
온디바이스 AI는 매력적인가?
퀄컴은 서밋 기간 동안, 비행기 모드로 설정된 스마트폰에 챗GPT와 같은 창을 띄워놓고, 참가자들의 질문에 대답하는 AI 모델을 선보였다고 합니다. 퀄컴의 입장에서는 감개무량한 일일 것입니다. 데이터의 트레이닝에서만 7GWh의 전력을 소비한다는 챗GPT의 고사양 서버가 없이도, AI의 기능을 수행했기 때문입니다.
그러나 소비자의 입장에서 이것이 놀라운 일일까요? 아닐 겁니다. 그리고 퀄컴은 모바일 기기의 부품의 만드는 회사이고 모바일 기기는 언제나 네트워크에 연결되어 있는 것을 전제하고 있습니다. 소비자의 입장에서는 챗GPT와 같은 LLM 모델에 더 빨리 접속하게 해주는 솔루션이 더 유용할 것입니다.
이런 측면에서 마이크로소프트의 전략이 좀 더 현실성이 높아 보입니다. 하드웨어는 마이크로소프트의 윈도우 파이럿을 더 빨리, 더 부드럽게 구동시키는 쪽으로 진화해 나가야 할 것입니다.
퀄컴은 AI쪽에서 어떤 차별점을 만들려고 조바심을 내고 있는 것 같습니다. 그러나 온디바이스 AI가 소비자에서 진정으로 매력적이기 위해서는 소비자의 생활을 혁신적으로 바꾸어 줄 무언가가 더 필요해 보입니다.
3 thoughts on “온디바이스 AI – AI가 스마트폰 속에서 무엇을 할 수 있나?”