엣지AI : AI를 활용한 산업생산의 시작

엣지컴퓨팅 (Edge Computing)과 클라우드의 차이

엣지AI를 이해하기 위해서 먼저 엣지 컴퓨팅에 대해 알아보겠습니다. 엣지 컴퓨팅과 클라우드 컴퓨팅은 둘 다 컴퓨터 자원을 활용하는 방식이지만, 컴퓨팅 시스템의 위치에 근본적인 차이가 있습니다.

엣지컴퓨팅은 데이터가 발생한 근처에서 데이터를 처리하는 방식이며, 클라우드 컴퓨팅은  중앙에 있는 거대한 서버가 데이터를 중앙집중형으로 데이터를 처리합니다. IoT 디바이스들과 스마트폰의 보급으로 데이터의 양이 기하급수적으로 증가하고 있습니다. 이를 클라우드 컴퓨팅을 통해 모든 데이터를 중앙에서 처리하려하면 네트워크과 인프라스럭쳐의 과부하가 발생하게 됩니다.

엣지컴퓨팅 모식도

출처: 위키미디아

이런 네트워크 병목현상 문제의 핵심이 바로 데이터가 처리되는 위치입니다. 엣지컴퓨팅은 스마트폰이나 기지국처럼 통신으로 연결된 디바이스에서도 데이터를 처리할 수 있습니다. 위의 그림에서 중간에 있는 에지노드가 제거되고 클라우드와 디바이스가 바로 연결되면, 클라우드 컴퓨팅입니다.

엣지컴퓨팅의 장점

데이터 응답속도 향상 

컴퓨팅이 데이터가 발생되는 위치와 가까운 곳에서 처리, 분석 및 저장되기 때문에 클라우드 컴퓨팅에 비해 지연이 감소합니다. 실시간 데이터 처리가 필요한 자율주행 자동차나, 증강현실 어플리케이션에 유리합니다.

보안 강화

엣지 컴퓨터는 모든 데이터를 중앙 집중식 데이터 센터로 전송하지 않고 선택적으로 보내기 때문에 보안강화에 도움이 됩니다.

엣지컴퓨팅의 단점

비용증가

엣지 컴퓨팅은 클라우드 컴퓨팅에 비해 추가적인 하드웨어 및 소프트웨어 비용이 발생합니다.

관리의 복잡성 증가

엣지 컴퓨팅은 데이터 발생 지역에 수 많은 컴퓨팅 자원을 병렬적으로 설치하기 때문에 관리의 복잡성이 증가하게 됩니다. 그리고 기기 수의 수가 많기 때문에, 고장이 발생할 수 있는 가능성도 증가합니다.

엣지AI의 등장

엣지 AI는 AI 알고리즘이 엣지 컴퓨팅에 탑재된 형태를 말합니다. 기존의 엣지컴퓨팅이 데이터를 수집하고 이를 중앙서버에 전송하는 것에 더 주안점을 두었다면, 엣지 AI는 수집된 데이터를 엣지 컴퓨터에서 학습(Training)하고 이에 기반하여 의사결정까지 내릴 수 있는 시스템입니다.

가장 쉬운 예로 자율주행자동차를 들 수 있습니다. 도로의 상황에 실시간으로 반응해야 하는 자율주행 자동차는 네트워크의 지연이 발생할 경우, 사고로 이어지게 됩니다.

따라서, 자율주행자동차는 자동차 안에 소형서버급의 컴퓨팅 파워를 가지고, 이미 입력된 알고리즘에 따라 실시간으로 의사결정을 하게 됩니다. 그리고, 주행과정에서 새로운 데이터의 패턴을 발견하게되면, 이를 중앙서버에 전송하여 전체적인 자율주행 알고리즘을 개선하게 됩니다.

산업현장에서 로봇을 이용하여 생산을 할 때도 엣지AI가 활용될 수 있습니다. 중앙의 서버에서 로봇들을 컨트롤 하지만, 각각의 로봇이 생산과정에서 발생하는 데이터를 학습하고 이를 기반으로 의사결정을 내리게 되면, 해당 프로세스에서의 숙련도가 높아지면서 효율도 상승하게 될 것입니다.

엣지AI의 사용 예시

아이폰이 사용자의 화면을 인식하고 휴대폰을 1초 안에 잠금해제 하는 것

구글지도가 지도에 실시간으로 교통상황을 표시하는 것

CCTV가 침입자를 확인하고 이를 경찰에 보고하는 것

화학 공장에 설치된 센서가 폭발을 예측하고 공장의 설비 가동을 중단시기는 것

애플의 시리가 사용자의 목소리를 학습하여 인식율을 높이고 애플클라우드와 상호작용을 하는 것

테슬라봇 모습

엘론머스크는 2023년 9월 23일 테슬라봇을 공개하면서 3~5년안에 위와 같은 로봇을 시장에 출시하겠다고 말했습니다. 그리고 5~10년 내에 스스로 문제를 해결할 수 있는 로봇이 나올 것이라고 전망하였습니다.

현재의 로봇은 역할을 수행하면서 엣지컴퓨팅을 통해 중앙서버와 소통하는 형태의 로봇이라면, 스스로 문제를 해결하는 로봇은 엣지AI의 좋은 예입니다.

엣지AI의 한계점

챗GPT3와 같은 중앙집중형 AI의 경우 학습(Training)에 1.3Gwh의 전기가 소모되었다고 합니다. 반면에, 엣지컴퓨팅의 경우 중앙에 위치한 데이터센터에 비해 자원이 제한될 수 밖에 없습니다. 따라서, 엣지 AI가 보급되기 위해서는, 낮은 컴퓨팅 파워를 사용하면서도 데이터를 학습할 수 있는 간단한 모델의 개발이 선행되어야 합니다.

엣지AI를 향한 도약 : 퀄컴이 MWC 2023에서 시현한 스마트폰 AI(LLM) 모델

AI 엔지니어들과 개발자들이 AI 학습(training) 데이터를 최적화하여 LLM(Large Language Model)이 더 적은 매개변수로도 결과물을 만들 수 있게 되었습니다. AI 모델이 특화되면, 모델 사이즈를 줄일 수 있습니다.

예를들면, 의학용으로 개발되는 AI모델은 법률과 관련된 데이터를 학습할 필요가 없습니다. 반면에, GPT-4와 같은 AI는 범용으로 개발된 것이기 때문에 100조개의 매개변수를 사용합니다.

퀄컴은 단지 10억개의 매개변수를 활용한 Stable Diffusion Model을 자사의 스냅드래곤 8Gen2 탑재된 휴대폰에서 구동시켜 15초 만에 새로운 이미지를 만들어 내는 것을 시현하였습니다.

퀄컴이 스마트폰으로 구현한 AI로 그린 그림

출처 Qualcomm

퀄컴의 AP는 계속 진화하고 있고, AI 엔지니어들은 LLM 모델을 더욱 효율화 시키고 있습니다. 어느 시점이 되면, 현재 챗GPT 3.5 수준의 AI가 스마트폰에서 구현되는 날이 올 것입니다. 그 때가 되면, IoT 디바이스와 로봇들이 훨씬 더 정교한 의사결정을 수행하면서, 인간이 하고 있는 좀 더 많은 역할들을 대체하기 시작할 것입니다.

결론

클라우드 컴퓨팅과 5G네트워크가 확산되면서, 우리의 업무환경이 변하고 있습니다. 재택근무의 확산과 디지털노마드가 가능하게 된 것은 이런 새로운 인프라의 등장과 관련이 있습니다.  제4차 산업혁명이 진정한 산업의 생산방식을 바꾸는 방식으로 진화하기 위해서는 IoT를 활용한 에지컴퓨팅과 엣지 AI가 보급될 때 가능해 질 것입니다.