본 과제는 차세대 이동통신시스템을 활용하는 신경망 서비스를 함에 있어, 서비스 경로 (단말에서 엣지를 거쳐 클라우드까지 도달하는 경로) 상에 존재하는 모든 컴퓨팅 자원 및 네트워킹 자원을 이상적으로 활용하는 컴퓨팅-네트워킹 융합 패러다임인 compute-while-delivery 를 제시하고, 이를 실체화하는 신경망 동적 분할/연산 기술을 개발하며, 이를 온전하게 지원하는 것이 가능한 6G 이동통신시스템 구조를 제시하는 것을 목표로 하고 있습니다.  

단말의 부족한 연산 성능을 보완하고 클라우드 컴퓨팅이 가지는 긴 지연시간을 보완하는 차원에서, 기지국 등 근거리 위치에 컴퓨팅 자원을 배치하는 모바일 엣지 컴퓨팅 (MEC)이 5G 이동통신시스템 상에서 활성화되고 있으나, MEC 를 활용하더라도 다수의 인공지능 활용 단말들이 발생시키는 대규모의 컴퓨팅 및 네트워킹 수요를 온전히 감당하는 것은 어려울 것으로 예상됩니다. 특히, 소셜 서비스를 포함하는 엔터테인먼트용 AR 시스템 및 산업/의료 환경을 위한 업무보조용 AR 시스템, 영상/음성 등을 분석하여 이상감지를 수행하는 산업용/공공용 위험상황 모니터링 시스템 등이 요구하는 영상 분석(CNN), 사건확률 예측(RNN, LSTM), 자연어 처리(Transformer, BERT) 등은 빠른 응답 속도를 필요로 하고 있어, 5G 이동통신시스템 구조 하에서 대규모 서비스를 제공하는 것은 불가능에 가까울 것으로 예상됩니다. 

이러한 성능 문제의 기저에는, 수십년 동안 이어져온 ‘delivery-then-compute’ 구조 즉 컴퓨팅과 네트워킹이 분리된 구조가 가지는 비효율성이 자리잡고 있습니다. 이러한 비효율성은 데이터가 이동하는 거리(홉)의 총계를 나타내는 byte*hop 개념을 통해 이해될 수 있습니다. 예를 들어, n bytes 크기의 데이터를 k 홉 전송한 후에 연산하는 일반적인 클라우드 시스템은 nk 수준의 byte*hop 을 가지게 되고, 이는 이동통신시스템 전체의 관점에서 보았을 때 n bytes 를 k 번 반복하여 전송했다는 의미이므로 비효율성이 내재되어 있음을 의미합니다. 

MEC 는 동일한 상황에서 n byte*hop 만을 가지게 되므로 큰 효율성 향상이 존재하나, 이러한 연산 요청이 m 개의 단말로부터 동시에 들어왔다고 하면, 클라우드 컴퓨팅은 mnk 형태로 byte*hop 이 자명한 반면, 엣지 컴퓨팅 자원의 성능에 제약이 있는 MEC 는 요청이 발생한 형태에 따라 byte*hop 값이 mn 보다 매우 커질 수 있는 문제점이 있습니다. 또한, m 개의 요청이 특정 지역에서 집중적으로 발생하는 worst case 에서는, 엣지 컴퓨팅 자원 상당수의 활용률이 매우 낮을 수 있습니다. 위 예제에서 보듯이 컴퓨팅 자원을 네트워크 코어 쪽에 집중 배치하면 컴퓨팅 자원 효율성 이 높아지고, 그 반대로 엣지 쪽에 배치하면 네트워크 자원 효율성이 높아질 가능성이 있습니다.  

그림 1: 신경망 분할 연산, 압축전송, 계층적 추론 등이 적용된 on-path computing 개념도

이에 본 연구에서는, 컴퓨팅 자원을 코어부터 엣지까지 비율적으로 배치하고 이를 신경망의 연산/캐싱/압축전송 등에 활용하는 on-path computing 기술을 그림1과 같이 개발하고자 하며, 이를 통해 컴퓨팅 및 네트워크 자원 모두의 효율성을 극대화하는 새로운 네트워크-컴퓨팅 융합 패러다임인 ‘compute-while-delivery’ 를 6G 상에서 그림 2와 같이 실현하고자 합니다. 

그림 2: 컴퓨팅 기능을 대폭 확장한 6G 이동통신시스템 코어망 및 서비스 개념도