AI 모델은 학습 과정, 그리고 이를 서비스하는 과정에서 모두 강력한 연산 능력과 대용량 저장장치를 필요로 합니다. 많은 경우 기업들은 시설 구축 및 운영 비용을 절감하고자 필요할 때 필요한 만큼만 사용하는 클라우드 컴퓨팅으로 AI 모델의 개발 및 서비스를 수행하고 있습니다. 하지만, 현재 데이터센터 및 클라우드 산업은 강력한 컴퓨팅 자원을 제공하기 위해 막대한 에너지를 소비하게 되었고, 그 결과 전세계 온실가스 배출의 3%를 차지하게 되었습니다. 특히, 더 무서운 점은 AI 및 빅데이터 산업의 빠른 성장으로 인해 데이터센터의 작업량은 2015년에서 2022년 사이에 세 배 이상 증가, 에너지 소비량은 70% 증가하였다는 점이며, 이러한 성장률은 지금도 계속되고 있습니다.

기존에도 많은 연구자들은 에너지 효율적인 소프트웨어 설계를통해 에너지 비용 절감과 온실가스 배출 저감을 달성하려고 하였습니다. 하지만, 본 연구를 통해 저희 연구진은 에너지 소비를 줄여 온실가스 배출을 저감하는 간접적인 방법이 아닌 온실가스 배출량 그 자체를 고려한 소프트웨어 설계로, 때로는 에너지 소비를 더 하더라도 온실가스 배출은 저감이 가능함을 보이고, 이를 통해 더 획기적인 온실가스 저감 효과를 얻고자 합니다.

저희가 공략한 포인트는 에너지를 생산하는 과정에서 발생하는 온실가스 배출량을 나타내는 탄소집약도(carbon intensity)라는 지표입니다. 탄소집약도는 태양광, 풍력, 수력 등 신재생에너지(renewable energy)를 많이 사용한다면 낮아지고, 전통적인 화력을 사용한다면 높아지는 경향이 있습니다. 이론적으로 탄소집약도가 0에 가까워지면, 아무리 많은 에너지를 사용해도 환경에 미치는 영향은 거의 없게 됩니다. 하지만, 안타깝게도 클라우드의 에너지 요구량은 하루에도 큰 폭으로 변하고, 신재생에너지의 출력 역시 안정적이지 않기 때문에 클라우드가 소비하는 모든 에너지를 신재생에너지로 공급하는 것은 중단기적으로는 극히 어려운 일입니다.

그림 2. 본 연구는 클라우드인프라 계층과 AI를 학습하고 제공하는 AI 프레임워크 계층에 대해 온실가스 배출량을 제어, 예측 그리고 저감하는 설계철학을 제시한다.

본 연구는 그림 2와 같이 클라우드에서 AI 서비스를 구성하는 컨테이너를 관리하는 클라우드 오케스트레이터(cloud orchestrator) 계층과 AI 서비스를 제공하는 과정을 직접 수행하는 AI 서비스 프레임워크에서 온실가스 배출량을 분석, 예측하고 저감할 수 있는 소프트웨어 설계 기법을 개발합니다. 목표 기술은 탄소집약도가 낮은 시점의 에너지를 적극적으로 활용하여 탄소집약도가 높은 시점의 에너지 소비를 줄이는 전략으로 온실가스 배출량을 저감합니다.

본 연구가 목표로 하는 온실가스배출 고려한 클라우드 소프트웨어 설계 기술은 AI 서비스 과정에서 발생하는 온실가스 배출량을 10% 이상 저감할 수 있을 것으로 예상합니다. IT 기업들은 온실가스 배출 저감에 대한 큰 압력에 놓여 있습니다. 사회적으로 ESG 경영에 대한 요구도 높아지고 있습니다. 빠르게 성장하는 AI 서비스 산업을 고려할 때, 이러한 요구는 지속적으로 커질 것입니다. 본 연구 결과가 이러한 사회적, 경제적 요구를 어느 정도 해소하는데 기여할 것으로 기대하며, 연구 과정에서 양성되는 클라우드 AI 소프트웨어 전문인력은 지속성장이 가능한 AI 산업을 선도하는 역할을 맡을 것입니다.