인공 신경망의 정확성 및 안전성 검증은 미래 시대에 반드시 확보되어야 하는 핵심 기술입니다. 테슬라(Tesla)의 자율 주행 시스템 개발 총 책임자 안드레이 카파시(Andrej Karpathy)는 소프트웨어 2.0 시대가 다가온다 주장했습니다. 이는 인공 신경망의 발전과 활용을 통하여 다양한 문제들을 해결(고객 추천, 자율 주행, 은행, 금융 서비스, 의료 등)하고, 이러한 새로운 문제해결 방법의 효율적 활용을 위한 혁신적인 소프트웨어 개발 전략과 방법론이 필요한 시대를 의미 합니다. 또한, 월스트리트 저널의 편집자였던 월트 모스버그(Walt Mossberg)는 앰비언트 컴퓨팅(ambient computing)이 다양한 디지털 기술들의 종착지라 기고했으며, 구글, 아마존, 인텔 등 미국의 수많은 선도 IT 회사들도 이를 미래 비전으로 언급하고 있습니다. 이는 주변의 모든 컴퓨팅 기계들이 각자 스스로 또 협동하여 인공 신경망을 포함한 여러 기술들을 활용해 사용자를 이해하고 상황에 맞는 서비스를 선제적으로 판단하여 제공하는 환경을 의미합니다.

이 새로운 컴퓨팅 환경들은 근시일 내에 도래할 예정이며, 이미 신경망 기반 소프트웨어, 지능형 시스템 서비스, 컴퓨팅 환경의 다변화로 현실화 되고 있습니다. 일례로, 글로벌 인공 신경망 시장 규모만 따졌을 경우에도 2021년 1억 6080만 달러에서 2030년에는 7 억 4300 만 달러로 연평균 18.7％의 성장이 예상되고 있으며, 이에 따라 파생되는 어플리케이션 시장을 포함하면 그 규모는 더욱 커집니다. 이러한 변화는 인공 신경망 및 이를 활용한 어플리케이션의 일상화 및 다양화로 우리 생활의 전반에 커다란 영향을 미치게 되지만 해당 시스템들에 문제가 생겼을 때 그 영향력 또한 커지게 되고, 적절한 관리가 되지 않을 경우 이미 높은 소프트웨어 재난 비용을 폭발적으로 증가시킬 수도 있습니다

이러한 중요성에도 불구하고, 인공 신경망의 정확성 및 안전성을 엄밀히 보장하기 위한 연구는 여전히 많이 부족한 상황입니다. 대다수의 인공 신경망 정확성 및 안전성 보장은 실험적인 신뢰성에 중점을 두고 있으며, 완전성을 갖춘 정형 검증과 같은 방법들으 널리 적용되지 않고 있습니다. 이는 현재로서는 정형 검증에 필수적인 범용적이고 논리적으로 신경망의 정확성 및 안전성을 작성 가능한 명세 작성 이론이 존재하지 않기 때문입니다. 따라서 현재의 인공 신경망 정형 검증 연구들은 주로 수학적으로 표현하기 쉬운 인지 작업용 신경망들의 지역 강건성에 중점을 두고 있습니다 [그림 2 (b)]. 물론, 지역 강건성 정형 검도 중요한 성질인 “레이블이 지정된 데이터 지점 주변의 일부 지역에서 신경망의 예측이 안정적임”을 보장할 수 있지만, 해당 신경망이 사용자가 본질적으로 기대하는 성질이나 행동을 만족한다는 것을 명확히 서술하거나 증명하는 데는 많은 부족함이 있습니다 [그림 2 (a)]. 게다가, 이러한 지역 강건성이라 할지라도 현재의 정형 검증 기술은 확장성 및 재사용성에서 한계에 부딪혀 있어서, 일정 규모 이상의 상용 신경망에 정형 검증을 적용하기 위해서는 획기적인 전환점이 필요한 시점입니다.

본 연구는 상기하는 문제들을 해결하고자 인공 신경망의 궁극적인 정확성 및 안전성을 서술하고 이를 실용적으로 검증 가능한 기술을 개발함을 목표로 합니다. 이를 위해 우리는 증명 대상 신경망의 명세를 여러 특성에 기반하여 서술 가능한 기술과, 이러한 명세를 기반으로 신경망을 분해하여 검증하는 기술을 개발할 예정입니다. 본 연구는 특히 이를 위한 개념 및 기반이 되는 이론들을 확보하는 데 주력하고, 제안한 방법론을 safety-critical system 및 앰비언트 컴퓨팅 환경에서 활용 될 신경망 모델에 적용하여 실용성을 검증할 예정입니다.

이러한 과정을 통하여 본 연구진은 궁극적으로 인공 신경망에 대한 근본적인 정확성 및 안전성을 정의하고 검증 가능한 기술을 현실화 예정입니다. 또한, 이러한 신뢰성을 기반으로 현재 안전성 및 정확성 문제로 인공 신경망이 활용되지 못 하고 있는 새로운 영역에서 인공 신경망의 활용 가능성도 열어 줄 수 있습니다. 그리고 소프트웨어 시스템의 안전성과 정확성을 확보하는 데 이바지하여 소프트웨어 재난 비용을 줄일 수 있으며, 인공 신경망 및 소프트웨어 관련 다양한 사회적 문제를 감소시키는 데 중요한 역할을 할 것으로 기대됩니다.