일본산업뉴스요약

AI와 미래 제2부: 심층학습의 위력 (3)
사이버 대륙을 지키는 파수꾼
사람의 지시 없이 스스로 판단

-- 해킹 대회를 통해 발전, IoT의 보안에 대해 우려하다 --
8월 4일, 미국 네바다(Nevada)주 라스베가스. 호텔의 이벤트 홀에서 나이스원더(Nighswander)씨는 한가하게 시간을 보내고 있었다. 최고의 두뇌가 모이는 해킹 대회에서 자신의 팀이 싸우고 있는데도 동료들과 이야기 꽃을 피우고 있었다.

이것은 세계 최초의 전자동 해킹 토너먼트, 사이버 그랜드 챌린지(Cyber Grand Challenge: CGC). 인공지능(AI)를 탑재한 컴퓨터가 시큐리티 공방을 펼친다. 이 때 인간이 할 일은 없다.

「시합에 나간 아들을 경기장 밖에서 응원하는 심정이었다」. 나이스원더 씨는 미국 IT(정보기술)벤처 기업인, 포올 시큐어(For All Secure)의 사원이다. AI컴퓨터「메이험(Mayhem)」을 개발해, 이 날 결승전에 진출했다. 연구자나 해커들로 이루어진 100팀 중, 7팀이 참가 자격을 얻었다.

이 날은 각 팀에게 동일한 소프트웨어가 처음으로 주어져, AI로 다른 팀의 소프트를 공격하는 동시에 스스로를 방어한다. 해킹 당하면 감점과 같이, 점수로 경쟁한다. 12시간의 격전 끝에 우승한 팀이 메이험이었다.

나이스원더 씨는 방어하면서 공격하는 것과 같은「전체적인 전략을 세우는데 딥러닝(심층학습)의 사고 방식을 도입했다」고 말한다.

대회에서는 그 자리에서 버그를 찾아내, 수정 패치를 만들고 이를 적용한다. 이러한 자동 작업을 6팀과 대적하는 동안 어떻게 진행해야 점수가 높아질지를 지시하지 않아도 스스로 판단하도록 설계했다.

AI를 개발 할 때, 학습을 위해서는 목표가 필요하다. AI는 처음엔, 무엇을 해야 옳고 무엇이 그른지를 모른다. 옳은 일을 하면 점수를 주어 높은 점수를 얻도록 하게끔 설정한다면, 자율적으로 배워나간다. 메이험도 이런 훈련을 쌓았다.

-- 결승 소프트 공개 --
동사는 기술의 일부를 활용해, 2017년 3월까지 약점을 자동으로 찾아내는 AI 소프트를 발매한다. 소프트개발 회사가 출하 전의 제품을 점검하는데 수요가 예상된다.

「앞으로, 제로 데이(Zero day) 공격은 손쉽게 찾아낼 수 있게 된다」라는 나이스원더 씨. 제로 데이 공격이란, 패치가 만들어지는 날 직전에 소프트의 취약점을 노려 공격하는 것을 말한다. 많은 공격 수법이 난무하는 가운데 그 대책이 어려웠으나, AI를 발전시킨다면 그것이 가능하다고 전망한다.

대회의 주체자는 미국 방총성(防總省)의 국방 고등 연구 계획국, 총칭 DARPA였다. 1969년에 인터넷의 원형인 아파넷(ARPAnet)을 생산, 2004~2007년에 자동 운전 대회를 열어 붐을 일으켰다.

해킹 대회를 계기로, 민간의 AI 보안 기술의 발전을 촉구하기 위해, 결승전에서 만들어진 소프트를 모두 공개하였다.

나이스원더 씨는 26살. 미국 카네기 멜론(Carnegie Mellon)대학의 학생일 때, 시합용 해킹의 팀원이 되었다. 경기에 출전하기 위해 세계를 돌아다니다 포올 시큐어에 입사했다. 최고의 해커가 된 지금, 모든 사물이 인터넷으로 연결되는 다수의「IoT」기기에 대해 보안이 허술하다며 걱정한다.

미국 리서치 회사 IHS테크노로지(IHS Technology)는 2020년에 세계의 IoT기기가 2013년의 3배가 넘는 530억 개에 달할 것이라고 추산했다. IoT 시스템은 공장끼리, 또는 자동차끼리 연결된다. 한 곳이 돌파되면 전체가 위험에 빠지게 된다.

-- 공격에서는 사람이 유리 --
사이버 공간의 위협에 대처하기 위해서는 전문가가 빠질 수 없으나, 경제산업성에 따르면, 일본의 보안 전문가는 2020년에는 193,000명 정도가 부족하게 될 것이라고 한다. 세계의 보안 대책에 대한 요구는 늘어날 뿐이다. IT기업은 AI의 능력에 대해 관심을 갖기 시작하였다.

미국 IBM는 올 5월, AI 컴퓨터인 왓슨(Watson)를 사용해, 전문가 지원용 시스템을 개발하였다. 논문, 블로그, 보고서를 대량으로 읽어 대처 방법을 제안한다. 올 가을부터 매사추세츠(Massachusetts)공과대학 등 8개 대학과 협력해, 더욱 더 많은 정보를 읽게 하고 있다.

트랜드마이크로(Trend Micro)가 2017년의 발매를 목표로 개발 중인 AI소프트는「사이버 공격에 사용되는 통신의 특징을 학습한다」고 첸(Chen)사장 겸 최고경영자(CEO)는 말한다. 네트워크 안에서 감지해 경고한다.

현재, AI가 사이버공격을 했다라는 특정된 안간은 없다. 공격에 관해서는 AI보다 인간이 유리하기 때문이다.

인간은 네트워크를 엿보면서 몰래 공격해온다. 한편, 지금의 AI라면, 어디를 공격해야 할지를 배우고자 많은 것을 검토, 비정상적인 통신으로 인해 발각된다고 보여진다.

정말로 AI의 전자동 시스템으로 기업이 해킹될 우려는 없는 것일까. 나이스원더 씨는「그러한 사태는 10년 안에 일어나지 않겠느냐」며「앞으로 어떻게 될지 판단하기는 어렵다」라고 덧붙였다.

인터넷에 의한 사이버 공간이 만들어졌을 때, 인류는 신대륙을 발견했다고 했다. 그러나 지금 그 공격에 크게 위협당하고 있다. 대륙을 지키는 파수꾼으로서의 AI가 기다려진다.

-- (4)로 계속 --