일본산업뉴스요약

일본경제신문_2017.4.12(수)_1면

《AI와 세계》 -- 바로 그곳에 있는 미래 (2)
아군으로도, 적으로도 둔갑할 수 있는 AI
AI의 악의적 사용을 억제할 수 있을 것인가?

판문점으로 가는 길에서 바라 본 그 곳은 상상 이상으로 광대했다. 한국과 북한을 나누는 군사 분계선 주위에 위치한 비무장 지대. 이 곳의 총면적은 900평방km로, 육안으로 감시하기는 어려울 것 같은 면적이다.

이곳에서는 반경 4km 이내의 표적을 감시해, 긴급 시 총으로 제압할 수 있다. 탄도미사일 발사 및 핵실험을 반복하고 있는 북한에 대항하기 위해 한국은 어떤「병사」를 배치했다고 한다. 그것은 기관총을 가진 로봇이다.

-- 로봇이 적의를 나타내다 --
「사람이 다치는 위험성을 감소시킨다」. 서울 대학의 이 범희 교수는 인공지능(AI) 및 로봇이 전투에 이용되는 것을 통해 인간인 병사가 위험에 노출되지 않게 된다고 설명한다. 이에 대한 우려의 목소리도 있다. 「로봇이 올바른 판단을 할 수 없게 된다면 어떻게 되나요?」. 서울에서 이 이야기를 들은 한국인 여성(28)은 불안해 하며 물었다. 로봇이 스스로 공격하게 될 때, 아군을 구별하고, 전투원과 민간인을 식별하는 고도의 판단을 내리는 것이 과연 가능할 것인가? AI 병기는 현실적인 위협이 될 수 있어「이것을 어떻게 제어할 수 있는가가 문제시 되고 있다」(탁쇼쿠 대학 사토 교수)고 한다.

AI는 당신을 향해 적의를 나타낼 수도 있는 것이다. 「일본어로 자기소개를 해 보세요」. 미국 캘리포니아 주에 거주하는 기술 아티스트, 레벤 씨의 공방. 취재를 위해 방문한 기자에게, 그는 그의 작품인 마이크가 부착된 헤드폰을 착용하고 이야기해 보라고 권했다. 「신문사에서…일하고..있…는」. 말이 잘 안 나오고, 갈수록 혀가 잘 움직이지 않았다. 순간 불쾌해져 헤드폰을 벗어버렸다.

이것은 사람의 말하는 속도를 조절하는 장치로, 헤드폰을 통해 소프트웨어가 특수 가공해 말의 간격을 늘린 자신의 목소리가 들린다. 귀에서 들리는 느리게 변조된 자신의 목소리로 인해 말투는 더욱 느려지고, 끝내는 말하고 싶어도 입이 움직이지 않게 되었다. 이렇듯, 고도의 AI라면, 사람의 뇌의 자유를 빼앗고, 쉽게 조종할 수 있는 것은 아닐까?

레벤 씨는 매사추세츠 공과대학(MIT)에서 로봇을 연구했다. IT 기업에서 수 년간 근무하면서 AI 등의 기술에는 커다란 위험성도 존재한다는 생각이 강해진 그는, 그것을 널리 알리기 위해, 일부러 사람을 다치게 할 수도 있는 「악의적 로봇」을 제작했다고 한다.

-- 제어 불능에 대한 우려 --
AI는 사용되는 방식에 따라 적으로도 아군으로도 될 수 있다. 미국의 구글과 같은 그룹 회사인 딥마인드가「어떤 사람의 목소리라도 흉내 낼 수 있다」라고 하는 음성 합성 기술을 발표하자, 미국에서는「사기에 이용될 수 있다」라는 우려의 목소리가 나왔다. 일본에서는「사칭 사기」에 악용될 수도 있을 것이다.

영국의 옥스포드 대학 등이 2015년에 발표한「문명을 위협하는 12가지 리스트」에서, 기후 변동 및 핵전쟁, 세계적 규모의 전염병 유행 등과 함께 AI도 그 중 하나로 포함되었다. 이만큼 제어가 불가능한 AI및 로봇이 탄생하는 것에 대한 우려가 크다.

그러나「AI에게는 남은 11가지 위협을 해결할 수 있는 잠재력도 가지고 있다」(바둑기사 하뉴(羽生)). 구제도 재앙도 초래하는 AI를 어떻게 다루어나가야 할 것인지, 인간의 지혜가 필요할 때이다.

  -- (3)으로 계속 --