일본산업뉴스요약

AI와 세계, 앞으로 나아가는 사람들 (2)
‘살인 로봇’에 대한 경고
위협의 싹을 잘라내야

‘살인 로봇’을 막을 수 있을 것인가? 2017년 11월, 인공지능(AI)이 스스로 판단해 움직이는 무기에 대한 최초의 유엔 공식 전문가 회의가 스위스에서 열렸다. 그 계기가 된 것은 기업가들의 우려의 목소리였다.

“과도한 AI 개발 경쟁은 1달러에 사람을 살해하는 세계를 초래할 것이다”. 인터넷 무료통화 서비스, 스카이프 공동 창업자 탈린(Tallinn)은 이렇게 경고했다. 탈린 등이 창설한 비영리단체는 ‘사람에 의한 제어를 담보’ ‘AI를 이용한 군비 확대 경쟁 금지’ 등 23개 원칙을 주장했다. 8월에 공개된 유엔에 살인 로봇 금지를 요구한 문서에는 미국 테슬라 대표 머스크와 애플의 공동 창업자 워즈니악 등 100명 이상이 찬성했다.

-- 세계의 분단 우려 --
탈린은 2005년에 스카이프를 미국 eBay에 매각. 그 자금으로 스타트업기업 등에 투자해 연구자들과 의견을 나누면서 적대적 AI가 만들어질 위험성에 대해 크게 깨닫게 되었고, 이를 막기 위한 활동에 자신의 자본과 노력을 쏟아 붓기로 결심했다.

탈린의 조국 에스토니아는 이전부터 독일과 러시아 등 주변 강대국들 간의 분쟁에 휩쓸려왔다. 구 소련으로부터 독립할 수 있었던 것도 부당한 점령에 대한 저항 의식이 국민 전체로 확산되었기 때문이다. “지금이야 말로 AI의 부정적 측면을 전세계가 공유하지 않으면 안 된다’라고 탈린은 강조한다.

AI개발은 국가 간의 경쟁으로 발전하고 있다. 중국은 2030년까지 AI관련 산업의 시장 규모를 10조위안(약 170조엔)으로 확대한다는 계획을 발표. 러시아의 푸틴 대통령은 “AI 개발의 리더가 세계를 지배한다”라고 말한다.

규제 없는 AI 개발 경쟁은 세계의 분단을 초래할 가능성도 있다. 연구자들과 기업가들의 위기감은 글로벌기업들을 움직이기 시작했다.

-- 적과 손을 잡는다면 --
2017년 12월, 평상시는 라이벌로서 경쟁하는 30개 이상의 기업 및 조직들이 모여 ‘사람과 AI의 공존’, ‘AI의 안전 관리’ 등 7가지 테마를 주제로 논의하기 시작했다. 수 년 안에 AI 개발 가이드 라인을 만들 예정이다.

논의에는 구글과 액센츄어, 소니 등의 기업 외에도 인권 단체 등도 참가한다. 이번 프로젝트를 주도한 사람은 IBM에서 ’AI의 윤리’를 연구하는 로시. “AI를 감시하는 경찰이 되려는 것이 아니다. 모두가 좋다고 생각할 수 있는 최선의 이용 방법을 찾아내는 것이 목적이다”라고 한다.

이탈리아의 대학에서 컴퓨터 사이언스를 가르쳤던 로시가 IBM에 입사한 것도 AI의 의사 결정에도 투명성이 필요하다고 생각했기 때문이다. “인터넷에서 ‘할머니’를 영상 검색하면 백인들의 사진만 나온다. 판단의 다양성이 결여된 AI를 우리는 신뢰할 수 없다”라고 말한다.

한편, 현재 프로젝트에 참여한 기업들은 미국과 유럽 기업들이 대부분으로, 일본에서 참여한 곳은 소니뿐이다. 미국과 유럽의 사고방식이 기준이 될 우려가 있다. “많은 업종과 지역의 기업들이 참여하지 않으면 이상에 가까워질 수 없다”라며 로시는 세계 많은 기업들의 참여를 호소했다.

로봇이 자신을 만들어낸 인류에게 반기를 드는, 이런 SF영화에서나 나올법한 시나리오를 막기 위해 개발의 최전선에서 연대의 틀이 확대되고 있다.

 -- (3)으로 계속 --