일본산업뉴스요약

AI붐을 넘어 문리융합 (중)
사회적 영향, 원칙과 현실의 괴리
경쟁력 있는 기술개발이 과제

인공지능(AI) 붐은 기술계 연구자가 사회계 연구자를 끌어들이면서 확산되었다. 붐 발생 초기에 일부 기술계 연구자들이 AI가 인류를 초월하는 Singularity(기술적 특이점)에 대한 기대를 높이면서 사회계 연구자도 따라갔다. 현재는 기술계 연구자 중에서는 Singularity에 신중한 입장이 다수를 차지한다.「AI는 어디까지나 도구이며, 인간을 대신할 수 있는 것이 아니다」라며 신중파가 현실 노선으로 되돌리려 하고 있다.

-- 변화의 기색이 짙다 --
이 변화는 문리(文理)융합에서 추진하는 AI의 사회적 영향 평가에 짙게 남아 있다. 사회계 연구자의 입장에서는, AI를 도구로서 취급하면 자신들이 논의하는 사회적 영향은 적어지며, 지금까지의 논의에서 논점은 거의 나왔다. 한편, AI를 인간과 같은 지능으로 취급하면, 꿈 같은 이야기라며 기술계로부터 반발을 사게 된다. AI에 대한 지식인들의 인식은 너무 다양하여 논의를 하나로 모으기는 어렵다.

정부는 주로 3개의 조직으로 사회적 영향을 검토해 왔다. 내각부의 장관간담회와 총무성 정보통신정책연구소(IICP)의 AI 네트워크 사회추진회의, 경제산업성과 문부과학성, 총무성의 3성이 협력하는 인공지능기술전략회의의 3개의 조직이다.

-- 전문가 한 자리에 --
IICP는 3개의 조직 중에서도 가장 검토 착수가 빠르고, 기술계와 사회계로부터 다채로운 전문가가 모여 있다. AI의 개발원칙이나 활용원칙을 국제적으로 논의하기 위한「안(案)」을 작성하고 있다. 올 여름에「안(案)」을 정리하여 OECD나 G7 등의 국제 단체에 제안할 방침이다. 논의를 추진하는 과정에서 당연히 문리(文理) 사이에 마찰이 있었다. 사회계는 기술에 밝지 않고, 기술계는 법 해석 등에 대한 오해가 적지 않다.

마찰이 단적으로 드러난 것이 AI의 정의와 개발 9원칙이다. 초안 단계에서는 AI에 대해 정의는 내릴 수 없다고 하였지만, 결국 AI를 정의하게 되었다. 도구로서의 AI는 지금 당장이라도 실현하여, 언어의 장벽은 낮아질지도 모른다. 한편, 인간의 지능과 같은 AI의 실현은 아직 멀며, AI에 윤리관을 가르치는 것도 아주 먼 미래의 이야기다. 사회 과제로서 혼동하지 않도록 배려가 필요했다.

-- 기술계의 반발 --
또한 개발 9원칙도 기술계의 반발을 초래하였다. 원칙에서는 AI의 거동에 대해 투명성이나 설명 책임을 요구하였다. 예를 들면 AI가 조종하는 차량이 사람을 쳤다면, 왜 사고를 막지 못했는가에 대해 검증을 받는다. 검증에는 AI가 어떻게 판단했는가에 대해 설명을 할 수 있어야만 한다.

그러나 설계 사상이나 프로그램, 거동 특성 등, 어느 기술 레벨까지 표시해야 설명을 했다고 할 수 있을까에 대한 답이 없다. 사고 전과 사고 후에 요구되는 설명도 바뀐다. 최종적으로 재판에서 배심원이 이해할 수 있도록 쉽게 풀어서 설명하지 않으면 의미가 없다. 설명 요구를 원칙에서 정한다면 개발의 족쇄가 될 수 있다고 기술계로부터 불만이 나왔다.

--「배려」「유의」--
그래서 최신 안(案)에는 원칙에 대한 설명문에「배려」나「주의」라는 단어가 담겨져 있었다. IICP의 후쿠다(福田) 조사연구부장은「비(非)구속∙비(非)규제로 기능하는 구조를 검토한다」라고 설명한다. AI 개발자가 지켜야 하는 원칙을 정하는 것이 아니라, AI 개발자가 원칙을 지키면 인센티브가 작동하도록 사회를 바꾸는 방법을 모색한다.
후쿠다 부장은「원칙에서 요구한 항목은 사회가 요구하는 가치이기도 하다. 프라이버시를 지키며 안심할 수 있는 AI 등, 원칙에 따르면 시장 경쟁력도 증가한다」고 설명한다. 원칙은 족쇄가 되기도 하지만 제품 가치도 된다. 원칙 준수와 기술개발의 양립을 목표로 할 필요가 있다.

● AI개발자가 명심해야 할 9개의 원칙

  -- (하)에 계속 --