일본산업뉴스요약

인공지능(AI)에 공인인증 발급
총무성 방침：개발・보급 촉진을 위한 정책

-- 이용자의 책임 한정 --
총무성은 기업이 개발하는 인공지능(AI)에 공인인증을 부여하는 제도를 수립할 방침이다. 안전성이나 보안 등을 평가한다. 「인증 완료」를 사용한 기업이나 개인에게서 사고가 발생한 경우, 책임 수위를 낮춰, 이용하기 쉽도록 할 계획이다. AI는 급속도로 진보하고 있으나 폭주로 인해 인간에게 해가 될 우려가 있어, 인증 제도를 통해 안전성을 높여 개발・보급을 촉진할 계획이다.

공인인증 대상은 미국 IBM의「왓슨(Watson)」과 같은 컴퓨터에서, 이러한 컴퓨터를 탑재한 로봇까지 폭 넓게 상정하고 있다. 지금은 연구 개발의 특별한 규범이나 방침은 없다. 총무성의 전문가 회의를 통해 내년 봄, 연구 개발 방침을 정한다. 이것을 바탕으로 2018년 이후에 필요한 법 개정이나 공인인증 제도를 창설할 예정이다.

제어가 불가능하게 된다면, 인간에게 해를 가하거나, 중요한 정보를 취득・누출하는 등의 위험성이 있다. 미국 마이크로소프트가 개발한 소셜미디어(Social media)에서 인간과 대화하는 AI가 3월에 인종 차별적 발언을 연발하여 마이크로소프트사는 운용을 정지하였다. 미국의 저명한 창업가인 엘론 머스크(Elon Musk)씨는 그 위험성을 공언하고 있다.

미국에서는 구글 산하의 알파벳(Alphabet) 등, 대형 IT(정보기술)기업이 AI의 폭주에 대한 우려를 불식시키기 위한 단체를 설립하고 있다.

엄격한 규제가 도입될 경우, 기술의 진화에 걸림돌이 될 가능성도 있다. 이를 위해, 안전성이 높은 것이 시장에서 선택되기 쉽도록 하는 제도가 바람직하다고 판단하였다.

공인인증 부여에는 반드시 인간에 의해 제어될 수 있게 하는 것이 요구된다. 인간이나 다른 AI가 언제나 상황을 감시해, 비상시에는 정지나 수정이 가능한 구조여야 한다. 사이버 공격에 쉽게 조종되거나 정보가 유출되거나 하지 않도록 고도의 보안도 요구된다. 개인 정보의 취득을 제한하거나 취득해도 바로 익명화되는 등, 프라이버시의 배려도 요구된다.

안전성 면에서는 불필요하게 강력한 모터를 탑재하지 않는 등, 폭주로 인한 피해를 최소화 하는 설계가 요구된다. 사고를 일으켰을 경우에는 가능한 범위 안에서 AI의 판단・동작의 이유를 설명하도록 개발자에게 요구된다. 제 3의 기관에 의해, 이러한 점이 평가된 후에 공인인증을 부여하는 시스템이 구축될 전망이다.

로봇이 사람을 다치게 하는 등의 사고가 발생해도, 이용자 측의 책임을 축소하는 시스템이 도입된다. AI는 학습된 결과가 판단이나 동작에 영향을 주기 때문에, 이용자에게도 일정한 책임을 물을 수 있는 위험성이 있다. 총무성은 특별법의 제정으로 이용자가 안전성이 높은 AI를 사용하고 있었다는 것을 법적으로 증명하고자 한다. 단, 법조계와의 조정도 필요하다.

공인 인증을 얻은 개발 회사의 배상 책임이 너무 무거워지지 않도록, 새로운 배상 책임 보험제도의 수립도 검토한다. 정부나 지방자치단체 등이 AI를 도입할 경우에는 입찰에서 유리해 질 수 있는 기준도 만들 예정이다.

〈공인인증의 평가 포인트와 보급정책〉

        -- 끝 --