일본산업뉴스요약

데이터의 세기
AI의 판단, 기업에게 설명 책임 부여
정부, 혼란 회피를 위한 7원칙 밝혀

-- 혼란 회피를 위한 법 정비 --
정부가 정리한 인공지능(AI)에 관한 7가지 원칙이 공개되었다. AI가 사물을 판단할 때 개발 기업에게 설명 책임을 묻는다는 것이 핵심이다. AI의 판단 기준을 밝혀 금융기관의 융자 등에서 과정을 알 수 없는 상황을 없애려는 것이다. 이 7원칙을 바탕으로 법 정비를 추진, 해외 기업들이 일본에서 활동 시 혼란을 막는 것을 지원한다.

AI에 관한 7원칙은 정부의 ‘인간 중심의 AI 사회 원칙 검토 회의’에서 12월에 발표. 내년 6월에 오사카에서 열리는 G20 정상회의 때 참가국에게 제안해 나갈 방침이다.

최근 AI 활용에 대한 우려가 적지 않다. 어떤 기준으로 금융기관이 융자했는지, 취업의 합격∙불합격을 어떻게 결정했는지 등의 경우이다. AI의 결정 기준이 불분명하면 판정 받는 입장에선 불만과 불안이 남을 수 있다. 예를 들어 취업에서 성별, 국적 등이 합격의 판단 자료가 되는 경우도 있을 수 있다. AI를 이용하는 기업도 그러한 사실을 알지 못할 가능성도 있다.

기업에게 결정 이유를 알기 쉽게 전달하는 책임을 부과해 최종적으로 사람이 AI의 판단에 대해 책임을 진다는 구조로 만들어 AI를 둘러싼 우려를 해소할 수 있도록 한다. 외국 기업들이 각각의 나라, 또는 기업의 독자적인 규범에 따라 일본에서 활동할 경우에 혼란이 초래될 수 있다는 우려도 있다.

미국은 GAFA(구글, 애플, 페리스북, 아마존닷컴)이라고 하는 거대 기업들이 AI 개발을 견인. AI 활용 규범은 기본적으로 기업의 자주적 규제에 맡기고 있다. 중국은 국가주의의 성격이 강해, BAT(바이두, 알리바바, 텐센트)라고 하는 기업들을 통해 사실 상 국가가 데이터를 관리하고 있다. EU는 미국과 중국의 동향에 대항해 연말까지 EU가 주도하는 AI 윤리 지침을 마련한다. EU는 AI의 판단 과정을 알기 쉽게 전달하는 책임을 기업에게 부과하는 것이 특징이다. 또한 일반데이터보호규칙(GDPR)에 따라 개인정보 보호를 위해 엄격하게 규제한다.

미즈호정보종합연구소의 도요타(豊田) 씨는 “일본은 AI 규범 정비에서 뒤처져있다. EU 외 다른 국가뿐만 아니라, OECD 국가들과 연대해 규범 만들기를 위해 앞장서는 것이 중요하다”라고 지적한다.

일본 정부가 만든 AI 원칙은 다음과 같다. ①AI는 인간의 기본적 인권을 침해하지 않는다 ②누구나가 AI를 이용할 수 있도록 충분한 교육이 이루어져야 한다 ③개인정보를 신중하게 관리한다 ④AI 보안 확보 ⑤공정한 경쟁 환경 유지 ⑥AI를 이용한 기업에게 결정 과정에 대한 설명 책임을 부과한다 ⑦국경을 초월해 데이터를 이용할 수 있는 환경을 정비한다 등 7가지 원칙으로 이루어져 있다.

 -- 끝 --