일본산업뉴스요약

일본, AI 이용∙활용에 10개 원칙을 G20에 제안
‘공평성’ 및 ‘투명성’ 등, 국제 규범 제정 촉구

세계적으로 보급되고 있는 인공지능(AI)의 이용∙활용 시, 개인과 기업은 어떤 것에 유의해야 하는가? 총무성은 이러한 문제를 G20 등의 국제 회의에서 제기하기 위해 개인을 부당하게 차별하지 않는 ‘공평성’, 사고가 일어났을 경우 경위를 검증할 수 있는 ‘투명성’ 등, 10개 원칙을 정리. 이것을 국제적 규범으로 만들기 위한 토대로 제시해 AI와의 공생을 목표로 한 논의를 주도해나갈 계획이다.

이 10개 원칙은 산학의 전문가들 및 관계 부서로 구성된 ‘AI 네트워크 사회 추진회의’가 17일에 공표할 보고서 안건에 포함될 예정이다. 보고서는 AI가 사회에 보급되어 가는 가운데 그 장점을 최대화하고 단점을 최소화할 수 있도록 사전에 리스크를 분석한 것이다. 자율주행, 의료진단, 금융 등 분야 별로 AI의 이용 사례를 열거해 예상되는 과제를 도출. 모든 분야에서 유의해야 할 공통된 원칙을 정리했다.

보고서에서는 앞으로의 AI 이용에 대한 구체적 이미지로 스마트하우스를 예로 들었다. 스마트하우스는 개인의 위치 정보와 행동 기록을 통해 귀가 시간을 예측해 실내 온도 조정 및 입욕 준비가 자동으로 이루어지며, 주거자의 건강 상태 및 냉장고의 재고에 맞춘 레시피 제안과 자동 발주, 로봇에 의한 자동 요리 등도 가능하다고 상정했다. 또한 대규모 재해 시, 주택의 지붕의 파손 상황 등을 통해 보험 금액이 자동으로 산정되는 등, 주거 문제가 금융 분야로까지 확대될 것이라고 했다.

보고서에서는 발생할 가능성이 있는 리스크도 제시했다. 우선 해킹으로 인해 로봇을 제어할 수 없게 되거나, 사람과의 충돌, 개인 정보가 유출 되는 등의 위험성. 학습 부족으로 요리에 실패하거나, 사람이 하는 것보다 더 시간이 걸리는 경우도 제시했다.

보고서에서는 이러한 미래상을 고려해 AI를 이용 및 활용할 때의 원칙으로 10개 항목들이 제시되었다. 예를 들어, ‘연계 원칙’에서는 복수의 AI를 상호 접속하면 편익이 확대되지만, 그에 따른 리스크도 증가할 위험이 있다고 지적. 하나의 AI의 불량이 네트워크 전체에 영향을 미치는 사태 등을 상정했다. 이러한 리스크를 사전에 올바르게 인식하는 것이 본격적인 보급의 토대가 된다는 입장이다.

‘적정 학습’ 항목에서는 AI 학습에 이용되는 데이터의 정확성 등에 유의하도록 촉구했다. 부적절한 데이터를 학습할 경우 보안이 취약해질 위험성도 있다. ‘공평성’에서는 AI로 인해 부당한 차별이 발생하지 않도록 하는 배려를 요구. 미국 마이크로소프트의 대화 AI가 차별적인 발언을 반복한 사례도 있어 악질적 데이터가 유입되는 것을 어떻게 방지할 것인지 등도 과제로 제시했다.

‘투명성’은 자율주행 등을 구체적인 이용 사례로 상정. 데이터의 입∙출력 기록 및 보존으로 사고가 일어났을 때 그 경위를 검증하거나, 책임 소재를 명확하게 할 수 있도록 해야 한다고 규정했다.

보고서에서는 제시한 원칙을 배려해야 할 ‘이용자’의 범위 및 분류도 정리했다. 자율주행의 경우, AI 시스템을 이용하는 택시업자와 승객. 의료용 AI의 경우, 의사와 환자. AI를 이용한 금융 심사의 경우, 금융기관과 대출자가 각각의 입장에서 AI의 ‘이용자’가 된다.

총무성은 이번 안건을 바탕으로 국제적 규범 만들기를 촉구해나갈 계획이다. 8월 하순에 아르헨티나에서 열리는 G20의 디지털경제 장관회의, 11월 중순, 프랑스에서의 OECD 디지털경제 정책위원회 등에서 안건을 제시해 논의를 촉구. 2019년에 일본에서 열리는 G20 회합에서 최종적 합의를 이끌어낸다는 계획이다.

AI에 관한 국제 규범 제정은 난항을 겪을 가능성도 있다. 해외에서는 EU가 규제 성격이 강한 규범을 지향하는 반면, 미국은 규제 강화에 거부감을 나타내고 있다고 한다. 일본은 그 중간적 입장에서 ‘비구속형’ ‘비규제형’의 규범 제정을 주장할 방침이다. 벌칙이나 강제성은 없지만 무난하게 공유할 수 있는 원칙으로 보급시키는 것을 목표로 한다.

 -- 끝 --