전기전자/정보통신

Nikkei Computer_2023.8.31 특집 요약 (p30-37)

생성 AI 시대의 AI 규칙 구축
세계 동시 진행

Part 1. 2개의 흑선(黑船)으로 가속
‘일본주도’는 어디로?

정부의 AI 규칙 제정 논의가 가속되고 있다. 배경에는 미국 오픈AI의 챗GPT 등 생성 AI의 세계적 보급과, 유럽연합(EU)이 협의 중인 ‘AI 법’이라는 두 개의 흑선(黑船)이 있다.

“지금 일본이 주도하며 국제 규칙 제정이 움직이고 있습니다”. 2023년 7월 4일, 생성 AI를 둘러싼 심포지엄에서 기시다 총리는 이렇게 말하며, 23년 5월에 히로시마에서 개최된 주요 7개국 정상회의(G7 히로시마 서밋)에서 각국이 합의한 AI 규제안 ‘히로시마 AI 프로세스’를 어필했다.

생성 AI를 둘러싼 규칙 제정에 대해 기시다 총리는 “규제가 필요한지 아닌지의 양자택일이 아니라 각국의 사정에 따라 다양한 의견이 나와 있는 것이 현실이다”라고 말했다. 이어 “히로시마 AI 프로세스에서는 생성 AI의 거버넌스에 대해 각국의 공통 요소를 분명히 하면서, 각국간의 다른 점은 그 이유나 대응 방책을 명확하게 한다”라고 설명했다.

히로시마 AI 프로세스에 대해서는 2023년 5월 말부터 각국의 실무자 차원에서 협의를 시작했다. 앞으로는 23년 9월에 중간보고를 정리하고, 10월에 교토시에서 열리는 유엔 주최의 ‘인터넷 거버넌스 포럼(IGF) 2023’에서 G7 이외의 각국, 국제기구, 산업계, 학술계 등의 이해관계자로부터 의견을 수렴할 기회를 마련한다. 연말까지 G7 장관급 회의를 개최해 성과를 정리한다.

일본이 국제적인 논의를 주도하기 위해서는 각국에 뛰어난 제안을 제시할 필요가 있다. 그래서 가장 먼저 만든 것이 검토를 위한 나침반이다. 정부가 23년 5월 11일에 설립한 전문가회의 'AI 전략회의'는 히로시마 AI 프로세스를 토대로 23년 5월 26일에 'AI에 관한 잠정적 논점 정리'를 정리했다. 이후 정부는 이를 나침반으로 삼아 AI 논의를 진행하기로 했다.

-- '일본은 뒤처졌다' --
23년 6월 28일, 총무성 전문가회의 'AI 네트워크 사회추진회의'와 하부회의 'AI 거버넌스 검토회'가 약 1년 만에 온라인에서 동시에 열렸다. 여기서 정부가 지금까지 책정해 온 총무성 'AI 개발 가이드라인' 'AI 활용 가이드라인'과, 경제산업성 'AI 원칙 실천을 위한 거버넌스 가이드라인'에 대해 생성 AI를 포함하여 개정한 후에 단일화하게 되었다.

23년 중에 정리하는 히로시마 AI 프로세스의 성과물 작성 논의에서 이 가이드라인을 제안하고, 국제적인 AI 규칙 제정에 반영시키는 것이 목적이다.

다만 한 정부관계자는 "일본은 세계를 향해 발빠르게 AI의 국제적 논의를 제기하는 등 AI 거버넌스 논의에 앞장섰지만 최근 몇 년 사이 뒤처지고 말았다"라고 말한다.

전 세계의 AI 규칙 제정을 위한 논의를 둘러싸고, 총무성을 중심으로 일본 정부는 16년 4월에 다카마쓰시에서 개최된 G7 정보 통신상 회의에서 AI의 논의를 제기. 이어 총무성의 '국제적 논의를 위한 AI 개발 가이드라인안', 내각부의 '인간 중심의 AI 사회원칙' 등을 국제적인 논의의 장에 제안하였고, 경제협력개발기구(OECD)가 19년 5월에 책정한 '인공지능에 관한 이사회 권고'에 반영했다.

일본 정부의 AI 거버넌스 입장은 일관되게 ‘Soft Law’로서의 규칙 제정에 있었다. Soft Law란 법적 구속력이 없는 가이드라인 등의 책정과 AI 개발 및 이용을 추진하는 사업자들의 자주 규제를 통한 거버넌스 방식을 가리킨다.

하지만 최근 몇 년 사이 세계의 AI 규칙 제정의 조류가 달라졌다. 법적 구속력을 가진 'Hard Law'를 통한 규칙 제정 논의가 활발해진 것이다. 계기가 된 것이 두 번째 '흑선'에 해당하는 21년 4월에 유럽위원회가 제안한 EU의 'AI법'안이다.

EU의 AI법이란 AI 전반에 걸치는 법적 구속력을 갖는 것으로, AI를 리스크로 분류하고, 그 리스크에 따라 사업자들이 준수해야 할 규제를 부과한다. 위반하면 고액의 벌금을 부과한다. 유럽의회는 23년 6월에 생성 AI의 논점도 포함한 수정안을 채택하고, 향후 최종안에서 규칙을 책정하기 위한 EU 주요 기관 내 협의를 계속해 나가기로 합의했다.

AI법이 통과돼 시행되면 문제가 발생하기 전에 미리 위험을 통제할 수 있도록 하는 '사전 규제'로서 작용한다. 지금까지 AI와 관련해 이런 법제도는 세계에 없다. EU는 이러한 법제도를 제안하고 실현을 위해 프로세스를 진행함으로써 Hard Law를 포함한 AI 규칙 제정의 로드맵을 글로벌 논의 속에서 주도해 나가려고 한다.

이에 대해 지금까지 일본 정부는 “EU에서 과도한 AI법 규제나, 불투명한 규제가 되지 않도록 전부터 의사를 표현해 왔다”(정부 담당자). 히로시마 AI 프로세스에 앞선 G7 디지털 기술상 회의에서도 처음에는 ‘책임 있는 AI’로서 AI 거버넌스를 의제로 다루며 기업의 자주 규제 등에 의한 AI 거버넌스를 중시하는 방향으로 발을 맞추려는 의도가 있었다.

하지만 AI 규제를 둘러싸고 G7 각국에서 대응이 나뉘는 가운데 각국과의 사전 조정에서도 합의는 어려웠다. 서로의 규칙을 이해하며, 타국의 기업도 알기 쉽게 대응할 수 있는 '상호운용성'의 촉진에 대해 확인하는 데 그쳤다.

Part 2. EU ‘AI법’ 연내 합의
일본은 관여할 수 있을까?

EU의 ‘AI법’안은 세계 AI 규칙 제정 논의를 이끌고 있다. 일본 기업도 AI 리스크를 줄이면서 사업 기회를 찾아낼 가능성이 있다. 초점은 '상호운용성의 촉진'과 '표준규격 책정'이 될 것이다.

Part 3. 개발 기업도 스스로 움직인다
생성AI 가이드 작성

각국 정부에 더해 AI를 개발하거나 제공하는 기업도 자체적으로 생성 AI 가이드를 만들고 있다. 배경에는 지금까지 기업이 자주적으로 진행해 온 리스크 관리나 품질 관리 대응이 있다. NTT 데이터 등의 사례를 바탕으로 AI 가이드 작성의 요체를 분명히 한다.

 -- 끝 --

Copyright © 2020 [Nikkei Computer] / Nikkei Business Publications, Inc. All rights reserved.