일본산업뉴스요약

데이터의 세기
EU, AI에 윤리 지침 책정
인종 및 성별의 차별 방지

EU가 인공지능(AI)의 윤리 지침을 책정한다. 최근 EU의 전문가 회의 초안이 밝혀졌다. 기업에게 AI의 판단 과정을 알기 쉽게 설명하도록 하는 등의 내용으로, 올해 말까지 유럽위원회가 최종안을 작성할 예정이다. 융자와 인사 채용 등에서의 AI 활용이 확대되고 있지만, 인종 및 성별 등에 대한 편향된 데이터를 AI가 습득해 차별적 분석을 하는 사례가 늘어날 것이라는 우려도 나오고 있다. 이번 방침은 다른 나라의 규제 및 기업의 움직임에도 영향을 줄 것으로 보인다.

-- AI의 판단 과정 투명하게 --
EU는 방대한 데이터를 경제 활동에 활용하는 ‘데이터 경제’에 관련된 규제를 적극적으로 추진하고 있다. 올 5월에는 일반데이터보호규칙(GDPR)을 시행해 개인정보 보호규제를 강화. 데이터 독점으로 세력을 확대하고 있는 미국의 IT 대기업들에 대한 경쟁법 위반 적발도 추진하고 있다. 이번에 새롭게 AI 분야의 규범 만들기도 가속화하려는 것이다.

지침의 초안은 유럽의회가 위탁한 전문가 회의 ‘AI for people’이 조만간 공표할 예정이다. 초안은 ①AI의 판단 과정을 알기 쉽게 설명할 책임을 기업에 부과하고 ②판단에 어떤 데이터를 사용했는지 등의 정보 공개 제도를 정비 ③AI의 구조와 운용이 윤리적인지 여부를 심사하는 기관을 설립 ④윤리적인 AI인지에 대한 인증제도 마련 등의 내용이다.

AI의 결함으로 가사 로봇이 사고를 일으켰을 경우 등도 상정. 피해를 보상하는 배상 책임 보험 가입을 기업에 의무화하는 등도 포함되었다.

AI의 활용은 급속도로 확대되고 있다. 금융기관은 고객의 개인정보와 구매 기록 등을 분석해 점수화하는 방식으로 융자 조건 등을 결정한다. 취업 희망자의 이력서를 AI가 파악해 채용 판단에 활용하는 사례들도 많다.

하지만 구미(歐美)에서는 “AI가 인종 및 성별 등에 편향된 분석과 판단을 확대시킬 위험성이 있다”라는 지적도 나오고 있다. AI는 먼저 사람이 입력한 과거의 데이터를 통해 독자적인 판단 기준 등을 학습. 점차 스스로 데이터 수집을 시작해 분석 결과를 내놓는다. 원래의 데이터에 차별적인 편향성이 있을 경우, 그것을 조장할 수 있다는 약점이 있다.

예를 들어 금융기관의 AI가 특정 인종의 고객에게 주택 융자를 거부하거나, 인사 채용 AI가 성별에 따라 채용 판단에 차이를 둘 수 있다.

또한 AI는 내부적으로 데이터 분석 과정이 복잡해 어떤 지표를 바탕으로 왜 그러한 판단을 했는지에 대해 외부에 거의 공개되지 않는 ‘블랙박스화’ 문제도 가지고 있다. 판단 과정을 외부에서 알 수 없을 경우, 차별적인 분석이 계속 되어도 발견하기 어려울 뿐만 아니라 수정도 어렵다. EU의 이번 윤리 지침은 투명화를 추진해 이러한 문제에 대응해나가려는 것이다.

AI 이용 윤리에 관한 규정은 지금까지 미국의 구글 등 기업들이 추진해왔다. 국가 차원의 이러한 움직임은 EU가 처음인 것으로 보인다. AI의 판단 과정을 보여주는 소프트웨어도 개발되고 있어 이러한 기술 혁명도 이용될 전망이다.

유럽연합집행위원회는 4월, AI 윤리 지침을 연내에 책정한다고 발표. 전문기구를 설립했다. 유럽연합집행위원회의 전문기구는 이번 전문가 회의의 초안을 토대로 논의를 추진, 최종안을 작성한다. 전문기구와 전문가 회의의 위원들은 일부 중복되어 있다.

위반에 대한 벌칙 등은 방침에 포함되지 않을 것으로 보이지만, EU 각국에서 지침을 참고한 법 정비가 추진될 가능성도 있다. “부적절한 이용이다”라고 지적된 기업은 투자자와 소비자의 반발에 직면하게 될 가능성도 있다.

▶ EU의 AI 윤리 지침 초안 골자
- AI의 판단 과정 등에 대해 기업이 설명해야 할 책임
- AI가 판단에 사용된 데이터 등의 정보 공개 제도 창설
- AI의 투명성 등을 감시하는 기관 설치
- AI의 윤리상을 인증하는 제도 창설
- AI의 결함에 따른 사고에 대한 배상 보험 가입을 기업에게 의무화
- AI를 이용하는 기업의 이익 일부를 AI의 투명화 촉진을 위해 환원

 -- 끝 --