일본산업뉴스요약

AI 에게 논리를 요구
AI의 악용 및 남용 우려에 대응한 지침 발표

인공지능학회가 최근 인공지능(AI)의 연구개발에 있어서 ‘논리 지침’을 공표했다. AI를 개발하는 연구자만이 아닌, AI 자신도 지침을 지켜야 한다는 조항을 담은 것이 특징이다. 공학계의 학회가 연구의 내용에 관련된 논리 지침을 책정하는 것은 드문 일이지만, AI의 악용과 남용에 대한 사회의 염려에 맞서는 자세를 보여주는 것으로 신뢰를 얻는 목적이 있다.

지침을 정리한 도쿄대학의 마츠오 교수는 “AI가 AI를 만들어 내는 것과 같은(미래의) 위험에도 대응할 수 있는 내용으로 했다.” 라고 설명한다.

지침의 조문에서는, AI가 사회에 침투하는 것으로 인해 “생활이 현격히 풍족해지는 것이 기대되는 한편, 악용과 남용으로 공공의 이익을 해칠 가능성도 부정할 수 없다.” 라고 명기했다. 그리고 AI가 유익해지는 것처럼, 연구자는 “사회의 다양한 요구에 귀 기울여, 사회로부터 겸허히 배워야만 한다.”라고 요구했다.

또한 ‘인공지능에 대한 논리 준수의 요청’ 이라고 하는 조항을 만들어, “인공지능도 학회원과 동등히 논리 지침을 준수해야만 한다.” 라고 정했다. 연구자가 아닌 AI 그 자체에 대한 조항은 “AI에게 시민권을 주는 미래를 상정하여 작성했다. 지금까지 이러한 조항을 담은 것은 세계에서도 처음이다.” 라며 책정에 참여한 교토대학의 니시다 교수는 말한다.

직접 데이터를 학습하는 AI는 학습의 내용에 대해서는 특정인을 공격하거나, 비논리적인 판단을 내리거나 하는 일이 있다. 2016년에 미국 마이크로소프트가 공개한 AI ‘Tay’는 차별적인 발언을 연발하여 운용정지에 내몰렸다. 미래에 AI가 AI를 개발하는 시대가 온다면, 연구자만이 아닌 AI에도 논리를 요구할 필요가 생긴다 라고 한다.

의학계의 학회가 특정 의료기술에 대해서 논리 지침을 규정하는 것은 있지만, 공학계의 학회에서는 드문 일이다. 책정에 참여한 국립정보학연구소의 다케다 교수는 “지침을 사회와 AI 연구자의 대화의 시작으로 하고 싶다.”라고 강조한다.

-- 끝 --