일본산업뉴스요약

위조 동영상 AI로 파헤친다
얼굴 이식∙표정 조작을 실시간으로 식별

국립정보학연구소의 야마기시(山岸) 교수와 에치젠(越前) 교수, 파리 마흔느라발레대학의 빈센트 노직 교수는 인공지능(AI)로 위조된 동영상 ‘페이크 비디오’를 간파하는 AI 기술을 개발했다. 사람의 얼굴을 옮겨 생각대로 말하게 한다는 AI를 이용한 위조를 파헤친다. 이번에 개발한 AI 기술은 위조 측의 AI를 이용해 학습 비용을 줄였다. 제조와 적발이 겉돌아도 적발 측이 우위에 있다.

최근 정치가 등의 얼굴 동영상을 조작해 발언하지 않은 코멘트를 넣은 비디오를 위조하는 것과 성인 비디오의 출연자에 인기 여배우 얼굴을 이식한 동영상 등이 사회 문제가 되고 있다. 입과 눈 등이 부드럽게 움직이고 표정도 자연스러워 간단하게는 식별할 수 없다.

이러한 상황에서 페이크 비디오와 원래 동영상을 학습하여 식별하는 AI 기술을 개발했다. 얼굴 이식은 98%, 표정 조작은 95%의 정확도로 식별할 수 있었다. 동영상 프레임 1장 마다 진위를 판정하는 경우 1분의 영상 식별에 3~4분 소요된다. 프레임 수를 줄이면 처리 시간을 줄일 수 있어 실시간으로 식별할 수 있다. 웹 브라우저 등에 내장할 수 있다.

진위를 간파하는 AI를 만들 수 있다면 적발 측과 위조 측의 AI를 대립하는 시스템으로 만들어 나아가 학습시키는 것이 가능하다. 그러한 경우 적발 AI를 속이기 위해 위조 AI를 학습시킬 수 있다는 기술적인 문제가 있다.

그러한 상황에서 야마기시 교수는 적발 AI의 구조를 가능한 한 단순화했다. 4층 뉴트럴 넷 형태로 심플한 구조를 채용하고 있다. 얼굴 이식 AI의 경우 이식하는 사람과 당하는 사람의 얼굴 사진이 각각 1만 장 필요하다. 하지만 적발 AI는 5,000장의 얼굴로 식별 가능하다고 한다. 학습 비용이 적어 적발 측이 우위에 설 수 있다.

-- 끝 --