일본산업뉴스요약

공격에 강한 AI 개발
도쿄대학∙리켄, 이상 데이터의 영향을 완화

도쿄대학의 후타미(二見) 대학원생과 이화학연구소(리켄) 혁신지능통합연구센터의 스기야마(杉山) 센터장은 노이즈나 공격에 강한 인공지능(AI) 기술을 개발하였다. 학습 데이터에 이상 데이터를 끼워 넣는 등의 공격을 받아도 학습이 발산되지 않는다. 미국 마이크로소프트의 대화AI ‘테이’가 인종차별적인 발언을 한 것에서 알 수 있듯이 AI는 데이터를 학습할 때 악질적인 데이터가 잠입해 들어와도 무방비였다.

AI에 학습시키는 대량 데이터의 데이터 간 ‘거리’를 산출하여 거리가 먼 데이터는 중요도를 떨어뜨려 취급한다. 거리가 먼 노이즈 데이터는 AI에 나쁜 영향을 미치기 때문이다. 이러한 방법으로 노이즈나 공격 데이터가 섞여도 영향을 작게 할 수 있다. 지금까지는 하나 하나의 데이터를 동등하게 취급할 필요가 있었다.

연구에서는 이상 데이터와의 ‘거리’를 무한으로 해도 학습이 가능하다는 사실을 실증하였다. 기존 기술의 경우는 학습이 발산되고 만다. 이 노이즈 내성(耐性)은 베이즈 추정과 심층학습을 조합시킨 AI에서는 처음이라고 한다. 공격이나 노이즈에 대한 내성이 생김으로써 응용 범위가 넓어진다.

공장의 센서 데이터를 심층학습하는 경우는 계측치에 일정 비율로 노이즈가 섞이는 것이 문제였었다. 심층학습은 데이터를 대량으로 모아 학습함으로써 하나 하나의 데이터의 영향력을 희석시킨다. 그러나 일정 비율로 발생하는 노이즈는 데이터양을 늘려도 희석되지 않았지만 새로운 방법으로 대응하는 길이 열렸다.

알고리즘은 미국 구글의 심층학습 라이브러리 ‘텐서플로우’로 시험할 수 있도록 소프트를 개발하여 공개하였다.

  -- 끝 --