전기전자/정보통신

Nikkei Computer_22.7.21 키워드 (p79)

HITL(Human in the Loop)
시스템과 인간이 협조하여 과제 해결 목표

컴퓨터 시스템의 판단이나 제어의 일부에 인간을 개입시켜, 시스템과 인간이 협조하며 과제 해결을 목표로 하는 생각이다. HITL의 예로 비행기나 자동차의 움직임을 재현하는 플라이트 시뮬레이터, 드라이브 시뮬레이터 등의 시스템에서 비행기나 자동차 조종을 인간이 담당하는 것 등을 들 수 있다.

HITL은 컴퓨터공학 등에서 폭넓게 사용되는 개념이다. 그 중에서도 최근에는 기계학습 분야에 있어 ‘HITL(인간 참가형) 기계학습’에 이목이 집중되고 있다. 이것은 모델의 추론 정밀도를 계속해서 높이는 대응인 ‘MLOps’와 HITL을 조합한 것이다. 구체적으로는 업무 지식이 풍부한 담당자가 모델의 추론 결과가 맞는지 확인하고, 틀리면 추론 결과를 수정해 모델에게 다시 학습시킨다.

예를 들어 이미지에 찍힌 동물을 추측하는 기계학습 모델의 경우, 고양이가 찍힌 이미지를 보고 모델이 실수로 '개'라고 판단하면, 사람이 이미지에 '고양이'라는 올바른 라벨을 붙여 모델에 학습시킴으로써 추론 정확도를 효율적으로 높일 수 있다.

인공지능 벤처기업인 ABEJA의 오카다(岡田) CEO는, 기계학습 개발에 HITL을 활용하는 이점에 대해 “모델의 추론 정밀도를 극단적으로 높이지 않아도 운용을 시작할 수 있다”라고 지적한다. 모델 추론 결과를 그대로 업무에 사용하는 것이 아니라 최종적으로는 업무 지식이 풍부한 담당자의 판단이 업무에 반영된다.

때문에 PoC(개념 실증)를 반복하며 정밀도 90%를 달성하고 나서 AI(인공지능)를 도입하는 식의, 지금까지 많은 케이스에서 반복되어 온 수고를 줄일 수 있을 것으로 전망한다.

HITL 활용으로 AI를 활용하는 업무 담당자의 부담을 덜 수 있었던 예도 있다. 플랜트의 배관 표면을 촬영한 이미지를 바탕으로 배관의 부식 정도를 판정하는 모델을 운용하고 있는 미쓰비시 가스화학은 기계학습 모델의 개발 및 운용에 HITL을 도입했다.

미쓰비시 가스화학은 모델의 운용 개시 목표를 ‘정밀도 60~70%를 달성한 시기’로 정하고 운용을 시작했다. 미쓰비시 가스화학은 업무 담당자의 부담 절감 효과에 대해 “보수원이 배관 부식을 체크할 때, 모델이 부식되었다고 생각하는 부분에 표시를 한 이미지를 사용하는 것이 아무것도 표시되지 않은 원래 이미지를 사용하는 것보다 업무 효율이 높아진다”고 말한다.

-- 사람의 관여로 윤리를 지킨다 --
사회적 윤리관을 훼손하지 않고 기계학습 모델을 운용하기 위해서도 HITL에 의한 인간의 관여는 중요하다. AI가 학습에 사용하는 데이터에 바이어스가 포함돼 있다면 AI가 차별적인 판단을 내릴 수 있다. 게다가 법령이나 사회의 윤리관 등은 끊임없이 변화하기 때문에 기존대로의 추론을 해도 머지않아 사회의 윤리관에 저촉될 우려가 있다.

그래서 채용 면담 등 사회적으로 중요한 상황에서 AI를 활용할 경우, 인간이 AI의 판단 결과를 뒤집을 수 있는 시스템을 마련하고 최종적인 판단은 인간이 내리도록 운용해야 한다. 그래야 설사 AI가 윤리에 어긋난 판정을 내리더라도 피평가자가 부당하게 불이익을 당하지 않도록 운용할 수 있다.

 -- 끝 --

Copyright © 2020 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.