일본산업뉴스요약

Nikkei X-TECH_2022.1.12

NEC, 엣지에서의 AI 처리를 약 8배 빠르게
하드웨어 기술자가 만들어낸 방법은？

“복수의 AI(인공지능) 모델을 조합하는 방법으로, (감지 대상이나 이용하는 디바이스, 물체 감지 AI 모델의 종류에 따라 다르지만) 엣지 단말에서의 물체 감지를 지금보다 약 8배로 고속화할 수 있는 기술을 개발할 수 있었다”(NEC 바이오 매트릭스 연구소의 와타나베(渡邊) 주임).

NEC가 개발한 것은 ‘점진적 물체 감지 기술’이다. 이 기술을 활용하면 창고나 교차로 등의 이미지에서 사람이나 자동차 등을 고속으로 감지할 수 있다. 예를 들면 창고 이미지에서 사람을 감지, 사람이 얼마나 같은 장소에 머무르는지 분석함으로써 창고의 인원 배치를 최적화할 수 있다. 교차로 이미지에서 달리고 있는 자동차를 감지할 수 있으면, 자동차의 속도나 교통량을 분석해 교통 관제에 활용할 수 있다. 앞으로 개발 강화나 실증을 거쳐 22년에 제품화하는 것을 목표하고 있다.

일반적으로 AI는 정확도를 높이면 처리에 걸리는 시간이 길어진다. 그래서 이번에 개발한 점진적 물체 감지 기술에서는 ‘고속 처리가 가능하지만 정확도가 그다지 높지 않은 모델’과 ‘처리에 시간은 걸리지만 정확도가 높은 모델’을 조합했다.

물체 감지 기술의 조류는 이와 정반대라고 한다. 와타나베 주임의 상사인 다케나카(竹中) 책임연구원은 “다소 성질은 다르지만, 물체 감지 기술이 만들어졌을 무렵에는 우선 이미지 속에서 물체의 후보를 찾아내고, 그 후보가 무엇인지를 조사하는 2단계의 프로세스를 시행하던 시절이 있었다. 그 후에는 처리 속도를 높이기 위해 하나의 모델에 이들 2개의 프로세스를 통합해 처리하는 방향으로 발전되어 왔다”라고 말한다. 그럼 와타나베 주임은 물체 감지 기술에서 왜 복수의 모델을 조합했을까?

-- 원래는 하드웨어의 연구에 종사 --
와타나베 주임이 개발한 물체 감지는 2단계로 이루어진다. 우선 정확도는 별로 높지 않지만 고속으로 물체를 감지할 수 있는 모델로, 사진 속에서 물체가 비친 부분을 잘라내고, 그 사진에서 무엇이 비치고 있는지를 정확도가 높은 모델로 판별한다. 이미지 속에서 물체의 후보를 추림으로써 배경으로 인한 계산 자원(computational resource)의 낭비를 해소하면서, 정확도가 높은 모델도 병용해 모델 전체의 정확도를 보장하고 있다.

와타나베 주임은 물체를 감지하는 AI 모델의 개발에 대해, “인간이 물건을 찾아낼 때는 대략적으로 범위를 좁히고 나서 상세하게 찾는 프로세스를 밟는다. AI로 물체 감지를 할 때도 감지 대상인 물체 이외에 계산 능력을 할애하는 것은 아깝다고 느끼고 있었다”라고 말한다. 이것이 여러 모델을 조합하는 발상의 기초가 되었다.

AI 영역에 주력하고 있는 NEC는 GPU 등의 고성능 칩을 사용할 수 없는 장면에서도 AI의 혜택을 누리기 위해 하드웨어 지식을 AI 개발에 유용하게 쓰려고 노력하고 있다. 그 일환으로 하드웨어 연구팀의 연구 테마를 시프트하는 시도를 진행시켰다. 그래서 원래 하드웨어 연구에 종사하고 있던 와타나베 주임도 다케나카 책임연구원 밑에서 이미지 인식 AI 연구에 종사하게 되었다. “물체 감지 전문가에게 상담하는 것보다 우선은 스스로 손을 써 보았다”(와타나베 주임). 그 결과, 모델의 편성을 통해 좋은 성과를 얻을 수 있었다고 한다.

-- 엣지 단말의 제한도 모델 조합의 발단 --
와타나베 주임이 개발한 기술은 엣지 단말에서 활용하는 것을 상정하고 있다. 엣지 단말로 이미지를 처리하면 클라우드와 데이터를 주고받을 필요가 없기 때문에 보다 실시간으로 AI가 아웃풋을 제시할 수 있다. 네트워크를 통하는 데이터의 양을 줄일 수 있는 것도 이점의 하나다.

반면 엣지 단말은 서버와 비교해 공급할 수 있는 전력이나 탑재할 수 있는 칩의 성능이 한정적이기 때문에 배열을 보다 신중하게 고려해야 하는 등 여러 제한이 있다. 제한이 큰 엣지 단말로 효율적으로 물체를 감지하기 위해서는 단말의 계산 자원을 가능한 한 끌어낼 수 있는 기술의 개발이 필요하다. 그 결과, “엣지 디바이스에 탑재할 수 있는 가볍고 고성능의 모델을 실현하는 것은 한계가 있을 것이라고 생각했다”(와타나베 주임).

엣지 단말로 AI를 가동시키려면 모델의 경량화가 필수다. 엣지 단말용으로는 너무 무거워서 고전하는 경우도 많다. 다케나카 책임연구원은 “집약 처리나 모델의 전환에 오버헤드가 생기지만, 복수의 모델을 조합하는 이점이 이보다 크기 때문에 결과적으로 고속으로 처리할 수 있게 되었다. 앞으로는 5G나 그 이후의 6G를 내다보고, 클라우드와의 제휴도 고려하며 연구를 진행하고 싶다”라고 말한다.

 -- 끝 --

Copyright © 2020 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.