일본산업뉴스요약

Nikkei X-TECH_2023.8.9

생성 AI ‘기반 모델’의 메모리 사용량을 98% 절감
추부대학(中部大学)이 개발

추부대학은 7월 24일, 생성 AI(인공지능)에 필요한 기반 모델의 메모리 사용량을 최대 98% 줄일 수 있는 기술을 개발했다고 발표했다. 지금까지 생성 AI 이용에는 방대한 연산이 필요했지만, 이번 신기술로 정밀도를 유지한 채 중요성이 낮은 계산을 줄일 수 있다. 향후, 자율주행차와 산업용 로봇의 화상 인식 등에 AI 기능을 탑재하는 데 도움이 될 수 있을 전망이다.

이번에 개발된 AI 기술은 추부대학 공대 정보공학과의 야마시타(山下) 교수와 추부대학 이공학부 AI로보틱스학과의 후지요시(藤吉)교수 등으로 구성된 연구팀이 개발했다. 빅데이터를 사용한 기반 모델의 사전 학습에서 구한 파라미터 가운데 특정 용도에 맞게 재학습(튜닝)할 때 중요성이 낮은 파라미터를 추려내어 연산 시간을 단축할 수 있는 알고리즘을 구축했다.

추부대학 연구팀은 이번에 파라미터 값이 작은 것을 삭제하는 '매그니튜드(Magnitude) 베이스'와 튜닝 시 파라미터 값이 변하지 않는 것을 삭제하는 '기울기 베이스'의 방법을 조합해 중요도가 높은 파라미터를 삭제하기 어렵게 하는 알고리즘을 개발했다. 이 알고리즘으로 파라미터를 추려낼 경우, 파라미터를 최대 98% 삭제해도 중요한 파라미터를 남길 수 있다고 한다.

연구 결과에서는 파라미터를 추려내기 전과 비교해도 손색없는 계산 결과가 나왔다고 한다. 지금까지 파라미터를 추려내는 기술은 많이 검토되어 왔지만, 파라미터 값이 작거나 변화의 유무에 기반한 방법으로는 충분히 추려낼 수 없어 정밀도 악화로 이어지는 것이 과제였다.

-- PC에서 동작이 가능하도록 --
이번 알고리즘을 사용해 6억 3,000만 개의 파라미터로 구성된 기반 모델을 연산할 경우, 메모리 사용량을 2.35기가바이트(GB)에서 47메가바이트(MB)까지 줄일 수 있었다고 한다. 이렇게 메모리 사용량이 작아지면 임베디드 시스템(Embedded System)으로 화상 생성 AI를 구축할 수 있을 가능성이 있다.

또한, 1,750억 개의 파라미터로 구성된 문장 생성 AI의 대규모 언어모델(LLM)에 응용하면, 메모리 사용량을 약 560GB에서 약 11GB까지 줄일 수 있다는 계산이 나온다. 기존에는 생성 AI를 사용하려면 인터넷을 통해 데이터센터의 대규모 연산능력을 이용해야 했지만, 일반 PC만으로 동작할 수 있게 된다. 인터넷을 이용하지 않기 때문에 통신 지연이나 정보 유출 리스크를 줄일 수 있다는 이점도 있다.

야마시타 교수 연구팀은 자율주행차나 산업용 로봇의 화상 인식 등에 이번 방법을 응용할 수 있을 것으로 기대하고 있다. 구글이 2020년에 발표한 화상 인식 모델 ‘VisionTransformer(ViT)’ 등은 물체 인식 등에 이용되고 있다.

이러한 대규모 언어모델 을 임베디드 기기에서 동작시키려면 모델 축소가 필요해 이번 알고리즘이 적용될 수 있을 것으로 전망된다. 미래에는 자동차나 로봇에 AI 기능을 탑재하는 데 도움이 될 수 있을 것으로도 기대되고 있다.

■ 키워드
생성 AI: 사람의 지시에 따라 문장이나 화상, 동영상 등을 자동 생성하는 AI(인공지능). 2022년경부터 손쉽게 사용할 수 있는 다양한 서비스가 등장하고 있다. 사람의 업무를 대체하거나, 작업을 크게 효율화할 수 있어 큰 변화를 불러일으킬 기술로 기대가 높아지고 있다.

특히 미국의 OpenAI가 개발한 문장 생성 AI인 ‘챗GPT’는 고도의 대화 능력을 갖추고 있어 널리 이용되고 있다. 구글도 올해 자체 개발한 대화 AI ‘바드(Bard)’를 공개하는 등, 기업 간 개발 경쟁이 치열해지고 있다.

 -- 끝 --

Copyright © 2020 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.