일본산업뉴스요약

Nikkei X-TECH_2023.12.18

퀄컴, 엣지 AI의 패권 장악
본보기는 'NVIDIA 모델'

모바일 반도체 대기업인 퀄컴이 엣지 AI(인공지능)의 플랫포머로 변모하고 있다. 스마트폰이나 노트북에서 대규모 언어모델(LLM)을 실행할 수 있는 반도체 신제품을 개발한 퀄컴은 IoT(사물인터넷) 디바이스용으로도 관련 기업을 통해 독자적인 LLM 제공을 시작. L

LLM의 도입을 촉진하는 툴과 시스템을 제공하는 등, 고객의 지원에 여념이 없다. 이러한 퀄컴의 움직임은 AI용으로 GPU(화상 처리 반도체), 소프트웨어, 개발 환경을 정비함으로써 급성장한 미국의 엔비디아를 방불케 한다.

“최근 5년간 AI에 주력해왔지만, 생성 AI는 지금까지의 AI와는 크게 다르다. 익사이팅한 유스 케이스를 만들어 시장을 크게 바꾸어나갈 계획이다”. 퀄컴의 반도체 사업 자회사인 미국 퀄컴테크놀로지스의 아스거 시니어바이스프레지던트(SVP)는 이렇게 말하며 생성 AI에  대한 기대감을 나타냈다.

-- 엣지 AI에 비즈니스 기회 --
현재 생성 AI는 클라우드에서 실행하는 것이 일반적이다. 그러나, 향후에는 스마트폰이나 노트북, XR(크로스 리얼리티) 디바이스, 자동차, IoT, 음향 기기 등의 엣지 디바이스에서도 LLM과 같은 생성 AI를 실행하길 원하는 수요가 증가할 것이다. 클라우드와의 통신에서 소비되는 전력 절감과 실시간성 확보, 데이터 보호 등을 위해서이다.

엣지 디바이스의 대부분은 배터리 구동으로, 반도체에 높은 전력 효율이 강하게 요구되고 있다. 이것은 모바일 반도체를 중심으로 사업을 전개해온 퀄컴의 강점 분야이다. 즉, 생성 AI가 엣지에 보급될수록 퀄컴의 비즈니스 기회는 늘어나게 되는 것이다.

이 기회를 놓치지 않기 위해 퀄컴은 스마트폰 및 노트북용 반도체 신제품에서 LLM을 실행할 수 있도록 했다. 스마트폰용의 ‘Snapdragon 8 Gen3’는 파라미터 수가 100억 이상, 노트북용의 ‘Snapdragon X Elite’는 파라미터 수 130억의 LLM을 온 디바이스로 처리할 수 있다.

이 파라미터 수는 주요 LLM에서 일반적이기 때문에 폭넓은 용도를 전망할 수 있다. 예를 들면, 퀄컴과 관계가 깊은 미국 메타(Meta)의 LLM ‘Llama 2’의 파라미터 수는 가장 많은 것이 130억이다.

-- 엣지 AI도 멀티모달 대응 추진 --
퀄컴은 엣지에서의 생성 AI 이용을 촉진하기 위해 환경도 정비하고 있다. 그것이‘Qualcomm AI Stack’라고 부르는 개발 환경이다. 퀄컴의 엣지 디바이스용 반도체 제품에 있어서 AI 모델을 최적화하기 위해 이용하는 것이다. 주요 30여종의 AI 모델이 AI 스택(AI Stack)을 통해 퀄컴 제품에 최적화되어 있다. “향후에도 그 수는 증가해 나갈 것이다”(아스거 시니어바이스프레지던트).

앞으로도 엣지 AI는 진화해 나간다. 예를 들어, 텍스트뿐만 아니라, 음성이나 동영상 등에도 대응한 멀티모달의 AI도 온 디바이스로 작동이 가능해질 것으로 보인다. “멀티모달화를 통해 유스 케이스는 더욱 늘어날 것이다”(아스거 시니어바이스프레지던트)

-- IoT용에 독자적인 LLM --
퀄컴은 IoT 분야에서 독자적인 LLM 제공도 시작하는 등, 엣지 AI를 더욱 강화하고 있다. 그 한 예로, 퀄컴이 출자하고 있는 미국의 썬더컴(Thundercomm)을 통해 독자적인 LLM인 ‘Thunder Soft Rubik LLM’을 제공하고 있다.

파라미터 수가 70억인 이 독자적 LLM을 퀄컴 IoT용 반도체 제품에서 실행할 수 있다. 썬더컴은 중국의 썬더소프트웨어테크놀로지(中科創達軟件)와 퀄컴이 공동 출자해 2016년에 설립한 기업으로, IoT 디바이스와 IoT 개발을 지원하는 서비스 등을 추진하고 있다.

사실 퀄컴의 IoT 분야는 실적이 부진해 IoT 사업 개선을 위해 “경영층이 크게 노력하고 있다”(퀄컴의 사원)라고 한다.

IoT 사업의 부진 원인은 스마트폰 및 PC용 제품과 사업 모델이 다르다는 점에 있다. 스마트폰용이나 PC용은 특정 고객에게 제품을 대량으로 판매하는 사업 모델이다. 반면, IoT용은 용도가 다양하며, 고객이 반도체에 대해 잘 알지 못할 수도 있다. 이 때문에 반도체 제품을 판매하는 것만으로는 도입이 추진되지 않는다. 고객의 이용을 촉진하기 위해는 도입 전후의 서포트가 필요하다. 이것이 이른바 솔루션 비즈니스이다.

이에 퀄컴은 개발 지원 서비스 및 솔루션에 강점을 가진 기업과 협업해 IoT 사업을 강화하고 있다. 전술한 썬더컴을 통한 대응도 그 일환이다. 이 외에도 반도체 상사인 미국의 애로우일렉트로닉스(Arrow Electronics)와 협업해 엣지 AI의 보급 촉진과 대응 제품의 확대 판매를 추진하고 있다.

-- 만만치 않은 경쟁사들 --
엣지 AI를 강화하고 있는 퀄컴이지만, 경쟁은 치열하다. 경쟁사로는 엔비디아와 대만의 미디어테크(聯発科技) 등이 있다.
엔비디아는 엣지 AI를 위한 반도체 제품 ‘Jetson’ 시리즈를 선보인다. 디지털트윈용 툴과 세트로 판매함으로써 물류용 로봇 등에서의 채택이 확대되고 있다. Jetson을 탑재한 자율운송로봇(AMR)의 참조 디자인을 내놓는 등, 솔루션화에도 주력하고 있다.

이에 맞서 퀄컴은 반도체 제품의 높은 전력효율과 제품 포트폴리오의 내실화를 내세우고 있다. “우리는 통신기술에 강점을 가지고 있다. IoT에는 통신기술이 불가결하다”(아스거 시니어바이스프레지던트)라고 밝히며, 통신 분야에서의 우위성을 강조하고 있다.

AI용 반도체라는 점에서는 엔비디아와 경쟁하는 측면도 있지만, 엔비디아의 주력은 주로 클라우드용이나 데이터센터용이기 때문에 곧바로 전면 대결이 이루어지지는 않을 것이다. 엔비디아보다는 퀄컴과 마찬가지로 엣지 디바이스용 반도체를 제조하고 있으며, 통신 기술도 가지고 있는 미디어텍이 최대의 라이벌이라고 할 수 있을 것 같다.

미디어텍은 퀄컴이 LLM을 디바이스에서 실행할 수 있는 반도체 제품을 발표한 지 얼마 지나지 않은 올 11월에 스마트폰용 반도체 제품을 발표했다. 이 제품도 온 디바이스로 LLM을 실행할 수 있다. AI 개발 환경도 정비하고 있는 등, 전략도 비슷하다. 스마트폰용 반도체에서 치열한 점유율 싸움을 벌이고 있는 양사는 엣지 AI에서도 주도권을 놓고 치열하게 경쟁할 것으로 전망된다.

<키워드>
대규모 언어모델(LLM): 자연어 처리 등에서 사용되는 심층학습(딥러닝) 모델의 일종.방대한 텍스트 데이터를 학습함으로써 사람이 말하는 것과 같은 자연스러운 언어 생성과 문장 요약, 질의응답 등에 이용할 수 있다. 보안 분야에서는 간이적인 프로그램 코드인 스크립트를 LLM으로 해석함으로써 말웨어 검출 등에 이용하는 움직임이 확산되고 있다.

 -- 끝 --

Copyright © 2020 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.