- 후지쓰, AI 처리의 최적화 기술을 개발 -- GPU의 처리 성능을 2.25배로 향상
-
- 카테고리AI/ 로봇·드론/ VR
- 기사일자 2024.11.1
- 신문사 Nikkei X-TECH
- 게재면 Online
- 작성자hjtic
- 날짜2025-04-11 16:07:51
- 조회수36
후지쓰, AI 처리의 최적화 기술을 개발
GPU의 처리 성능을 2.25배로 향상
후지쓰가 GPU(이미지 처리 반도체) 서버 상에서 가동하는 AI(인공지능) 처리에 대해서, 계산 처리를 자동으로 최적화하는 미들웨어 기술 ‘AI computing broker’(이하, ACB 기술)를 개발했다고 발표했다. 프로그램 전체의 처리 시간 단축이나 연산 효율의 향상에 기여한다고 한다.
ACB 기술은 후지쓰가 2023년 11월에 발표한 높은 실행 효율을 전망할 수 있는 처리에 대해 실시간으로 GPU를 할당하는 '어댑티브 GPU 알로케이터 기술'과, 각종 AI 처리의 최적화 기술을 통합했다. 복수 프로그램 중에서 GPU를 필요로 하는 AI 처리부를 파악하여 리소스의 할당이나 최적화를 자동적으로 실시한다.
GPU 메모리의 관리 기능도 탑재한다. 이 기능을 통해 유저는 프로그램이 사용하는 GPU 메모리량이나 GPU의 물리적 메모리 용량을 신경 쓰지 않고, AI 처리를 수행할 수 있게 된다고 한다. 온프레미스와 클라우드 양쪽의 GPU 환경에 대응하여 복수 GPU를 이용하는 대규모 언어모델(LLM)에도 활용할 수 있다고 한다.
후지쓰는 2024년 5월부터 Tradom이나 사쿠라 인터넷 등 5사와, 단일 GPU에 의한 ACB 기술의 선행 트라이얼을 순차 개시. ACB 기술 비적용의 경우와 비교해 고객 환경에서의 단위 시간당 GPU 처리 성능을 최대 2.25배 향상할 수 있었다고 한다. 또한 GPU 메모리 관리 기능에 의해, GPU의 물리 메모리 용량의 약 5배에 해당하는 150GB를 필요로 하는 AI 처리를 동시에 실시할 수 있었다고 한다.
-- 끝 --
Copyright © 2024 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.