/HS효성인포메이션시스템, Arm 서버·NPU 결합해 고효율 AI 추론 인프라로 시장 공략
[더파워 한승호 기자] AI 인프라 경쟁의 무게중심이 대규모 모델을 ‘학습시키는 성능’에서 실제 서비스를 얼마나 적은 전력과 비용으로 반복 운영할 수 있느냐로 옮겨가면서 HS효성인포메이션시스템이 새로운 카드를 꺼냈다. 저전력 Arm 서버에 AI 추론용 NPU를 결합하고, 고객의 서비스와 데이터센터 환경에 따라 가속기까지 골라주는 방식이다.
HS효성인포메이션시스템은 저전력 Arm 서버 ‘GreenCore(그린코어)’와 신경망처리장치(NPU)를 결합한 AI 추론 인프라를 앞세워 기업 AI 서비스 운영 시장을 공략한다고 9일 밝혔다.
생성형 AI와 대규모언어모델(LLM)이 실제 업무와 서비스에 적용되면서 기업의 인프라 고민도 달라지고 있다. 모델을 한 번 학습시키는 것뿐 아니라 서비스 과정에서 반복적으로 발생하는 추론 요청을 제한된 비용과 전력, 공간 안에서 처리하는 운영 효율성이 중요해졌기 때문이다.
HS효성인포메이션시스템은 이 과정에서 GPU와 함께 NPU를 활용하는 방안을 제시하고 있다. NPU는 AI 추론 연산에 특화된 가속기로, 상대적으로 낮은 전력과 비용으로 추론 작업을 처리할 수 있다는 점이 특징이다.
다만 모든 NPU가 같은 역할을 하는 것은 아니다. 제조사와 제품에 따라 지원하는 AI 모델과 목표 워크로드가 달라 챗봇과 문서 검색, 영상 분석 등 서비스 종류는 물론 데이터센터와 엣지 등 실제 구축 환경까지 고려해야 한다.
HS효성인포메이션시스템은 퀄컴을 비롯해 퓨리오사AI, 딥엑스, 모빌린트 등 국내외 NPU 기업과 협업해 고객 환경에 맞는 제품을 선정하는 체계를 구축했다.
단순한 가속기 성능 수치보다는 실제 고객의 AI 모델과 서비스 유형을 기준으로 판단한다. 모델 크기와 동시 사용자 수, 목표 응답 속도, 데이터센터 전력 및 공간 조건 등을 분석한 뒤 적합한 NPU 후보를 제시하는 방식이다.
여기에 자체 Arm 서버인 그린코어를 결합한다. 그린코어는 HS효성인포메이션시스템과 국내 Arm 서버 제조기업 엑세스랩이 공동 개발한 제품으로, Arm 아키텍처 CPU를 기반으로 저전력·저발열과 매니코어 병렬처리를 지원한다.
회사는 전력과 냉각, 랙 공간이 제한된 데이터센터뿐 아니라 보안과 데이터 주권 문제로 자체 구축형인 온프레미스 AI 환경을 고려하는 기업과 기관에도 그린코어를 적용할 수 있다고 설명했다.
NPU를 선정한 뒤에는 그린코어 서버에 직접 장착해 검증한다. 하드웨어와 소프트웨어의 호환성, AI 모델 구동 여부, 운영 안정성 등을 통합적으로 확인한다.
필요한 경우 AI 솔루션 업체와 연계해 실제 서비스 조건을 반영한 개념검증(PoC)도 진행한다. 기업이 여러 NPU 제조사의 제품과 개발 도구를 일일이 도입해 비교하는 과정을 줄이는 데 초점을 맞췄다.
지원 범위도 가속기 공급에 그치지 않는다. 고객 워크로드 분석을 시작으로 NPU 선정, 그린코어 서버 구성, 통합 검증, AI 솔루션 연계와 PoC, 실제 구축과 운영까지 AI 추론 인프라 도입 전 과정을 지원한다.
HS효성인포메이션시스템은 앞으로 Arm 서버와 GPU·NPU, 고성능 스토리지, 데이터 레이크, AIOps, AI 솔루션 파트너를 하나의 체계로 연결하는 ‘HS효성 AI 플랫폼’ 포트폴리오도 확대할 계획이다.
양정규 HS효성인포메이션시스템 대표는 "AI 경쟁력의 중심이 모델 개발을 넘어 AI를 실제 비즈니스 환경에서 얼마나 안정적이고 효율적으로 운영하느냐로 이동하고 있다"며 "그린코어와 다양한 NPU를 결합한 고효율 추론 인프라를 통해 고객이 비용과 전력, 공간의 제약을 고려하면서도 각자의 워크로드에 적합한 AI 서비스를 신속하게 구현할 수 있도록 지원하겠다"고 말했다.
