[더파워 유연수 기자] SK텔레콤이 독자 구축한 한국어 특화 초경량 LLM ‘A.X 3.1 라이트’를 글로벌 오픈소스 플랫폼 허깅페이스(Hugging Face)에 11일 공개했다. ‘A.X 3.1 라이트’는 SKT가 프롬 스크래치(From Scratch) 방식으로 모델 구조 설계부터 학습까지 전 과정을 자체 개발한 70억 매개변수(7B) 규모의 경량 언어모델이다.
이번 모델은 지난해 에이닷 통화요약 기능에 적용된 ‘A.X 3.0 라이트’의 후속 버전으로, 경량화와 고효율이라는 기존 강점을 유지하면서도 성능이 한층 향상됐다. SKT는 이 모델이 다양한 모바일 기기에서 뛰어난 품질을 구현할 수 있어 기업들의 AI 서비스 도입에 실질적 도움이 될 것으로 기대하고 있다.
실제로 ‘A.X 3.1 라이트’는 같은 매개변수 규모의 자매 모델인 ‘A.X 4.0 라이트’와 유사한 수준의 언어 처리 능력을 보인다. 한국어 능력 평가 지표인 KMMLU에서는 ‘A.X 4.0 라이트’의 96%, 한국어 문화 이해 평가인 CLIcK에서는 오히려 102%의 상대적 성능을 기록했다.
SKT는 올해 7월 중 ‘A.X 3.1 라이트’보다 매개변수 규모가 5배 이상 큰 340억개(34B)짜리 A.X 3.1도 공개할 계획이다. 이를 통해 독자 개발 모델인 ‘A.X 3 시리즈’와 대규모 사전학습 기반의 ‘A.X 4 시리즈’를 병행하는 ‘투 트랙 전략’을 본격화한다는 방침이다.
SKT는 2018년부터 AI 언어모델 연구를 시작해 2019년 KoBERT, 2020년 한국어 GPT2를 공개했으며, 2022년에는 자체 AI 서비스 에이닷에 A.X 모델을 도입한 바 있다. 지난해부터는 통화 요약, 대화형 에이전트 등 실제 서비스에 모델을 탑재하며 실사용 중심의 기술 고도화에 집중하고 있다.
SKT는 향후 GPU 인프라를 확대하고 LLM 연구개발 역량을 강화해 정부가 추진 중인 ‘AI 파운데이션 모델 개발사업’에도 참여할 계획이다. 김태윤 SK텔레콤 파운데이션 모델 담당은 “한국형 LLM의 독자적 기술 자립을 통해 국가 AI 경쟁력 제고에 기여하겠다”고 밝혔다.
