SKT, 서울대·KAIST와 ‘수학 난제’ 도전…A.X K2 추론능력 키운다

[더파워 류동우 기자] SK텔레콤이 독자 AI 파운데이션 모델 ‘A.X K2’에 수학자의 전문지식을 학습시켜 실제 수학 난제 해결에 도전한다. 단순히 수학 문제를 잘 푸는 모델을 만드는 데 그치지 않고, 복잡한 문제를 스스로 추론하고 결과의 타당성을 검증하는 능력을 키워 에이전틱 AI 고도화까지 연결한다는 구상이다.

SK텔레콤은 국내 수학·AI 연구진과 협력해 A.X K2의 수학 추론 역량을 강화하고 이를 활용한 수학 난제 연구를 추진한다고 22일 밝혔다.

SKT는 이날 서울 을지로 본사에서 서울대·KAIST 교수진 및 연구자들과 기술 교류회를 열고 A.X K2를 활용한 수학 난제 연구와 모델 고도화 방안을 논의한다. 서울대 수리과학부 서인석·변성수·홍영준 교수와 KAIST 전산학부 박노성 교수, 학생 연구원 등이 참석한다.

공동 연구에는 확률론·통계물리부터 이산수학·그래프 이론, 저차원 위상수학·기하적 군론까지 서로 다른 수학 분야의 연구진이 참여한다. 서울대 서인석 교수와 고등과학원 이준경·김상현 교수 등이 각 분야의 전문지식을 모델 학습에 반영하는 데 힘을 보탠다.

LLM을 수학 연구에 활용하는 방법론도 함께 연구한다. 서울대 홍영준·이다빈·오병권·변성수 교수와 KAIST 박노성 교수 등이 참여해 수학자의 전문지식을 A.X K2 학습에 적용하고, AI를 실제 연구 과정에 활용하는 방안을 모색한다.

SKT는 이를 통해 기존 AI 모델이 충분히 다루지 못했던 세부 수학 분야의 전문지식과 추론 능력을 보완할 계획이다. 이후 고도화한 A.X K2를 각 연구자의 전문 분야에 적용해 실제 수학 난제 해결 가능성을 탐색한다.

수학 역량 강화의 목적은 난제 연구에만 있지 않다. SKT는 AI가 복잡한 문제를 해결하기 위한 계획을 세우고 여러 단계의 작업을 수행하는 과정에서 각 판단과 결과가 타당한지를 스스로 점검하는 능력을 에이전틱 AI에 적용할 계획이다.

장기적으로는 재귀적 자기개선(RSI) 연구와도 연결한다. AI가 자신의 결과를 평가하고 새로운 실험이나 검증 방법을 설계할 때 수학적 타당성을 판단하는 능력을 높여, 필요한 지식을 학습하며 스스로 성능을 발전시키는 AI 에이전트 구현을 목표로 하고 있다.

SKT는 최근 글로벌 AI 기업들이 수학 연구에 AI 모델을 적용하는 움직임이 나타나고 있는 가운데 A.X K2 역시 전문 연구자와의 공동 연구를 통해 수학 추론 경쟁력을 강화한다는 방침이다.

김태윤 SKT 파운데이션 모델 담당은 "독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다"며 "전문 연구자들과의 공동 연구를 통해 에이전틱 AI 역량을 고도화해 나가겠다"고 말했다.

류동우 더파워 기자 rdw2026@thepowernews.co.kr