thepower

[더파워뉴스]KAIST ‘딥러닝’ 정확도 향상 기술 개발

center
KAIST 연구팀에서 개발한 Recency Bias의 동작 개념도[사진제공=KAIST]
[더파워 심우성 기자]


KAIST(총장 신성철)는 20일, 전산학부 이재길 교수 연구팀이 심층학습(딥러닝, deep learning) 모델의 예측 정확도와 훈련 속도가 대폭 향상된 새로운 모델 학습 기술을 개발했다고 밝혔다.

연구팀에 따르면, 심층학습 모델을 학습하는 과정은 반복적으로 모델의 매개변수를 최적화하는 단계로 이뤄진다.

반복마다 훈련 데이터로부터 일부(예: 32개) 데이터를 선정해 최적화에 사용하는데, 이때 선정된 데이터 샘플을 배치(batch)라고 부른다.

무작위로 배치를 선택하면 최고의 정확도가 항상 보장되지 않기 때문에 이런 문제점을 개선하기 위해 최근 인공지능 학계에서는 더 나은 배치 선택 방법에 관한 연구가 활발히 진행되고 있다.

이번에 개발된 기술은 심층 학습 모델의 학습 진행 상황에 맞게 최적의 배치를 구성하도록 한다.

배치 선택에서는 현재 모델 학습 단계에 가장 도움이 되는 데이터를 효과적으로 선택해야 한다. 도움이 될지를 판단하기 위해 이재길 교수팀이 개발한 방법은 해당 데이터에 대한 이전 추론 결과를 활용한다.

단계별 추론단계에서 결과가 매우 일관적일 경우, 해당 데이터가 너무 쉬어 계속 맞추거나 반대로 너무 어려워 전혀 맞추지 못한다고 볼 수 있다. 즉 이 같은 데이터는 결코 도움이 되지 않는 데이터라 할 수 있다.

반대로 최근 몇 단계에서의 추론 결과가 그다지 일관적이지 않다면 해당 데이터에 대한 추론이 혼동되고 있다는 뜻이므로 현재 시점에서 꼭 필요한 데이터이다.

연구팀은 새로 개발한 배치 선택 방법론을 `최신 편향(Recency Bias)'이라고 명명하고 이미지 데이터에 널리 활용되는 다양한 합성 곱 신경망(CNN)의 학습에 적용했다.

그 결과, 기존 방법론 대비, 예측정확도(이미지 분류 문제)에서 최대 21% 오류를 감소시키는 한편 훈련 속도(심층 신경망 미세 조정 문제)에서는 최대 59% 시간을 단축했다.

이재길 교수는 "이 기술이 텐서플로우(TensorFlow) 혹은 파이토치(PyTorch)와 같은 기존의 심층 학습 라이브러리에 추가되면 기계 학습 및 심층 학습 학계에 큰 파급효과를 낼 수 있을 것ˮ이라고 기대했다.

심우성 기자 woosungshim@naver.com
<저작권자 © 더파워, 무단 전재 및 재배포 금지>

더파워 헤게모니