AI가 스스로 판단할수록 사람 책임 강화…카카오, ‘SPIRIT’ 원칙 공개

[더파워 류동우 기자] 카카오가 스스로 계획하고 행동하는 자율형 인공지능(AI) 확산에 맞춰 위험관리 체계를 다시 짰다. AI의 통제 주도권과 목표, 권한, 참조 자원, 상호작용을 5대 관리영역으로 나누고 서비스 기획부터 운영까지 전 과정에서 위험요인을 점검하는 방식이다.

카카오는 AI 서비스의 기획부터 운영까지 적용할 새 AI 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다. 관련 내용은 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스 ‘if(kakao)26’에서 공개됐다.

새 윤리 원칙은 ‘SPIRIT’으로 이름 붙였다. 안전(Safety), 프라이버시(Privacy), 포용(Inclusivity), 책임(Responsibility), 이용자 주체성(Individual Autonomy), 투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 영역으로 구성됐다.

원칙을 실제 서비스에 적용하는 실행 방식은 ‘NORMA’로 정의했다. 복잡한 윤리적 과제를 조직 차원에서 관리 가능한 단계로 나누고 실제 업무에 적용할 수 있도록 구체화하는 데 초점을 맞췄다.

특히 자율 에이전트에서 발생할 수 있는 위험은 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 구분한다. 여기에 인간의 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 대응 수단을 연결해 AI가 자율적으로 행동하는 과정에서 발생할 수 있는 위험을 관리한다는 구상이다.

실제 점검은 3단계로 이뤄진다. 먼저 서비스의 속성을 파악한 뒤 사전 리스크 스크리닝을 진행하고, 마지막으로 필요한 통제 항목을 점검·판정하는 방식이다. 카카오는 이를 담은 새로운 ‘AI 윤리 이행 체크리스트’를 연내 적용할 예정이다.

새 체계는 지난 7월 출범한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련됐다. 외부 자문단이 국내외 규범과의 정합성을 살폈고, 내부에서는 AI 세이프티와 개인정보, 정보보안, 서비스 관련 조직이 실제 적용 가능성을 검토했다.

아동·청소년 관련 위험관리도 별도로 강화한다. 카카오는 기존 ‘디지털 아동·청소년 보호 체크리스트’에 OECD와 유니세프의 아동 온라인 리스크 분류체계를 참고한 AI 특유 위험요소를 추가할 계획이다.

카카오는 2018년 ‘알고리즘 윤리헌장’을 발표한 데 이어 2022년 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통의 ‘책임 있는 AI를 위한 가이드라인’과 ‘안전한 AI를 위한 핵심 체크리스트’ 등을 도입하며 적용 범위를 넓혀왔다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.

류동우 더파워 기자 rdw2026@thepowernews.co.kr