앤트로픽, 중국 AI 연구소 7곳 추가 무단 증류 활동 탐지·차단 주장
알리바바 귀속 활동서 클로드 상호작용 1억5100만회 이상 관측
구글 '제미나이 4 아르곤' 단계적 배포…성능 넘어 사용자·데이터 통제 부각
기업용 AI 안착 땐 추론·서버·메모리 수요 확대…효율 개선은 변수
출처 magnific
[더파워 류동우 기자] 인공지능(AI) 경쟁의 기준이 달라지고 있다. 더 높은 벤치마크 점수와 더 빠른 추론 속도를 앞세우던 경쟁에서 이제는 기업의 내부정보를 얼마나 안전하게 지키고 모델의 기술 우위를 어떻게 보호하느냐가 새로운 승부처로 떠오르고 있다.
기업 고객 입장에서도 질문은 단순해졌다. "어떤 AI가 가장 똑똑한가"를 넘어 "내가 입력한 정보는 어디로 가고, 누가 이를 볼 수 있는가"까지 따지기 시작한 것이다.
7일 금융투자업계에 따르면 최근 AI 시장에서는 모델 성능 경쟁과 함께 기술 탈취, 데이터 보호, 사용자 통제 문제가 동시에 부각되고 있다. 기업용 AI가 실험 단계를 넘어 실제 업무 시스템으로 들어가면서 보안과 신뢰성이 유료 도입을 좌우할 핵심 조건으로 올라섰다는 분석이다.
이런 변화를 보여준 대표적인 사례가 앤트로픽의 '무단 증류' 문제 제기다. 앤트로픽은 지난 9월 위협정보 보고서를 통해 중국에 기반을 둔 AI 연구소 7곳의 추가적인 무단 증류 활동을 탐지하고 차단했다고 밝혔다. 증류는 일반적으로 기존 모델의 출력물을 활용해 다른 모델을 학습시키는 기법이지만, 이번 논란의 핵심은 접근 제한을 우회해 경쟁 모델의 역량을 허가 없이 추출했다는 주장이다.
앤트로픽은 알리바바에 귀속시킨 활동에서 지난 5~7월 1억5100만회가 넘는 클로드 상호작용을 관측했다고 설명했다. 문샷AI는 같은 기간 2300만회 이상, 딥시크는 지난 7월 중 14일 동안 1210만회 이상, 즈푸는 6~7월 17일 동안 340만회 이상, 샤오미는 3~4월 20일 동안 40만회 이상으로 집계됐다. 다만 이 수치는 앤트로픽의 자체 조사 결과다. 개별 기업의 위법성이 확정됐다는 의미는 아니다.
중요한 것은 무단 증류를 둘러싼 공방이 AI 산업의 경쟁 구조를 바꿀 수 있다는 점이다. 선두 모델의 응답과 추론 데이터를 활용하기 어려워지면 후발 업체는 자체 학습데이터 생성과 검증에 더 많은 비용과 시간을 투입해야 한다. 빠르게 성능 격차를 좁히던 경로 하나가 막히면서 독자적인 연구개발 역량의 중요성이 커지는 구조다. 보안이 단순한 방어 수단이 아니라 연구개발 투자의 성과를 지키는 '진입장벽'으로 작용할 수 있다는 얘기다.
기업 고객의 관점에서는 문제가 더 민감하다. 앤트로픽은 일부 고객 요청이 다른 AI 서비스를 거쳐 클로드로 전달되는 과정에서 기업 내부자료와 민감정보도 포함됐다고 주장했다. 실제 기업이 생성형 AI를 업무에 적용하려면 모델의 성능이나 가격만큼 데이터가 어떤 경로로 처리되고 외부로 전달되는지를 확인해야 한다는 의미다.
구글이 새 AI 모델 '제미나이 4 아르곤'을 공개하면서 배포 방식에 보안을 함께 강조한 것도 같은 흐름이다.
아르곤은 금융·법률·코딩 등 기업 업무 관련 평가에서 높은 성능을 제시하면서도 초기에는 검증된 사이버 방어 파트너를 중심으로 접근을 허용하는 방식을 택했다. 사용자 인증과 이용 기록 관리 등도 요구하면서 모델의 능력뿐 아니라 '누가 어떻게 사용하느냐'까지 관리 영역에 포함시켰다.
기업 업무 성능 지표인 Vals Index에서는 아르곤이 68.90%로 가장 높은 점수를 기록했다. 테스트당 비용은 15.68달러였다.
보안 평가에서도 격차가 나타났다. 최대 15회 시도를 기준으로 한 간접 프롬프트 주입 공격 성공률은 아르곤이 0.7%, 클로드 오퍼스 5.5와 클로드 페이블 5.1이 각각 1.0%였다. GPT-6 아스트라는 8.5%, GLM 5.3은 31.5%, Kimi K3는 52.7%로 나타났다.
다만 특정 평가 결과만으로 모델의 전반적인 보안 수준이나 기술 우위를 단정하기는 어렵다. 모델 공개 당시 아르곤의 광범위한 일반 배포 일정도 제시되지 않은 만큼 실제 기업 환경에서 동일한 성능과 보안성이 유지되는지 확인할 필요가 있다.
결국 기업용 AI의 승부는 시험 점수보다 실제 업무에서 갈릴 가능성이 크다. 최보영 교보증권 연구위원은 "기업용 AI의 경쟁력은 시험 점수보다 실제 업무에서의 신뢰성과 경제성으로 검증돼야 한다"고 분석했다.
이 변화는 반도체와 AI 인프라 투자에도 영향을 미칠 수 있다. 최근 시장에서는 AI 투자 자체가 꺾이기보다 수혜 업종이 갈리는 모습이 나타나고 있다. 지난주 다우존스산업평균지수를 추종하는 DIA가 0.6% 하락한 반면 나스닥100을 추종하는 QQQ는 1.8%, 반도체 ETF인 SOXX는 5.0% 상승했다.
AI 인프라 내부에서도 차별화가 뚜렷했다. 메모리와 스토리지는 향후 공급 확대 가능성에 대한 경계가 커진 반면 장비와 광통신 업체에는 신규 수주 기대가 유입됐다.
어플라이드머티어리얼즈와 램리서치는 각각 10.9%, 10.5% 상승했고 코히런트와 루멘텀은 각각 19.3%, 17.8% 올랐다. AI 인프라 투자가 늘어나는 동일한 상황에서도 생산업체에는 향후 공급 경쟁이 부담이 될 수 있지만 장비·부품업체에는 수주 증가로 이어질 수 있다는 차이가 반영된 것이다.
보안주 역시 새로운 AI 수혜 영역으로 부상했다. 크라우드스트라이크는 4.2%, 팔로알토네트웍스는 2.8% 상승했다. AI를 많이 사용하는 것만큼 안전하게 운영하는 기술에 대한 수요도 함께 커질 수 있다는 기대가 반영됐다.
반도체 시장에서는 결국 기업의 실제 AI 사용량이 중요하다. 기업들이 보안 문제를 해결하고 AI를 내부 업무에 본격적으로 적용하면 일회성 테스트를 넘어 반복적인 추론 수요가 발생한다. 이는 서버와 메모리, 네트워크 등 AI 인프라 투자 지속성을 높이는 요인이 될 수 있다.
반대 변수도 있다. 모델과 소프트웨어가 같은 작업을 더 적은 자원으로 처리하는 방향으로 효율화되면 AI 사용량이 늘더라도 필요한 반도체 증가폭은 제한될 수 있다.
구글은 아르곤을 활용해 데이터센터의 메모리 사용을 최적화하고 300TiB 이상의 가용 용량을 확보했다고 밝혔다. AI가 새로운 인프라 투자를 끌어내는 동시에 기존 자원의 사용 효율까지 높일 수 있다는 점을 보여준다.
결국 AI 시장의 다음 승부는 '누가 더 똑똑한 모델을 만드느냐'에서 끝나지 않을 가능성이 크다. 기술을 빼앗기지 않고 기업 데이터를 지키면서 실제 업무 비용까지 낮출 수 있어야 기업 고객의 지갑이 열린다.
성능 경쟁이 AI의 첫 번째 문을 열었다면 보안과 신뢰는 기업 시장으로 들어가는 두 번째 문이 되고 있다. 이 문이 본격적으로 열릴 경우 AI 경쟁의 수혜 역시 모델 기업에 머물지 않고 보안 소프트웨어와 네트워크, 서버·반도체 인프라까지 한층 넓어질 전망이다.
