오픈AI에 이어 앤트로픽도 중국 인공지능(AI) 기업들이 자사 AI 모델 결과물을 무단 추출해갔다고 주장했다.

앤트로픽은 딥시크와 문샷AI, 미니맥스 등 중국 기업 3사가 자사 AI 모델 '클로드'의 기능을 불법적으로 추출해간 사실을 확인했다고 23일 밝혔다.

앤트로픽은 이들 기업이 가짜 계정 2만4천 개를 통해 클로드와 대화 1천600만 건 이상을 생성했으며, 구체적으로 딥시크는 15만 건, 문샷AI는 340만 건, 미니맥스는 1천300만 건의 대화를 통해 결과물을 빼내 갔다고 설명했다.

앤트로픽은 중국 기업들의 이 같은 행위가 약관을 위반임은 물론, '증류' 기법을 활용한 기술 역량 추출에 해당한다고 설명했다.

증류 기법이란 다른 AI 모델이 내놓는 답변을 학습 재료로 삼아 유사한 능력을 갖춘 모델을 만드는 방식이다.

AI 기업들이 자사의 상위 모델에 버금가는 능력을 갖춘 경량 하위 모델을 만들 때 쓰는 방법이지만, 경쟁사 모델을 상대로 해 무단으로 대규모 활용하는 것은 사실상 도용이나 탈취로 받아들여진다.

앤트로픽은 또 기존 모델에는 생물학 무기 개발이나 악의적인 사이버 활동에 악용되는 것을 막는 안전장치가 있지만, 불법 추출된 모델은 이런 안전장치가 제거될 수 있어 안보 위험도 발생할 수 있다고 우려했다.

앤트로픽은 국가 안보상 이유로 중국 내 클로드 접속을 금지했는데, 중국 기업들은 이조차 우회해 접속했다고 덧붙였다.

앤트로픽은 이와 같은 탐지 내용을 다른 AI 연구소 등과 공유하고 인증 절차를 강화하는 한편 새로운 안전장치를 개발 중이라면서도, 이 문제를 해결하려면 AI 업계와 클라우드 제공업체는 물론 정책 입안자까지 아우르는 대응이 필요하다고 강조했다.

그러면서 앤트로픽은 중국 기업들의 이 같은 미국 AI 모델 기술 탈취를 제한하려면 첨단 AI 칩의 중국 수출을 통제해야 한다는 논지를 내세웠다.

첨단 칩에 대한 접근이 어려워지면 직접적인 모델 훈련은 물론이고 이와 같은 불법적 증류 규모도 제한할 수 있다는 것이다.

앞서 다리오 아모데이 최고경영자(CEO)는 도널드 트럼프 대통령의 엔비디아 AI 칩 중국 수출 허용 방침에 대해 "북한에 핵무기를 파는 것과 비슷한 일"이라고 비유하며 "국가 안보에 엄청난 함의를 가진 실수"라고 강하게 비판한 바 있다.

앞서 오픈AI도 지난 12일 미 하원 중국특별위원회에 제출한 메모를 통해 딥시크 등 중국 기업이 증류 기법을 활용해 미국 AI 모델의 결과물을 추출해가고 있다는 우려를 전했다.

<연합뉴스>