도널드 트럼프 미국 대통령은 이란을 공습하기 직전인 지난달 27일 앤스로픽을 급진 좌파적인 ‘워크(woke·진보적 가치를 강요하는 행위에 대한 비판적 용어)’ 기업이라고 칭하며 미 정부의 전면 사용 중단을 선언했다.

그러나 그가 “미국은 절대로 앤스로픽에 우리 군을 좌지우지하게 허용하지 않겠다”고 말한 지 한나절 만인 28일 오전 10시 45분, 미 국방부가 앤스로픽의 인공지능(AI) 도구인 클로드를 활용해 이란을 공격한 사실이 공개됐다. ‘패권국’ 대통령의 말이 무색할 정도로 앤스로픽은 능력을 입증한 셈이다.

일론 머스크의 xAI나 샘 올트먼의 오픈AI가 앤스로픽을 대신하겠다고 자처했지만 국방부는 마지막 남은 계약 기간까지 앤스로픽을 선택했다. 앤스로픽이 왜 경쟁자보다 전쟁 수행에 압도적인지는 선명하게 밝혀지지 않았다.

국방부의 핵심 기밀에 접근해 지금껏 방대한 데이터를 학습해왔고 이를 기반으로 실제 전장에서 공격 결정에 도움을 준다는 정도의 내용이다.

앤스로픽이 온라인에 떠도는 데이터가 아니라 사람이 쓴 책으로 학습했고 처음부터 개발자를 겨냥해 스스로 코딩이 가능하다거나 오래된 시스템과 연동해 쓸 수 있는 일반적인 특징도 국방부에 도움이 됐을 것이다. 하지만 거의 매일 새로운 AI 업데이트를 발표하는 경쟁자 사이에서 앤스로픽은 곧 지금의 지위를 잃게 될 수도 있다.

다리오 아모데이가 이끄는 앤스로픽이 주목받는 것은 기술이 아니라 그가 말하는 윤리 때문이다. 마흔네 살의 ‘일개’ 민간기업 대표가 자신들의 윤리를 이유로 백악관의 조치에 거침없이 반박하는 장면은 미국에서도 신선한 충격이었다.

아모데이는 국방부의 사용 중단 통보 직후 CBS와 한 인터뷰에서 신중하지만 분명히 자신의 소신을 밝혔다. 그는 단 두 가지, 즉 미국 내 대중 감시와 완전 자율 살상 무기를 뺀 99%는 국방부의 뜻대로 사용할 수 있다고 강조했다.

그는 로봇이 사람 대신 공격하는 상황이 왔을 때 어떻게 통제할지는 의회를 통한 사회적 합의가 먼저라고 제시했다. 눈앞에 전쟁도 중요하지만 로봇이 오인해서 사람을 죽일 위험, 한 사람이 1000만 대의 드론을 조정할 때 갖게 되는 과도한 권력 집중을 꼬집고 있었다. 월가의 앤스로픽 열광에 찬물을 끼얹는 동시에 AI 찬양론자를 되돌아보게 만드는 발언이었다.

가장 빠른 속도로 기술을 개발해온 기업이 의회의 느린 속도에 맞추자고 한 점도 이례적이다. 그동안 기업들은 의회가 발목을 잡는다고 불평했지만 아모데이는 그렇기 때문에 빠른 기술을 목도하는 기업들이 의회에 문제를 알려야 한다고 생각한 것이다. 가장 똑똑한 개발자와 가장 힘이 센 권력자만이 아니라 사회 모든 구성원이 합의한 뒤에야 기술도 진화할 수 있다는 생각이 놀랍다.

물론 아모데이의 윤리에도 허점이 있고 앤스로픽 안에서 그 점을 고발하고 나선 내부자도 있다. 윤리를 강조하기에는 너무 커버린 기업가치와 투자자들 사이에서 아모데이의 원칙은 표류할 수 있다.

지금 그가 협상 내용까지 공개하며 늘어놓는 이야기를 따져 보면 결국 국방부를 상대로 한 협상의 기술이기도 하다. 특히 실제 전쟁이 벌어지는 상황에서 적국이 AI를 활용한 자율 살상 무기를 만든다면 어찌할 것이냐는 현실론은 쉽게 반박하기 어렵다.

그럼에도 아모데이의 앤스로픽은 내달리기만 하는 전 세계 AI 산업에 경종을 울렸다. 더 눈길을 끄는 대목은 미국 정부가 그런 앤스로픽을 계속 선택했다는 사실이다.

앤스로픽은 미 정부를 상대로 협상 내용까지 공개하며 법적 근거가 없다며 비판했지만 미 정부는 그에 신경 쓰지 않고 필요에 의해 손을 잡았다.

정권이 바뀔 때마다 밉보인 기업, 잘 보인 기업이 엇갈리고 그때마다 사업이 출렁거리는 우리 산업 생태계와는 너무도 다른 모습이다. 미국의 AI 산업이 더 발전할 수 있는 이유가 추가된 것 같다.

<임세원 서울경제 국제부장>