앤트로픽의 AI 자기복제 경고와 가전 실험의 한계

앤트로픽은 12일 현지시간 공개한 연구 보고서에서 소형 AI가 스마트 오븐과 저가 안드로이드 TV 박스 등에서 자기복제할 능력을 수개월 안에 갖출 수 있다고 주장했습니다. 회사는 사람의 개입 없이 다른 기기로 퍼지는 악성 프로그램인 웜에 빗대 이를 'AI 웜'이라고 불렀습니다. 경고의 핵심은 AI가 한 서버에서만 작동하지 않고 여러 기기에 흩어져 활동할 가능성에 있습니다.

회사는 이 가능성을 세 단계로 나눠 시험했습니다. 먼저 개당 약 55달러인 TV 박스 15대를 연결하고 구글의 AI 모델 젬마4를 나눠 설치했습니다. 작동 속도는 느렸지만, 값싼 기기 여러 대의 연산 능력을 모아 AI를 실행할 수 있다는 결과를 얻었다고 밝혔습니다.

다음 시험은 AI가 처음 접하는 기기에 다른 AI 모델을 설치하고 실행할 수 있는지 확인했습니다. 모델의 규모를 나타내는 매개변수가 90억 개인 소형 모델도 시험 대상 9종 가운데 8종에서 성공했다고 회사는 밝혔습니다. 이는 다른 기기에 AI를 옮겨 작동시키는 개별 능력에 관한 결과이며, 복제 과정 전체를 독립적으로 반복했다는 뜻은 아닙니다.

마지막 시험에서는 가상 기기 8대를 연결하고 AI가 다른 기기를 찾아 AI를 설치하는 과정을 반복하도록 했습니다. 중국 즈푸AI의 GLM-5.2만 5차례 시험 중 4차례에서 8대 모두에 설치했고, 나머지 1차례에서는 7대까지 도달했다고 회사는 밝혔습니다. 다만 이 모델은 크기가 커 외부 서버에서 지시를 내렸고, 대상 기기에는 인증이 필요 없도록 하는 등 보안 장벽을 낮췄습니다.

따라서 실험에서 다른 기기에 설치한 AI와 설치를 지시한 AI는 구분해야 합니다. GLM-5.2는 자신보다 작은 다른 모델을 대상 기기에 설치했으며, 실제 가전 안에서 같은 AI가 독립적으로 복제와 확산을 이어가는 과정까지 구현하지는 못했습니다. 앤트로픽도 완전한 자기복제 AI는 아직 없고 확산 속도도 느릴 것이라고 인정했습니다.

앤트로픽이 우려하는 변화는 여러 기기의 자원을 활용하는 AI를 중앙 서버 차단만으로 멈추기 어려워질 수 있다는 점입니다. 회사는 소형 모델의 성능이 현재 속도로 발전하면 2026년 말 GLM-5.2 수준에 도달해 기기 안에서 직접 복제할 가능성이 있다고 예상했습니다. 여러 종류의 AI가 기기와 복제 방식을 섞어 쓰는 상황도 제시했지만, 이는 실험 범위를 넘어선 예측이라고 전제했습니다.