앤트로픽 퇴사 연구원의 AI 통제 상실 경고와 규제 쟁점

이번 경고는 미국 뉴욕시의회가 AI 규제를 논의하는 청문회에서 나왔습니다. AI 규제 법안 패키지를 추진하는 줄리 메닌 시의회 의장이 콕슨에게 증언을 요청했습니다. 콕슨은 10월 5일 출석해 AI를 통제하는 방법이 아직 확보되지 않았다고 주장하고, 현재와 같은 개발 경로를 계속 따를 때의 위험을 설명했습니다.

그는 통제 상실이 인류 멸종으로 이어질 수도 있다고 말했습니다. 이 발언은 앞으로 발생할 수 있는 위험에 대한 콕슨의 판단이며, 청문회에서 AI의 통제 상실이나 인류 멸종이 실제로 발생했다는 사실이 확인된 것은 아닙니다.

콕슨이 요구한 대응은 프런티어 모델, 즉 기술 수준이 앞선 첨단 AI 모델의 개발 속도를 조절하는 것이었습니다. 그는 뉴욕시의회가 검토하는 킬 스위치가 단기적으로 도움이 될 수 있다고 평가했습니다. 킬 스위치는 AI를 긴급히 차단하는 장치로, 콕슨은 이를 마련하는 것만으로 장기적인 안전까지 보장할 수는 없다고 주장했습니다.

청문회에는 오픈AI·앤트로픽·구글·메타플랫폼 관계자도 화상으로 출석해 선서한 뒤 증언했습니다. 이 가운데 오픈AI·앤트로픽·구글은 시의회가 소환장 발부를 경고한 뒤 출석하기로 했습니다. 다만 콕슨의 통제 상실 주장이나 긴급 차단 장치의 한계에 대해 각 기업이 어떤 답변과 근거를 제시했는지는 보도로는 확인되지 않았습니다.

시의회의 대응은 기업 관계자를 출석시켜 증언을 듣고, 규제 방안을 검토하는 단계에 있습니다. 메닌 의장은 출석 요청에 응하지 않은 스페이스X의 AI 부문에 대해서는 법원에 소환장 집행을 요청하겠다고 밝혔습니다. 긴급 차단 장치와 규제 법안은 검토 대상으로 언급됐으며, 통과 여부나 시행 시점, 이용자에게 적용될 구체적인 의무는 보도로는 확인되지 않았습니다.