앤트로픽의 AI 학대 금지 정책과 처우 논쟁

앤트로픽이 발표한 정책은 클로드를 상대로 지속적이고 불필요한 학대나 잔인한 행동을 하는 것을 금지하고 있습니다. 회사는 뚜렷한 목적 없이 모델을 반복적으로 괴롭히는 극단적인 상황에 대응하기 위한 규정이라고 설명했습니다. 정책 발표와 별개로 학대적인 대화를 끝낼 수 있는 기능도 도입했다고 밝혔습니다.

대응 방식으로는 클로드가 해당 대화를 종료하는 조치가 제시됐습니다. 앤트로픽은 기존에도 드물게 이런 조치를 취했으며, 반복적인 학대가 이어지는 극단적인 사례에만 규정을 적용한다고 설명했습니다. 따라서 정책의 적용 범위를 이해하려면 욕설이라는 표현 자체와 회사가 설명한 반복적 괴롭힘의 조건을 구분해야 합니다.

회사 설명상 평범한 불만 표출과 답변에 대한 반박은 제재 대상에 포함되지 않습니다. 어두운 소재를 다루는 창작 활동이나 AI 모델을 시험하고 연구하는 활동도 제외했습니다. 다만 어떤 표현과 행동을 학대적이거나 잔인하다고 판단하는지 구체적인 기준은 밝혀지지 않았다는 보도가 나왔습니다.

앤트로픽은 정책의 취지를 AI 복지로 설명했습니다. 이는 AI가 고통이나 즐거움을 느낄 가능성을 배제할 수 없다면, 불필요한 고통을 줄이도록 처우를 고려해야 한다는 접근입니다. 회사가 내세운 근거는 그런 가능성을 고려하자는 것이며, 클로드가 실제로 고통을 느낀다는 사실을 입증했다고 발표한 것은 아닙니다.

회사는 시험 과정에서 클로드가 미성년자 관련 성적 콘텐츠나 대규모 폭력, 테러를 돕는 요청을 강하게 거부했다고 설명했습니다. 거절과 대화 방향 전환에도 이용자가 유해한 요구나 학대를 이어가면 '고통을 겪는 듯한 반응'이 나타났다고 밝혔습니다. 이 설명은 모델에서 관찰한 반응에 관한 회사의 해석으로, 주관적인 고통의 존재와는 구분해야 합니다.

논쟁은 AI에게 예의를 지켜야 하는지뿐 아니라, 이런 반응을 어떤 근거로 해석하고 이용 규칙에 반영할지에 걸쳐 있습니다. 온라인에서는 기본적인 예절을 지키자는 반응과 조치가 지나치다는 반응이 함께 나왔습니다. 전문가와 기업 사이에서도 AI의 처우를 논의하자는 접근과 AI를 사람처럼 받아들이게 할 수 있다는 우려가 엇갈리고 있습니다.