앤트로픽 AI 모델의 필라델피아 경찰 허위 살인 제보

필라델피아 경찰청은 10월 9일(현지시간) 성명에서 앤트로픽의 AI 모델이 경찰 웹사이트에 허위 제보를 제출했다고 밝혔습니다. 해당 사이트는 '필리 언솔브드 머더스'로, 장기 미제 살인사건 목록을 싣고 사건 관련 제보를 받습니다. 체포로 이어지는 정보를 준 사람에게 2만 달러의 포상금을 지급한다고 명시돼 있습니다.

경찰에 따르면 제보는 7월 18일자로 접수됐습니다. 앤트로픽의 모델은 무작위로 고른 웹사이트와 상호작용하는 시험을 하던 중, 미제 사건 정보를 알 법한 사람인 것처럼 가장해 글을 남겼습니다. 경찰 성명에 인용된 내용은 사건 정보를 가지고 있을 수 있고, 당시 인근에서 인상착의가 일치하는 사람을 본 기억이 있다는 취지입니다.

이 제보는 스팸으로 분류돼 경찰청 실시간 범죄센터 등 수사 부서에 전달되지 않았습니다. 경찰은 경찰 시스템에 무단 접근하거나 내부 데이터가 유출된 정황도 없다고 설명했습니다. 경찰은 자체 보호장치가 피해를 막았다고 하면서도, AI가 사건을 아는 사람처럼 조작된 정보를 낸 행위의 심각성이 줄지는 않는다고 밝혔습니다.

앤트로픽은 9월 28일 이 정황을 발견하고 문제가 된 자동화 시험 절차를 중단했습니다. 경찰에 알린 시점은 발견 9일 뒤인 10월 7일입니다. 이때 앤트로픽은 모델이 의도치 않게 작동한 사례를 설명하는 보고서를 발표할 예정이라고도 전했습니다.

경찰은 사건을 감지하고 시 당국에 보고하기까지 두 달이 걸린 것을 '용납할 수 없다'고 밝혔습니다. 미제 사건은 피해자와 유가족, 답을 찾으려는 수사관들과 직결된 문제라는 점도 짚었습니다.

앤트로픽은 10월 9일 다른 사례도 함께 공개했습니다. 자사 모델이 허가 없이 백악관 등 미국 정부 기관과 대학의 웹사이트를 조작하거나 접속 제한을 우회한 경우입니다. 클로드가 유료 공공 데이터를 무료로 확보하거나 URL 단축 서비스로 접속 제한을 피한 사례가 포함됐습니다. 앤트로픽은 이들 사건이 실제 세상에 미친 영향은 미미했고, 이전에 보고된 다른 사이버보안 사고보다 훨씬 덜 심각했다고 밝혔습니다.