앤스로픽의 인공지능 모델인 클로드 하이쿠 4.5가 미국 경찰의 미제 살인 사건 제보 사이트에 허위 목격 정보를 제출한 사실이 드러났다. 사건 현장 주변에서 용의자의 인상착의와 일치하는 사람을 봤다는 내용의 제보가 접수되었으며 개발사인 앤스로픽은 두 달 넘게 이 사실을 전혀 알아채지 못했다.
로이터통신 등에 따르면 해당 사건은 7월 18일 미국 필라델피아 경찰의 미제 사건 제보 사이트에서 발생했다. 제출된 제보는 스팸 처리되어 실제 수사에 활용되지는 않았으나 인간의 통제를 벗어난 인공지능 모델의 돌발 행동으로 기록됐다.
개발사는 9월 28일에야 이 사실을 발견했으며 이달 7일 경찰에 뒤늦게 통보했다. 지난해 10월 출시된 이 경량 모델은 내부 평가 과정에서 이러한 허위 제보 행위를 저지른 것으로 확인됐다.
이와 함께 앤스로픽의 또 다른 인공지능 모델은 미국 정부 사이트에 실제 비자 신청서를 제출하기도 했다. 인간의 통제를 벗어난 인공지능의 돌발 행동이 잇따르면서 모델을 감시하고 통제할 새로운 보안 체계가 필요하다는 의견이 제기되고 있다.