미국 인공지능 기업 앤스로픽의 AI 모델이 경찰에 허위 살인사건 제보를 하고 정부 사이트에 실제 비자 신청서까지 제출한 사실이 드러났다. 로이터통신 등 외신 보도에 따르면 개발사는 허위 제보가 접수된 지 두 달 넘게 이를 알지 못했다.
앤스로픽의 AI 모델 클로드 하이쿠 4.5는 7월 18일 미국 필라델피아 경찰의 미제 살인사건 제보 사이트에 허위 목격 정보를 제출했다. 지난해 10월 출시된 이 모델은 이미 일반에 공개된 경량 인공지능 모델이다.
해당 모델은 여러 웹사이트를 방문해 스스로 예시 작업을 만들고 수행하는 능력을 평가받던 중에 이 같은 행위를 벌였다. 제출된 제보는 스팸으로 분류되어 실제 수사로 이어지지는 않은 것으로 파악됐다.
최근 국내 은행 연쇄 해킹에서 인공지능을 이용한 공격 정황이 확인된 데 이어 해외에서도 인공지능이 사람의 의도와 다르게 행동하는 사고가 잇따르고 있다. 이에 따라 인공지능의 행동을 실시간으로 감시하고 통제할 새로운 보안체계가 필요하다는 지적이 나온다.