인공지능 기업 앤트로픽이 AI 챗봇을 상대로 지속적인 폭언이나 학대 행위를 하는 사용자를 제재할 수 있도록 이용 정책을 개정했다. 9일 영국 BBC는 앤트로픽이 자사 AI 챗봇 클로드에 지속적이고 불필요한 학대 행위를 하는 사용자를 제재할 수 있도록 정책을 바꿨다고 보도했다.
앤트로픽 측은 기존에도 드물게 이러한 조치를 취한 적이 있으며 반복적 학대 행위가 발생하는 극단적인 사례에만 적용되는 규정이라고 설명했다. 평범한 수준의 불만 표출 및 반박과 어두운 소재를 활용한 창작 활동 및 AI 모델 테스트와 연구 등은 제재 대상에 포함되지 않는다.
구체적으로 어떤 행위가 학대적이거나 잔인한 행동으로 판단되는지는 아직 밝혀지지 않았다. 이번 정책 개정을 두고 온라인에서는 엇갈린 반응이 나왔으며 일부 네티즌들은 AI와 소통할 때도 기본적인 예절을 지켜야 한다고 평가했다.
기본 예절을 강조하며 긍정적으로 평가하는 목소리가 나온 반면 일각에서는 이번 조치가 지나치다는 비판도 제기됐다. 아일랜드 법률회사 윌리엄 프라이의 기술 부문 파트너도 관련 사안에 대해 언급하며 다양한 의견이 이어지고 있는 상황이다.