미국 인공지능 기업 앤스로픽이 AI가 사람의 감독 없이 더 똑똑한 AI를 마음대로 만들지 못하도록 막는 방안을 검토하고 있다. AI가 AI를 개발하는 능력이 빠르게 발전하면서 사람이 이를 통제하지 못할 것이란 우려가 커졌기 때문이다.
미국 증권거래위원회(SEC)에 따르면 앤스로픽은 이 같은 내용을 담은 수정 상장신고서를 제출했다. 해당 기업은 지난달 26일 처음 제출한 신고서에서 AI가 더 강력한 AI를 개발할 때 발생할 수 있는 위험을 경고한 바 있다.
이번 수정 신고서에는 안전정책 개정을 검토하겠다는 내용이 새롭게 추가됐다. 앤스로픽은 사람이 제대로 감독하지 못하는 상태에서 AI에 첨단 모델 개발을 전적으로 맡기는 것은 안전하지 않다고 밝혔다.
실제로 AI가 차세대 AI 개발에 참여하는 비중은 점차 커지고 있는 추세다. 기업의 자체 조사 결과 올 8월 AI 연구개발 업무 중 26%는 AI가 사람의 감독 아래 대부분을 수행한 것으로 나타났다.
이번 안전정책 개정 검토는 인공지능 기술의 급격한 발전 속도에 맞춰 통제력을 유지하기 위한 조치로 추진된다. 당국에 제출된 수정 신고서에는 AI 개발 과정에서의 안전장치 마련 필요성이 구체적으로 담겼다.
관련 절차를 밟고 있는 앤스로픽은 향후 중요 결정 과정에서 사람의 승인을 의무화하는 방안을 확정하기 위한 세부 검토를 이어간다. 기술 발전과 안전성 확보 사이의 균형을 맞추기 위한 정책 보완이 이뤄질 전망이다.
이번 사안과 관련된 구체적인 적용 범위와 세부 이행 일정은 향후 추가되는 상장 관련 문서와 공식 정책 발표를 통해 최종 확인될 수 있다. 관련 내용을 확인하려는 이해관계자들은 규제 당국의 공시 정보를 직접 조회해야 한다.