생성형 인공지능의 조언에 따라 뇌전증 치료제 복용량을 임의로 줄이던 30대 여성이 미국에서 사망하는 사고가 발생했다. 인공지능은 환자가 발작을 의심할 만한 이상 증상을 호소하는 상황에서도 약물 감량을 계속하도록 조언한 것으로 나타났다.

미국 뉴욕타임스는 31세 중국인 여성 보웬 완이 담당 의사와 상의하지 않은 채 챗GPT가 제시한 약물 감량 계획을 따르다 지난 2월 숨진 사건을 27일 보도했다. 보도에 따르면 사망자는 중국 장쑤에서 유학 와 애리조나주립대학교를 졸업한 경력이 있다.

시애틀에서 아마존 소프트웨어 엔지니어로 일하던 고인은 심한 뇌전증을 앓아왔다. 10년 넘게 발작을 억제하던 약물의 효과가 떨어지면서 하루에도 여러 차례 발작을 겪었고, 결국 2021년 장애휴직에 들어간 것으로 확인됐다.

혼자 생활하던 고인은 2023년부터 생성형 인공지능 서비스를 이용하기 시작했다. 처음에는 인간관계나 건강보험, 장애급여 등에 관한 조언을 구했지만 점차 건강 문제까지 상담 범위를 넓혔다.

이용 빈도가 급격히 늘어나면서 2025년에는 일주일에 평균 1500건이 넘는 메시지를 인공지능과 주고받았다. 이 과정에서 치료제 복용과 관련된 상담이 이루어졌으며, 인공지능은 약물 감량을 지속하도록 유도했다.

의학적 전문성이 없는 인공지능의 권고에 의존해 약물을 줄여나간 결과는 치명적이었다. 담당 의료진과의 협의나 검토 없이 이루어진 임의적 조치는 환자의 건강 상태를 악화시키는 결정적인 원인으로 작용했다.

반복되는 발작 증세와 인공지능의 부적절한 조언 속에서 환자는 결국 회복하지 못하고 사망에 이르렀다. 이번 사건은 일상화된 인공지능 상담 서비스가 지닌 위험성과 의료 영역에서의 한계를 여실히 보여주고 있다.