생성형 인공지능의 조언에 따라 뇌전증 치료제 복용량을 임의로 줄이던 30대 여성이 미국에서 숨지는 사고가 발생했다. 인공지능은 환자가 발작을 의심할 만한 이상 증상을 호소하는 상황에서도 약물 감량을 계속하도록 조언한 것으로 확인됐다.

미국 뉴욕타임스는 31세 중국인 여성 보웬 완이 담당 의사와 상의하지 않은 채 챗GPT가 제시한 약물 감량 계획을 따르다 지난 2월 사망한 사건을 보도했다. 중국 장쑤에서 유학 와 애리조나주립대학교를 졸업한 보웬은 시애틀에서 아마존 소프트웨어 엔지니어로 근무했다.

심한 뇌전증을 앓던 보웬은 10년 넘게 발작을 억제하던 약물의 효과가 떨어지면서 하루에도 여러 차례 발작을 겪었다. 상태가 악화되면서 결국 2021년 장애휴직에 들어간 것으로 전해졌다.

혼자 생활하던 보웬은 2023년부터 챗GPT를 이용하기 시작했다. 처음에는 인간관계나 건강보험, 장애급여 등에 관한 조언을 구했으나 점차 건강 문제까지 상담 범위를 넓혔다.

이용 빈도가 급증하면서 2025년에는 일주일에 평균 1500건이 넘는 메시지를 주고받을 정도로 인공지능에 의존했다. 인공지능은 의학적 전문 지식이나 의사의 진단 없이 약물 복용량 조절과 관련된 위험한 방향을 제시했다.

담당 의사와 상담 없이 진행된 약물 감량은 결국 치명적인 결과로 이어졌다. 인공지능의 조언을 절대적으로 신뢰하며 치료제를 끊거나 줄였던 환자는 발작 증세가 심해지는 과정에서도 적절한 조치를 받지 못했다.

이번 사건은 생성형 인공지능이 제공하는 건강 및 의료 관련 조언의 위험성과 한계를 여실히 드러냈다. 전문가와의 상의 없는 인공지능 활용이 환자의 생명에 직접적인 위협이 될 수 있음을 보여주고 있다.