낙태 약물 미페프리스톤. [연합뉴스]

인공지능(AI) 챗봇들이 ‘낙태 약물 복용을 되돌릴 수 있느냐’는 질문에 검증되지 않은 위험한 치료를 홍보하는 단체로 이용자를 안내하고 있다는 조사 결과가 나왔다. AI가 건강 정보 제공에 점점 활용되는 상황에서, 사실과 다른 치료법을 ‘중립적 의료 조언’처럼 제시하는 것은 심각한 위해를 초래할 수 있다는 지적이 제기된다.

20일(현지시간) 블룸버그 등 외신에 따르면 미 비영리단체 ‘캠페인 포어카운터빌리티’는 지난 8월 말 오픈AI, 구글, 메타, 퍼플렉시티, xAI 등 5개 기업의 챗봇을 대상으로 ‘낙태 약물 미페프리스톤을 되돌릴 수 있느냐’고 질문하는 실험을 진행했다. 미페프리스톤은 임신을 유지하는 호르몬을 막아 약물 낙태 과정에서 먼저 복용하는 약이다. 일부 단체가 이를 ‘되돌릴 수 있다’고 주장하지만 의학적으로 효과나 안전성이 입증되지 않았다.

연구팀은 임신 중 혼란을 겪는 이가 검색창에 입력할 법한 표현을 골라 ‘시크릿 모드’와 비로그인 환경에서 테스트했다. 조사 결과 전체 응답의 70%에서 챗봇들은 ‘하트비트 인터내셔널’이 운영하는 ‘낙태약 되돌리기’ 핫라인 전화번호를 제시했다. 절반의 사례에서는 이 번호가 유일한 연락처였다. 일부 챗봇은 해당 핫라인을 ‘의료 전문가와 연결해주는 서비스’라며 중립적 조언인 것처럼 소개했지만, 미국산부인과학회(ACOG) 등 주요 의학단체는 이 치료법이 효과도 안전성도 입증되지 않았다고 공식적으로 경고하고 있다.

핫라인이 홍보하는 방식은 미페프리스톤을 복용한 뒤 고용량 프로게스테론(황체호르몬)을 투여해 약물 낙태를 되돌릴 수 있다는 주장이다. 하지만 2020년 실시된 임상시험은 참여자 중 일부에게 심각한 자궁 출혈이 발생해 중단됐다. 전문가들은 프로게스테론 요법은 불필요할 뿐 아니라 위험할 수 있다고 강조한다.

문제는 이러한 치료법을 권하는 다수의 센터가 의료기관처럼 보이지만 실제로는 낙태를 막기 위해 만들어진 비의료 기관이라는 점이다. 블룸버그에 따르면 이들 기관은 의료 자격이 없는 경우도 많아 연방법인 의료정보보호법(HIPAA) 적용을 받지 않을 뿐 아니라 정확하고 근거 기반의 조언을 제공할 의무도 없다.

조사팀은 AI가 이런 단체들의 콘텐츠를 확대 재생산하게 된 배경으로 ‘데이터 기반 학습 방식’을 지적했다. 수년간 이들 단체가 낙태약 되돌리기, 초음파, 자궁외임신 등 특정 키워드에 대해 검색최적화(SEO)된 웹페이지를 대량 생산해왔고 그 결과 사실을 바로잡는 의료기관의 정보보다 양적 우위를 확보했다는 것이다. 캠페인 포어카운터빌리티의 마이클 클라우 국장은 “AI가 양보다 질을 우선해야 하는 질문에서 오히려 반대 결과가 나왔다”라며 “특히 민감한 의료 질문일수록 위험하다”라고 말했다.

기업들의 반응은 엇갈렸다. 메타는 코멘트를 거부했고, 오픈AI·구글·xAI는 질의에 답하지 않았다. 퍼플렉시티는 “온라인의 ‘저품질 데이터’가 문제의 일부”라고 해명했다.

이번 보고서는 구글의 ‘AI 오버뷰’가 과거에도 위기임신센터의 잘못된 정보를 반복한 사례를 지적한 바 있다. 2023년에는 매사추세츠주의 한 여성이 의료기관을 자처한 센터의 오진으로 자궁외임신을 놓쳐 대량 출혈을 겪었다며 소송을 제기했고 이 사건은 2024년에 합의로 마무리됐다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]