[디지털데일리 이건한 기자] 의학·바이오 융합 AI 기술의 산업화 가속을 위한 핵심 과제로 '신뢰'가 꼽혔다. 전문가들은 의료와 만난 AI는 환자의 생명을 다루기 때문에 기술 발전의 속도와 환자 안전 사이의 딜레마 해결이 중요하다고 입을 모았다. 또한 신뢰 확보를 위한 열쇠로 설명 가능한 AI(XAI)를 개념을 강조했다.

4일 서울 코엑스에서 열린 'SK AI 서밋 2025' 2일차 바이오 키노트 세션에서는 스테판 란잔 센티언트 헬스 대표가 '환자 중심 AI 기반 정밀의료의 도전과 미래'에 대한 주제 발표와 전문가 초청 패널토의를 진행했다.



란잔 대표는 AI가 당뇨병 환자의 '개인 건강 에이전트' 역할이나 환자 데이터 분석을 통한 영상의학 분야의 '조기 진단' 지원 등 여러 거대한 기회를 제공한다고 강조했다. 하지만 "이런 AI 혁신이 실제 의료 현장의 채택과 확산으로 이어지려면 먼저 AI의 투명성을 확보하고 의료진도 AI를 이해할 수 있어야 한다”고 진단했다. 그는 "임상의가 이해하지 못하는 AI는 소용없다"며 모델의 추론 과정이 투명하게 공개되는 설명 가능한 AI를 신뢰 확보의 핵심 기법으로 제시했다.

이어진 패널토의에서 한남식 케임브리지 교수도 '안전'을 중요한 가치로 내세웠다. 한 교수는 "약물을 다루는 입장에서 AI는 예측만으로는 충분하지 않으며 안전을 위한 엄격한 검증이 필요하다"고 말했다. 이어 "AI를 신뢰한다는 것은 AI가 왜 그렇게 작동하는지 이해할 수 있다는 뜻"이라며 설명 가능한 AI의 중요성을 재차 확인했다.

앤서니 코스타 엔비디아 디지털 생물학 디렉터 역시 "신뢰가 없으면 AI 도구를 사용하지 않을 것"이라며 자신이 구매한 자율주행차를 예로 들었다. 그는 "처음 수개월은 자율주행 기능을 믿지 못해 쓰지 않았다"며 "AI도 신뢰를 쌓으려면 일단 조심스럽게 써보며 모델이 어떤 능력을 갖고 있는지 알아가야 한다"고 조언했다. 크리스천 루이즈 문라이트AI 대표도 "신뢰를 쌓으려면 실제 활용에 필요한 규제 완화도 필요할 것”이라며 공감했다.



이밖에 의료 AI의 현주소를 바라보는 패널들의 다양한 관점도 공유됐다. 코스타 디렉터는 "AI 기반의 정밀의료 구현이 가능하다고 믿는다”면서도 "다만 이에 필요한 통합 멀티모달 데이터 부족, 생물학 법칙과 체계에 대한 고급 지식이 부족한 AI는 아직 한계”라고 지적했다.

루이즈 대표는 고질적인 데이터 파편화 문제를 지적했다. 그는 "대형병원 내, 심지어 부서 내에도 데이터가 파편화돼 있다"면서 "이는 20~30년 전 디지털 전환을 마친 방사선학과 달리 그 외 분야는 이제 디지털 전환이 시작됐기 때문"이라고 분석했다.

김장원 오라클 수석 응용과학자는 AI 신뢰 구축을 위한 실질적인 평가 방안을 제시했다. 그는 "엄격한 평가 프로토콜과 적대적 행위를 모방해 취약점을 찾는 레드팀 운영이 필요하다"며 "무엇보다 기술적 평가지표를 의료진의 언어로 해석해 전달하는 노력 또한 중요하다"고 강조했다.

한 교수는 제약사들의 AI 대규모 투자가 본격화됐다고 봤다. 그는 "AI가 이미 제약 분야의 연구 비용과 시간을 크게 절약하고 있다"며 "최근 대형 제약사들이 수십명의 AI 과학자를 채용하고 '팀'이 아닌 '센터' 규모의 투자를 하는 것은 그 가치가 분명하기 때문"이라고 말했다.

끝으로 스테판 란잔 대표는 토의를 마무리하며 "결국 (모두의 말처럼) 의학·바이오 AI 분야의 발전은 기술적 전문성과 헬스케어 전문성의 접목, 신뢰 확보, 그리고 사람 중심의 문제 이해가 핵심이 될 것"이라고 정리했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -