<이미지를 클릭하시면 크게 보실 수 있습니다>

생성형 인공지능(AI) 확산과 함께 수사기관이 피의자의 ‘챗GPT’ 대화 기록을 핵심 디지털 증거로 활용하는 흐름이 뚜렷해지고 있다.

25일 법조계에 따르면 최근 휴대전화 디지털 포렌식 과정에서 수사관들이 AI 애플리케이션 내 대화 내역을 우선적으로 확인하는 관행이 자리 잡는 추세다. 프롬프트에 범행 동기나 고의성이 비교적 직접적으로 드러난다고 판단하기 때문이다.

경찰 수사관 출신 A 변호사는 서울의 한 경찰서에서 진행된 포렌식 참관 과정에서 예상치 못한 장면을 목격했다고 전했다. 수사관이 웹 검색 기록이나 통화·메신저 내역보다 피의자와 AI 간 대화를 먼저 집중 분석했다는 것이다. 변호사들 사이에서는 의뢰인이 AI에 털어놓은 내용까지 사전에 점검해야 하는 새로운 대응 과제가 생겼다는 평가가 나온다.

또 다른 경찰 출신 변호사 역시 사건 상담 과정에서 AI 대화 기록 확인을 우선시한다고 밝혔다. 사건 관련 내용을 AI와 먼저 상의한 경우가 적지 않은데 이를 공유하지 않으면 방어 전략 수립이 어려워질 수 있다는 이유에서다.

AI 대화는 변호인과의 상담처럼 비밀유지권 보호를 받기 어렵다는 점도 변수로 작용한다. 수사기관이 피의자의 내심을 파악하는 자료로 활용할 수 있는 반면, 변호인은 해당 내용을 모른 채 대응해야 하는 상황이 발생할 수 있다는 지적이다.

최근 강력 사건 수사에서도 AI 대화 기록이 혐의 입증의 단서로 활용된 사례가 등장했다. 피의자가 범행 의도를 부인했지만 AI에 위험한 약물 조합의 치명성을 묻는 질문을 남긴 사실이 확인되면서 고의성을 판단하는 근거로 검토됐다는 것이다.

전문가들은 AI 대화 기록이 기존 검색 기록과 구조적으로 다르다고 설명한다. 검색은 단어 중심의 키워드 나열이지만, AI 프롬프트는 문장 형태로 입력되기 때문에 행위자의 목적과 맥락이 보다 구체적으로 드러난다는 분석이다. 문장 자체가 의도를 설명하는 진술에 가까워 증거 가치가 높아질 수 있다는 평가도 나온다.

김명주 AI안전연구소장은 “어떤 범죄가 일어났을 때 당사자의 AI 대화 기록 전체를 뒤져서 ‘이전부터 범죄를 모의해 왔다’고 판단할 수도 있는 것”이라며 “일반 물건이라면 제조물책임법으로 규정되겠지만 AI는 그렇지 않아 사회가 풀어가야 할 문제”라고 진단했다.

“사진 1장이면 끝난다” 시댄스 2.0의 ‘소름 돋는 기술력’에 미국 빅테크도 비상?｜이슈스케치

임혜린 AX콘텐츠랩 기자 hihilinn@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]