총기난사 피해자 추모공간/사진=연합뉴스

캐나다 정부가 최근 캐나다 학교에서 벌어진 총기난사 사건 피의자에 대한 사전 우려 사항을 신고하지 않은 오픈AI를 소환했다고 AP, 블룸버그 통신이 현지시간 23일 보도했습니다.

에반 솔로몬 AI부 장관은 오픈AI 안전 담당 고위팀을 오늘(현지시간 24일) 면담하기로 했다고 밝혔습니다.

지난 10일 캐나다 브리티시컬럼비아주 텀블러리지의 한 학교에서 벌어진 8명이 숨지는 총기난사 사건의 피의자 제시 반 루트셀라는 지난해 6월 수일에 걸쳐 챗GPT에 총기 폭력 관련 시나리오를 여러 차례 적었습니다.

당시 오픈AI 직원들은 자동 검토 시스템이 전달한 이 대화를 확인했지만, 당국에 신고하지 않았습니다.

그의 활동이 법 집행기관에 신고해야 하는 기준인 '타인의 신체에 대해 심각한 위험을 끼칠 수 있는 신뢰할 만한 임박한 위험'에는 미치지 못했다고 판단했기 때문입니다.

솔로몬 장관은 이와 같은 오픈AI의 내부 논의 과정에 대한 보도 내용과 관련해 "매우 우려스럽다"며 "(회사가) 적시에 법 집행기관에 연락하지 않았다는 점을 시사한다"고 지적했습니다.

보도를 접하자마자 곧바로 오픈AI에 연락했다는 솔로몬 장관은 "오픈AI가 자체 프로토콜과 단계적 대응 절차에 대해 어떤 입장을 밝힐지 지켜보겠다"고 말했습니다.

수유동 모텔 변사사건 피의자 영장심사/사진=연합뉴스

한편, 최근 한국 역시 약물이 든 음료로 남성 2명을 잇달아 숨지게 한 혐의를 받는 20대 여성 김모씨가 범행에 앞서 수차례 약물의 위험성을 생성형 AI에 질문했던 것으로 드러나며 AI 악용에 대한 우려가 커지고 있습니다.

경찰 조사 결과 김씨는 범행 전부터 챗GPT에 '수면제랑 술을 같이 먹으면 어떤가', '얼마나 같이 먹으면 위험한가', '죽을 수도 있나' 등 질문을 입력했던 것으로 확인됐습니다.

이에 따라 생성형 AI 플랫폼 사업자에 대한 수사기관의 공조 요청도 꾸준히 늘어나는 추세입니다.

이윤호 동국대 경찰행정학부 명예교수는 "해악을 끼칠 수 있는 내용을 생성형 AI가 답변에 포함하지 않게끔 시스템을 구축해야 한다"며 "사회적 책임을 충분히 지도록 유도할 필요가 있다"고 강조했습니다.

[조수민 디지털뉴스부 인턴기자 lucy499059@gmail.com]

< Copyright ⓒ MBN(www.mbn.co.kr)무단전재 및 재배포 금지 >