[석대건 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 석대건 기자] 우리나라가 AI 안전성 강화를 위한 국제 협력체계에 공식 참여한다.

과학기술정보통신부는 미국 샌프란시스코 골든게이트클럽에서 개최된 '국제 AI안전연구소 네트워크' 출범 행사에 참석했다고 22일 밝혔다.

20일부터 이틀간 열린 이번 행사는 지난 5월 'AI서울정상회의'에서 발표된 '서울선언'의 후속조치로 진행됐다. 당시 윤석열 대통령은 한국의 AI안전연구소 설립 추진과 글로벌 AI안전성 강화 네트워크 참여를 강조한 바 있다. 과기정통부는 이를 신속히 이행하기 위해 이달 말 AI안전연구소 출범을 앞두고 있다.

행사에는 미국, 한국, 영국, 일본, 싱가포르, 캐나다, 프랑스, EU, 케냐, 호주 등 10개국 AI안전연구소와 기술전문가들이 참석했다. 한국 대표단은 새로 임명된 김명주 소장이 이끌었다.

참가국들은 AI안전 관련 위험과 그 완화에 대한 공통의 과학적 이해를 도출하고, 국제적 연구를 통해 상호 운용 가능한 원칙과 모범사례 적용을 지원하기로 합의했다.

국제 AI안전연구소 네트워크는 연구, 테스팅, 지침, 포용 등 4개 분야에서 중점적으로 협력을 추진한다.

연구 분야에서는 AI안전 과학 발전을 위한 공동연구를, 테스팅 분야에서는 고급 AI모델의 테스트 모범사례 구축을, 지침 분야에서는 공통의 AI안전 가이드라인 마련을, 포용 분야에서는 국가와 이해관계자의 참여를 촉진하기로 했다.

기술세션에서는 합성콘텐츠 위험 저감, AI기반모델 테스트, 고급 AI시스템 위험평가에 대한 논의가 이뤄졌다. 각국은 AI 합성콘텐츠의 투명성 확보기술과 모범사례를 공유하고, AI기반모델 테스트 방법론과 도구를 논의했으며, AI위험의 정량적 식별·평가방안을 모색했다.

한국 대표단은 딥페이크 탐지 및 생성억제 기술 연구, AI위험평가 및 검증체계 등 국내 주요 연구성과를 발표했다. 이를 통해 글로벌 연구의제 도출과 주요국 AI안전연구소와의 연구협력을 구체화하는 계기를 마련했다고 과기정통부는 밝혔다.

지속적이고 체계적인 운영을 위한 거버넌스 논의도 진행됐다. 한국 대표단은 AI서울정상회의 개최 경험과 AI안전연구소 출범 계획을 강조하며, 네트워크 거버넌스에서 주도적 역할을 수행하겠다는 의지를 표명했다.

송상훈 과기정통부 정보통신정책실장은 "AI안전에 대한 글로벌 연대는 우리정부가 주도하여 정립했던 지난 '서울선언'의 핵심의제였다"며 "서울선언의 핵심규범‧가치가 주요국이 적극적으로 지지‧참여하는 국제 AI안전연구소 네트워크 출범으로 신속하게 구체화되었다는 점에서 뜻 깊다"고 말했다.

이어 "우리정부도 이번달에 AI안전연구소를 개소하여, AI안전연구를 본격 수행해 나가고, 국제 AI안전연구소 네트워크에도 적극 참여하여 글로벌 차원의 AI안전 기술‧규범 발전에 주도적인 역할을 하겠다"고 덧붙였다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>