AI 안전연구소 개소식 (서울=연합뉴스) 조성미 기자 = AI 안전연구소 개소를 선언하는 김명주 소장. 2024.11.27 csm@yna.co.kr

(서울=연합뉴스) 조성미 기자 = 안전하고 신뢰할 수 있는 인공지능(AI) 사용을 위한 연구 전담 조직 'AI 안전연구소'가 문을 열었다.

과학기술정보통신부는 27일 경기 성남시 판교글로벌R&D센터에서 AI 안전연구소 개소식을 열었다.

AI 안전연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 설립된 AI 안전 연구 전담 조직이다.

아울러 산학연 기관이 AI 안전 분야 연구 협력과 정보 교류를 하는 허브이자 현재 10개국이 참여 중인 '국제 AI 안전연구소 네트워크' 일원이다.

AI 안전정책 및 대외협력실, AI 안전평가실, AI 안전연구실 등 3실로 이뤄지며 내년까지 직원 30명 규모를 목표로 하고 있다.

이날 개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가인공지능(AI)위원회 부위원장, 이경우 대통령실 AI·디지털 비서관, 오승필 KT[030200] 최고기술책임자(CTO), 오혜연 한국과학기술원 AI 연구원장, 이은주 서울대 AI 신뢰성 연구센터장, 방승찬 한국전자통신연구원(ETRI) 원장 등이 참석했다.

류광준 과기혁신본부장은 "국내 기업이 AI 안전을 확보할 수 있도록 기술 지원을 확대하고 AI 안전 정책을 개발, 선진화하는 데 필요한 기반 연구를 수행할 것"이라며 "AI 안전연구소가 아태지역을 대표하는 AI 안전 연구 허브로 발전해나갈 수 있도록 적극 지원하겠다"고 말했다.

김명주 AI 안전연구소장은 "연구소는 규제 기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 할 것"이라며 등반가들이 에베레스트라는 높은 산의 정상에 설 수 있도록 돕는 전문가인 셰르파의 역할에 비유했다.

국가AI위원회 글로벌 자문위원인 요슈아 벤지오 캐나다 몬트리올대 교수는 영상 축사에서 AI 안전연구소의 역할에 대해 업계와 협업을 통한 AI 위험 평가 방법 연구, 업계 등에 AI 안전성 요건 수립 지원, 국제 협력을 통한 AI 안전 체계 조화를 꼽았다.

엘리자베스 켈리 미국 AI 안전연구소장은 "한국과 미국의 AI 안전연구소가 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하는 공통된 과학적 기준을 구축해 나

가자"고 말했다.

무라카미 아키코 일본 AI 안전연구소장은 "각국의 AI 안전연구소가 자국 내 민간 부문과 협력하고 국경을 넘어 함께 협력하는 일이 앞으로 점점 더 중요해질 것"이라고 강조했다.

개소식에 이어 '대한민국 AI 안전 컨소시엄' 협약식이 열려 네이버·카카오·SK텔레콤·KT·LG AI 연구원 등 기업계와 학계 등이 AI 안전에 관한 정책 연구, 평가, 연구 개발에서 상호 협력하자고 약속했다.

AI 안전연구소 소개 이미지 [과기정통부 제공. 재판매 및 DB 금지]

csm@yna.co.kr

▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
▶네이버 연합뉴스 채널 구독하기
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>