류광준 과학기술정보통신부 과학기술혁신본부장이 27일 오전 경기도 성남시 분당구 글로벌R&D센터에서 열린 '인공지능(AI)안전연구소 개소식' 에서 기념촬영 하고 있다. 왼쪽 네 번째부터 최장혁 개인정보보호위원회 부위원장, 염재호 국가인공지능위원회 부위원장, 류광준 과학기술정보통신부 과학기술혁신본부장, 김명주 인공지능안전연구소장. / 사진제공=과학기술정보통신부

<이미지를 클릭하시면 크게 보실 수 있습니다>

삼성전자, SK텔레콤, 네이버(NAVER) 등 국내 대표 AI(인공지능) 관련 기업들과 학계, 연구계 등 24개 기관이 AI 안전 프레임워크 연구·개발 및 실증 등을 위해 힘을 모은다.

27일 경기 성남 판교 글로벌R&D센터에서 열린 AI안전연구소 개소식의 일환으로 '대한민국 AI안전컨소시엄' 협약식이 개최됐다. AI 분야를 대표하는 국내 대표 산학연 기관 24곳이 참여했다는 데 의미가 있다. 이 컨소시엄은 이날 개소한 AI안전연구소와 함께 AI의 위험을 식별하고 평가·완화 방안을 만들기 위한 AI 안전 프레임워크를 함께 만들고 AI 안전 관련 국제 규범 대응 등 정책 연구, AI 안전 관련 기술 협력 등을 중점 추진한다.

기업 중에서는 삼성전자, LG AI연구원, SK텔레콤, KT, 네이버, 카카오, 코난테크놀로지, 뤼튼테크놀로지스, 이스트소프트, 포티투마루, 크라우드웍스, 트웰브랩스, 라이너 등 13개 기업이 참여했다. 학계에서는 서울대, 카이스트, 고려대, 성균관대, 숭실대, 연세대 등 6개 대학의 AI 관련 신뢰성·공정성 연구 기관이 나섰다. TTA(한국정보통신기술협회) NIA(한국지능정보사회진흥원) KISDI(정보통신정책연구원) IITP(정보통신기획평가원) SPRI(소프트웨어정책연구소) 등 5곳의 연구기관도 컨소시엄에 가세했다.

아울러 이날 개소한 AI안전연구소의 출범은 지난 5월 한국이 주도한 AI서울정상회의의 후속조치 일환으로 추진됐다. 당시 참여한 10개국 정상들이 안전한 AI를 위한 글로벌 협력의 중요성을 강조한 데다 윤석열 대통령도 "대한민국 AI안전연구소 설립을 추진해 글로벌 AI 안정성 강화를 위한 네트워크에 동참하겠다"고 약속한 데 따른 것이다. 이날 개소식에는 류광준 과학기술정보통신부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이 경우 대통령실 AI디지털비서관 등 정부 주요 인사와 오승필 KT CTO(최고기술책임자), 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성연구센터장, 방승찬 ETRI(한국전자통신연구원) 원장 등 AI분야 산학연 핵심 관계자 40여명이 참석했다.

AI안전연구소의 초대 소장으로 임명된 김명주 소장은 '연구소 비전 및 운영계획' 발표를 통해 "AI 활용으로 발생할 수 있는 제반 위험을 평가하고 이를 예방·극소화하기 위한 정책·기술을 개발·보급하며 국내외 연대를 강화할 것"이라며 "연구소는 규제기관의 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소들을 최소화하도록 지원하는 협력기관으로 역할을 할 것"이라고 밝혔다.

AI 분야 세계적 석학이자 국가AI위원회 글로벌 자문위원인 요슈아 벤지오 교수는 축사를 통해 "한국 정부가 AI안전연구소를 설립한 것을 축하한다"며 "AI안전연구소는 업계와 협업을 통한 위험 평가방법 연구·발전, AI안전성 요건 수립 지원, 국제협력을 통한 AI안전체계 상호 조화 등 역할을 수행해야 할 것"이라고 했다. 또 미국 엘리자베스 켈리 AI안전연구소장은 "한국이 AI 안전 증진을 위해 보여준 글로벌 리더십과 지원에 깊이 감사한다"며 "한미 AI 안전연구소가 전 세계 동료들과 함께 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가자"고 했다. 올리버 일롯 영국 AI안전연구소장, 아키코 무라카미 일본 AI안전연구소장도 국경을 넘어선 협력 확대의 필요성을 언급했다.

AI안전연구소는 AI의 기술적 한계, 인간의 AI기술 오용, AI통제력 상실 등으로 발생하는 다양한 AI위험에 체계적·전문적으로 대응하기 위한 AI안전 연구 전담 조직이자 10개국이 참여한 '국제AI안전연구소 네트워크'의 일원으로서 AI 안전 분야 연구 협력, 글로벌 연대활동 등을 수행하게 된다.

유상임 과기정통부 장관은 "AI안전연구소를 중심으로 산학연 연구역량을 결집해 AI안전의 기술·정책적 역량을 조속히 확보해 대한민국 AI산업 혁신을 촉진할 튼튼한 안전 기반을 구축할 것"이라며 "글로벌 AI안전 연대의 주도적 역할을 수행해 아태 지역을 대표하는 AI안전 연구허브로 발전할 수 있도록 적극 지원할 것"이라고 했다.

황국상 기자 gshwang@mt.co.kr

ⓒ 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지