[뉴욕=이데일리 김상윤 특파원] 지난해 말 오픈AI의 챗GPT가 나온 이후 인공지능(AI)기술은 급속도로 발전하고 있다. 구글도 최근 이미지를 인식하고 음성으로 말하거나 들을 수 있으며 코딩을 할 수 있는 능력까지 갖춘 제미나이(Gemini)를 출시하며 빅테크 간 경쟁이 치열해지고 있다.

동시에 AI 위험성을 차단하기 위한 각국의 규제 움직임도 재빨라지고 있다. 유럽 연합(EU)은 8일(현지시간) 세계 최초로 AI 규제법안에 합의했다. EU의 규칙이 곧 세계 표준이 되는 이른바 ‘브뤼셀 효과’를 원치 않은 글로벌 각국의 규제 도입이 본격화될 것으로 예상된다. AI 오남용을 막으면서도 AI 주도권을 쥐기 위한 탄탄한 자국 AI 생태계를 마련하는 등 각국의 치열한 머리싸움이 펼쳐질 전망이다.

지난 7~8일 미국 뉴욕 유엔 본부에서 열린 ‘AI 고위급 자문 기구 회의’에 참석한 고학수 개인정보보호위원회 위원장을 회의 직후 만나 EU의 AI 규제법안의 의미, 글로벌 AI 규제 흐름, 그리고 한국의 나아갈 길에 대해 긴급 인터뷰했다.

고학수 개인정보위원장(사진=김상윤 뉴욕 특파원)

-예상보다 빨리 AI 규제안 합의가 이뤄졌다

△2021년 4월 AI 법안 초안이 나온 후 EU 의회에서 거의 2년간 논의를 했다. EU 회원국 간 이해관계가 달라 진통을 겪었는데 예상보다 빨리 합의가 이뤄졌다. 합의가 이뤄지지 않을 경우 글로벌 AI 법안 마련이 지연될 수 있었는데, 이번 통과로 각국의 AI 규제 움직임도 더욱 빨라질 것으로 예상된다.

-앞으로 생체 정보 수집이 전면 막히나

△여러 규제 내용 중 막판까지 가장 논란이 됐던 부분이다. 실시간으로 생체 정보를 수집 못 하게 하는 것이다. 이를테면 길거리에 다니는 사람 누군지를 AI가 즉각적으로 알아보는 등 실시간으로 대중을 상대로 한 안면인식 생체 정보를 수집하지 못하는 것이다. 다만 사법당국의 인신매매 피해자 수색, 테러 위협 예방, 살인·강간 등 범죄 용의자 추적을 위한 실시간 안면 인식을 허용했다.

-규제 외 AI 혁신을 위한 진흥 정책은 없나

△물론이다. 단순 규제를 넘어 규제 샌드박스를 도입해 서비스 제공 전에 제한된 시간 동안 AI 시스템의 개발, 테스트 및 평가를 쉽게 하는 규제 샌드박스도 구축한다. EU 내 AI 생태계를 어떻게 구축하느냐에 대한 고민이긴한데 법안 전체로 봤을 때 비중이 크지 않은 것 같다. 주로 AI를 어떻게 통제할 것인가에 집중됐다.

-EU AI 규제법 시행시 우리 기업에 미칠 영향은

△아직은 우리 기업이 유럽에서 AI 관련 사업을 하는 부분이 적어 우리 기업에 직접적으로 영향을 미칠 부분이 많지는 않을 것으로 본다. 우리나라에서도 대규모로 실시간 안면인식 정보를 수집하는 건 거의 없다. 다만 EU의 AI 규제가 미국 등 다른 나라 규제 움직임에 어떤 식으로 영향을 미칠지가 주요 고려사항이 될 것이다.

-미국은 자율규제 형태로 가고 있다

△백악관에서 지난달 내놓은 행정명령은 유연한 내용이 담겨 있다. 이를테면 기업에 레드팀(red team) 의무 도입이다. 실제 새로운 서비스를 출시하기 전에 레드팀이 AI 관련 안전성 등을 검증하는 것이다. 기업에 일정수준 자율성을 부여하고 자체적으로 검증한 뒤 보고하라는 것이다. AI 발전이 워낙 빠르다 보니 규제가 뒤따를 수밖에 없는데 상당히 유연성이 있고 실용주의 관점에서 나쁘지 않은 것 같다. AI로 만든 창작물인지 인식할 수 있도록 워터마크(식별 표시)를 넣는 내용도 담겨 있다.

미국은 의회에서 법안이 통과될 분위기가 아직 없다.

-행정명령만으로 실효성을 확보할 수 있나

△공공조달 입찰 등을 통해 나름의 실효성을 갖췄다. 이를테면 미국의 공공 클라우드 사업은 매우 규모가 크다. 여기에 입찰하는 기업들은 행정명령을 따르지 않을 경우 조달할 수가 없다. 미국 행정부가 보기에 바람직하지 않은 방향으로 AI가 쓰일 정황이 있으면 기업을 통제할 수 있는 장치를 마련한 것으로 볼 수 있다.

-유럽이 강력한 규제를 만든 건 미국 견제인가

△아무도 공개적으로 그런 얘기를 하지 않지만, 나름의 속셈은 있을 것 같다. 현재 AI는 미국이 주도하고 있는 반면 유럽은 상대적으로 기술 수준이 낮은 상황이다.

-G7도 얼마 전 AI 규제 관련 포괄적 규칙안을 마련했다

△‘히로시마 AI 프로세스’ 합의안은 법적인 구속력은 없지만 생성형 AI가 가짜 정보를 확산하는 만큼 G7이 공통의 활용 규칙을 정하자고 한 것이다. 미국 행정명령처럼 AI가 만든 콘텐츠를 식별하는 기술을 확립하는 내용이 담겨 있다. 일종의 워터마크를 넣어 온라인에 떠도는 사진이나 동영상, 텍스트가 인간의 실제 콘텐츠인지, AI가 인위적으로 만들었는지 누구나 알 수 있도록 하자는 것이다. 상당히 초기 단계의 규정이다.

-UN도 AI 규범을 만들고 있다. 현재 움직임은 어떤가

△매우 빡빡하게 진행되고 있다. 지난 10월 말 자문기구를 설립한 이후 평균 매주 두 번 이상 화상회의를 했고, 이번에 첫 대면회의를 한 것이다. 그간 유엔의 관행을 보면 매우 이례적이다. 중간보고서가 이달 중 나올 것이고 내년 8월께 최종보고서를 만드는 게 목표다.

일단 현재 유엔 산하의 AI를 규범하는 국제기구를 만드는 방안을 우선적으로 논의하고 있다. 국제원자력기구(IAEA), 국제해사기구(IMO), 국제민간항공기구(ICO), 기후 변화에 관한 정부 간 협의체(IPCC) 등 다양한 형태를 참조하고 있다. AI 규제에 어느 정도 유엔이 개입할지에 따라 정해질 것이다.

한편으론 AI 기술을 따라가지 못하는 나라도 있다. 이들을 위해 역량을 키워줄 방안은 무엇인지 등 논의 중이다.

-AI를 규제하는 강력한 조약 등이 마련될 수 있을까

△현재 단계는 AI가 인류에게 어떤 기회를 줄 수 있는지, 어떤 리스크가 있는지 나눠서 따져보고 있다. AI 위험을 차단하기 위한 공감대는 형성돼 있지만, 아직 규제 수준을 어떻게 할지 방향성은 명확하지 않다. 어느 정도 AI를 규제할 필요가 있다는 데 공감대는 있지만 각론에 가면 세계 각국의 이해관계가 매우 다르다.

AI 위험이 있다고 해서 일부 사람들이 얘기하는 것처럼 핵위험 등 인류를 멸망에 빠트리거나 하는 리스크 등에 대해 생각하는 참가자는 많지 않은 것 같다. 일상생활면에서 AI의 투명성, 공정성, 차별방지 등에 대해 논의하고 있다. 터미네이터 영화처럼 AI가 핵 위험을 일으키는 현실적인 리스크가 될 것이라는 분위기는 아직 없다.

-우리는 어떤 식으로 가야 하나

△EU식이 될지 미국식이 될지, 제3의 길을 가야 할지 고민을 해야 한다. 규제 일변도가 돼서는 안 된다. 한국의 AI 산업 생태계를 보호하는 동시에 소비자들이 AI 기술에 대한 신뢰를 갖추는 게 병행돼야 한다.

우리나라엔 네이버가 AI 개발에 열심히 나서고 있고 나름의 생태계가 갖춰가고 있다. 국민들의 교육수준도 AI 기술에 대한 적응도나 관심도가 꽤 높다. 이런 기대 수준에서 어떤 규범을 만들지 고민을 해야 한다.

특히 AI기술 발전 속도가 매우 빠른 점도 고려해야 한다. 챗GPT가 나온지 이제 1년이 됐다. 시장이나 기술이 다이나믹하게 변화할 가능성을 염두에 두고 유연성 있는 제도를 마련하는 게 중요하다. 백악관 행정명령이나 히로시마 AI 프로세스 합의안의 경우 현실성 있는 부분이 많다. 참조할 거리가 꽤 있다고 본다.

-국내 AI 규제법안 움직임은 어떻게 보나

△일단 과학기술정보통신부에서 만든 AI 기본법이 법안소위를 통과했고, 개보위와 피드백을 주고받고 있는 단계다. 위원회는 별도로 내년에 AI 관련 가이드라인 6개를 순차적으로 내놓을 예정이다.

-AI가 미치는 범위가 광범위하다. 범정부 논의가 필요하지 않나

△동의한다. 여러 부처서 함께 논의해야 하지 않나 싶긴 한데 아직 적극적인 움직임은 없다.

-AI의 원천인 개인정보 빅데이터를 쥐는 기업이 시장을 장악한다. 인수합병(M&A)심사 시 주의 깊게 봐야 하지 않나

△그렇다. 앞으로 AI 빅데이터를 쥐는 기업이 독식하게 될 거다. 공정거래위원회의 기업결합 심사 시 개인정보보호위원회도 함께 협의를 해야 한다고 판단해 현재 실무선에서 논의 중이다.

고학수 개인정보위원장(사진=김상윤 뉴욕 특파원)