바이든 미 대통령 ‘무조건 통제’ 방침 천명
사후약방문식 대응 차단…사회적 혼란 우려
해외 각국도 AI 규제 주도권 잡기 경쟁 나서
[아로마스픽(66)] 10.30~11.3

조 바이든(왼쪽) 미국 대통령이 지난달 30일(현지시간) 백악관 이스트룸에서 카멀라 해리스 부통령이 지켜보고 있는 가운데 인공지능(AI) 규제 행정명령에 서명하고 있다. EPA 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

“다른 방법이 없다. 무조건 통제해야 한다.”

강경했다. 시장 자율에 맡길 경우, 자칫 제어 불능으로 빠질 가능성을 우려한 탓이다. 사후약방문식의 대응은 재앙에 가까운 후폭풍만 동반할 것이란 확신에서다. 조 바이든 미국 대통령이 인공지능(AI)을 정조준하고 꺼내 든 작심 처방전이다. 그의 이런 진단은 지난달 30일(현지시간) AI 규제 등을 골자로 한 행정명령에 서명하기 직전, 전해진 공개 연설에서 나왔다.

사례까지 구체적으로 나열됐다. 바이든 대통령은 “사람들을 속이기 위해 AI 장치들이 이미 사용되고 있다"면서 "딥페이크는 사람들의 평판을 훼손하고 가짜뉴스를 퍼트리는 한편 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다"고 말했다. 딥페이크(deep fake)는 딥러닝(deep learning)과 페이크(fake)의 합성어로, AI를 활용한 일종의 얼굴 조합 기술이다. 특정 인물의 얼굴이나 신체 부위를 합친 영상편집물인 셈이다. 그는 특히 “AI 사기꾼들은 여러분의 목소리를 3초 동안 녹음하고 여러분의 가족과 여러분들을 속이기에 충분한 것을 만들어 낼 수 있다”며 “사기꾼들은 여러분이 사랑하는 사람들이 여러분이 곤경에 빠졌다고 생각해 돈을 보내도록 사기를 치는 데 이를 활용할 수 있다”고 꼬집었다. 잘못된 의도로 악용된 AI에 의해 파생될 사회적인 혼란은 불을 보듯 뻔하단 얘기였다.

백악관에 따르면 바이든 대통령은 지난해 말 생성형 AI로 출시된 오픈AI의 '챗GPT'를 백악관 집무실에서 실험적으로 사용하고 지난 수개월간 세계 지도자, 전문가, 학자 등과 관련된 논의도 진행했다.

바이든 대통령은 이어 떠올리기 싫었던 자신의 경험담도 소개했다. 그는 “나도 내 것(딥페이크)을 본 적이 있는데, 나는 ‘내가 도대체 언제 저렇게 발언했지’라고 말하기도 했다”고 전했다. 감정적인 표현은 자제했지만 언짢은 기색 또한 역력했다. 단호한 의지로 AI 통제와 연관된 행정명령에 서명하면서 내비친 속내였다.

이번 행정명령의 중심엔 전체 AI 서비스 과정에서 파고든 정부 차원의 까다로워진 개입이 자리했다. 특히 행정명령에선 AI 역량에 대한 안전과 보안 우려를 해소하기 위해 AI 시스템 개발자가 안전 테스트 결과 및 다른 주요 정보까지 정부와 공유하도록 했다. 이에 따라 기업들은 국가 안보, 경제, 공중보건 등에 심각한 위험을 초래하는 AI 모델을 테스트할 경우엔 연방정부에 반드시 통보해야 한다. 바이든 행정부는 이를 위해 지난 1950년 당시 터졌던 ‘6·25 한국전쟁’ 가운데 공표된 ‘국방물자 생산법’까지 소환했다. 한국전쟁 당시 전략물자 보급을 위해 제정된 이 법에 따르면 미국 대통령이 국가안보에 필요한 특정 물품의 생산을 확대·관리할 수 있다.

행정명령에선 또 AI로 생성된 콘텐츠를 식별하고 공식 콘텐츠 인증에 필요한 표준 수립까지 언급했다. 미 상무부는 이에 따라 AI 콘텐츠 인증 및 식별표시(워터마크)에 대한 지침을 개발할 계획이다. 일각에선 바이든 대통령을 전면에 내세운 미국의 이런 긴박한 행보 이면엔 “대세로 떠오른 AI 규제와 관련해 본격적인 주도권 선점에 나서겠단 속셈까지 깔린 것으로 보인다”는 시각도 내놓고 있다.

1일(현지시간)부터 이틀간 영국 블레츨리에서 개최되는 '인공지능(AI) 안전 정상회의'에서 각국의 주요 참석자들이 기념사진을 촬영하고 있다. EPA 연합뉴스

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI 규제 움직임에 '국제 공조'까지 표방하고 적극적으로 나선 세계 주요 국가 수뇌부의 움직임도 이런 관측과 무관치 않다. 주요 국가들은 1일(현지시간) 영국 블레츨리 파크에서 개막한 ‘제1회 AI 안전 정상회의’에 참석, “AI가 심각한 피해를 초래할 수 있다”며 '블레츨리 선언' 발표와 더불어 협력을 다짐했다. 이번 블레츨리 선언엔 미국과 영국, 중국, 한국을 포함한 28개국 및 유럽연합(EU) 등이 동참했다.

이들은 “고도의 능력을 갖춘 ‘프런티어 AI’가 잠재적으로 파국적 피해를 초래할 수도 있다”면서 “기술 발전 속도를 감안할 때 이런 위험과 필요한 대응 조처에 관해 긴급히 이해를 키워야 하며, 각국이 정책을 세우고 서로 협력해야 한다”고 강조했다. 이번 회의는 “‘챗GPT’ 이후 AI의 안전성과 신뢰성에 대한 우려가 커지면서 국제사회 차원의 대응을 논의하자”는 리시 수낵 영국 총리의 제안으로 마련됐다. "AI 기술이 가져올 피해을 막아보자"며 국제사회가 공동 협력에 나선 건 이번이 처음이다.

이 행사엔 수낵 총리와 카멀라 해리스 미국 부통령, 기시다 후미오 일본 총리, 쥐스탱 트뤼도 캐나다 총리, 조르자 멜로니 이탈리아 총리, 우르줄라 폰데어라이엔 EU 집행위원장, 안토니우 구테흐스 유엔 사무총장 등이 참석했다. 윤석열 대통령은 이 회의에 화상으로 참여했다.

이번 회의엔 글로벌 기업들도 초청됐다. 일론 머스크 테슬라 최고경영자(CEO), 브래드 스미스 마이크로소프트(MS) 부회장, 챗GPT 개발사인 오픈AI의 샘 알트먼 CEO, 알파벳(구글 모회사)의 AI 조직인 딥마인드의 데미스 허사비스 CEO 등 AI 관련 대표 기업인들도 동참했다. 한국에선 삼성전자와 네이버만 포함됐다.

한편, 우리나라는 6개월 이후에 열릴 ‘제2회 AI 안전 정상회의’를 주최할 예정이다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

허재경 선임기자