오픈AI의 최고경영자(CEO) 해고 사태를 계기로 미국을 중심으로 ‘인공지능(AI) 윤리전쟁’이 시작됐다. AI 윤리전쟁은 AI의 급속한 개발이 인류에 해가 될 수 있다는 우려와 전향적인 기술 개발과 적절한 수익으로 기술 발전에 속도를 내야 한다는 산업 육성이 대립하는 상황을 말한다.

AI 윤리전쟁은 미국과 유럽 등 주요 국가를 중심으로 활발하게 진행 중이지만, 국내에서는 AI 산업 육성과 안전성 확보를 위한 법률이 국회 문턱을 넘지 못하면서 제대로 된 논의가 이뤄지지 않고 있다. 과학기술정보통신부가 지난달 ‘AI 윤리·신뢰성 확보 추진 계획’을 밝혔지만 제대로 된 법·제도 없이는 AI 윤리전쟁에서 주도권을 잡기가 어렵다는 목소리가 나오고 있다.

22일 국회 의안정보시스템에 따르면 AI의 개념을 규정하고 AI 산업 육성과 안전성 확보의 방향을 제시하는 내용을 담은 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률)이 지난 2월 과학기술정보방송통신위원회(과방위) 법안소위를 통과한 후 9개월째 표류 중이다. AI 기본법은 국회 과방위에 발의된 AI 관련 7개 법률안을 통합한 것으로 윤영찬 더불어민주당 의원이 발의한 내용( 알고리즘 및 인공지능에 관한 법률안)이 상당 부분 포함됐다.

◇ 산업 진흥·자율 규제 조화롭게 다뤄져야

AI 기본법은 AI 산업 진흥과 자율 규제의 조화를 원칙으로 하는 내용을 담고 있다. 미국처럼 자유로운 산업 육성을 지원하거나 유럽연합(EU)과 같이 고위험 영역을 금지하는 일방적인 내용이 아니다. 산업 진흥과 규제의 조화점을 찾는 동시에 AI 기술을 사용할 수 있는 사회적 기반을 조성해 경제 발전과 국민 삶의 질 향상을 목적으로 한다. 박윤규 과기정통부 2차관은 “AI 기술 특성상 오류나 차별, 환각 등 위험성이 존재하고 그 위험성에 대한 규제 조치나 안전장치가 담긴 게 AI 기본법”이라고 했다.

AI 기본법에 대해서는 여당과 야당 사이에 이견이 없다. 챗GPT 등 초거대 AI 서비스 관련 내용을 추가해야 한다는 일부 의견도 있지만, 법안 제정이 먼저라는 주장이 우세하다. 본회의에 상정될 경우 빠르게 통과될 수 있다. 그럼에도 AI 기본법이 국회 문턱을 넘지 못하고 있는 건 방송법 등을 둘러싼 여야 갈등이 계속되고 있기 때문이다.

AI 기술은 발전 속도만큼이나 국가 간 제도 경쟁력이 중요하다는 게 전문가들의 주장이다. 제도적인 틀(프레임)을 만들고, 이후 기술 발전에 따른 진흥과 규제를 조화롭게 담아야 기술 경쟁에서 앞설 수 있다는 의미다. 황종성 한국지능정보사회진흥원(NIA) 원장은 최근 열린 입법정책포럼에서 “AI 기본법은 AI 관련 아젠다를 구분하고 관련 조직과 권한을 정립하는 등 프레임워크를 만드는 역할”이라고 강조한 것도 이런 맥락이다. 구체적인 AI 관련 규제나 처벌은 후속 입법을 통해 다루고, 일단은 AI 산업 관련 뼈대를 만들어야 AI 기술 경쟁과 윤리전쟁에서 뒤처지지 않는다는 것이다.

AI 기술이 빠른 속도로 발전하면서 각국 정부와 빅테크 기업들은 AI 기술에 대한 규제의 필요성에 공감하고 있다. 챗GPT 관련 사업에 박차를 가하다 오픈AI 이사회로부터 해고된 올트먼 전 CEO 조차도 “AI가 삶의 모든 측면을 개선할 것이란 믿음을 갖고 있지만 동시에 심각한 위험도 존재하는 만큼 정부의 규제와 개입이 중요하다”라고 강조했다.

◇ 韓 규제 논의 더 활발… 법·제도 기반 마련해야

반면 한국은 저작권, 환각 등 AI 기술에 대한 부작용이 부각되면서 산업 진흥보다 규제에 대한 논의가 먼저 일어나고 있는 상황이다. AI 기본법을 둘러싼 비판 중 하나가 ‘누구든지 AI 관련 제품이나 서비스를 출시(우선 허용)할 수 있고, 국민의 생명·안전·권익에 위해되는 것으로 판단(사후 규제)될 경우가 아니면 AI 기술 개발을 제한하면 안 된다’는 내용을 삭제해야 한다는 것이다.

국가인권위원회(인권위)도 해당 원칙에 문제를 제기한 바 있다. “AI가 무분별하게 개발돼 활용될 경우 기본권 침해를 포함한 예상치 못한 위험이 나타날 수 있다”는 것이 공식 입장이다. 같은 이유로 민주사회를위한변호사모임 디지털전보위원회 등 일부 시민단체도 “위해가 있을 수 있는 AI를 시장에 우선적으로 출시할 수 있도록 하는 조항을 제외해야 한다”라고 성명을 냈다.

국회와 정부는 우선 허용·사후 규제를 삭제하는 등 입법을 위한 다양한 방법을 모색 중이다. 과기정통부 관계자는 “AI 기본법을 통해 AI 산업에 대한 윤리적 환경 조성을 시작해야 국가 차원에서 일관된 정책 방향을 수립할 수 있다”라며 “이런 모든 노력을 위해서는 법적인 제도 기반이 마련돼야 한다”라고 했다.

윤진우 기자(jiinwoo@chosunbiz.com)

<저작권자 ⓒ ChosunBiz.com, 무단전재 및 재배포 금지>