[디지털데일리 이나연 기자] 오픈AI와 구글 같은 해외 주요 기업이 앞으로 국내에서 인공지능(AI) 사업을 하려면 국내 대리인을 지정해야 한다. 법 위반 시 부과되는 과태료는 최소 1년 이상 계도기간이 적용될 방침이다.

17일 과학기술정보통신부는 서울 중구 상연재 별관에서 출입기자 대상 'AI기본법 하위법령 제정방향' 스터디를 열고 이같은 내용을 공개했다.

◆시행령 34개 조항으로 구성…투명성·안전성 의무 구체화

과기정통부는 민간 전문가 80여명으로 구성된 하위 법령 정비단을 통해 시행령과 고시 2건, 가이드라인 5건을 마련했다. 최근 출범한 국가AI전략위원회에서 보고된 시행령 초안은 부칙 포함 총 34개 조항으로 구성됐다.

주요 내용으로는 '투명성 확보 의무'가 있다. 생성형 AI 또는 고영향 AI를 제공하는 사업자는 이용자에게 사전 고지 및 워터마크 표시 의무를 진다. 다만 일반인 눈에 보이지 않는 비가시적 워터마크도 허용하고, 내부 업무용 AI나 생성형 AI 기반 운영이 명백한 경우 투명성 의무를 면제한다.

'안전성 확보 의무'는 누적 학습량 10의 26승 플롭스(flops) 이상, 최첨단 기술 적용, 기본권에 광범위한 중대 영향을 끼치는 AI 시스템을 대상으로 한다. 해당 사업자는 위험 식별-평가-완화 프로세스를 구축하고 이행해야 한다. 현재 국내외 시장에 서비스되는 모델 중 이 기준에 해당하는 것은 아직 없지만, 조만간 출시될 것으로 예측된다는 게 정부 측 설명이다.

◆고영향 AI 사업자 책무 신설…해외 사업자 국내 대리인 지정 의무화도

'고영향 AI 사업자 책무' 규정도 주목된다. 에너지, 보건·의료, 교통, 교육 등 10개 특정 영역에서 사람의 생명·신체 안전 또는 기본권에 중대한 영향을 미칠 수 있는 AI에 대해서는 별도 의무가 부과된다.

해당 사업자는 위험 관리 방안, 이용자 보호 방안, 사람의 관리·감독 방안 등을 수립하고 이행해야 한다. 고영향 AI 해당 여부는 사업자가 일차적으로 판단하되, 과기정통부가 사전 검토하고 전문위원회 자문을 거쳐 최종 결정한다.

해외 AI 사업자에 대해서는 '국내 대리인 지정 의무'를 신설했다. 본사 기준 전년도 매출액 1조원 이상 또는 AI 서비스 매출액 100억원 이상인 해외 사업자는 국내 대리인을 반드시 지정해야 한다. 이는 정보통신망법, 개인정보보호법과 동일한 기준이다.

◆과태료 계도 기간 운영 최소 '1년' 전후 전망

정부는 시행 초기 혼란 최소화를 위해 과태료 계도 기간도 운영한다. AI 기본법 위반 시 사실조사와 시정명령은 시행하되, 일정 기간 과태료 부과는 유예하고 컨설팅과 안내를 통해 의무 이행을 지원한다는 방침이다.

김경만 과기정통부 인공지능기반정책관은 "배경훈 장관이 기자간담회에서 적어도 1년 이상 계도 기간을 두겠다고 밝힌 바 있다"며 "글로벌 규제 동향과 국내 AI 산업 현황을 종합적으로 고려해 구체적 기간을 결정할 예정"이라고 설명했다.

김경만 정책관은 "AI 기본법은 기본적으로 진흥법이며 규제는 전체 조항에서 5개에 불과하다"면서 "그럼에도 계속 말씀드리는 이유는 기업들에 벌을 주기 위한 취지가 아닌 통합적인 가이드라인을 함께 만들자는 의미"라고 말했다. 이어 "이번 AI기본법 하위법령의 경우 미세한 조정 또는 더 큰 개정도 열려있다"고 덧붙였다.

과기정통부는 이달 중 산업계, 학계, 시민단체 등 이해관계자 의견 수렴을 거쳐 다음 달 시행령 입법예고에 나선다. 이어 연말까지 시행령 제정을 마친다. 고시와 가이드라인도 연내 최종 완성본을 공개할 예정이다. 특히 AI 기본법 설명서의 3분의1 가량을 고영향 AI에 대한 업계 이해를 돕는데 할애하기로 했다.

AI 기본법은 내년 1월22일부터 공식 시행된다.

다음은 김경만 과기정통부 인공지능기반정책관, 심지섭 과기정통부 인공지능기반정책과 사무관, 백경희 인하대 교수, 선지원 한양대 교수, 신용우 법무법인 지평 변호사, 송도영 법무법인 비트 대표변호사, 황혜선 김앤장 법률사무소 변호사와의 일문일답.

Q. 해외 사업자의 국내 대리인 지정 기준은 어떻게 되나.

A. 국내 법인 또는 법무법인을 대리인으로 지정할 수 있으며 정보통신망법·개인정보보호법과 유사한 수준으로 적용된다. 오픈AI(챗GPT), 구글(제미나이) 등이 대상이 될 수 있다.

Q. 안정성 확보 의무와 고영향 AI 기준은 무엇인가.

A. 안전성 확보 의무는 보고서 제출 대상이며 고영향 AI는 문서 제출이 아니라 자체 보관 의무다. 10의 26승 플롭스(flops) 기준에 해당하는 모델은 아직 없으나 곧 출시가 예상된다.

Q. 비가시적 워터마크 표기는 어떻게 인정 되는가.

A. 일반 생성형 AI 결과물에는 비가시적 워터마크 허용이 가능하다. 다만 딥페이크 등 오용 우려가 있는 경우에는 연령·신체·사회적 특성을 고려해 눈에 보이도록 표시해야 한다.

Q. 사실조사 예외 기준은 무엇인가.

A. 이미 충분한 증거가 확보된 경우, 또는 반복적·부당한 민원(공무집행 방해 수준)의 경우 사실조사를 하지 않을 수 있다. 이는 행정조사기본법과 민원처리법을 근거로 한다.

Q. 해외 기업들이 조사에 불성실하게 대응할 우려는 없는가.

A. 유럽연합(EU)과 미국 제도를 참고해 최소한의 공통 규제를 반영했으므로 과도한 규제로 보기 어렵다.

Q. 고영향 AI 전문위원회 자문은 강제성이 있는가.

A. 구속력은 없지만 전문가 의견으로서 중요하게 고려된다.

Q. 업계가 희망한 규제 유예 대신 과태료 계도기간으로 가닥을 잡았는데.

A. 계도기간은 단순히 과태료를 부과하지 않는 것을 넘어서는 역할을 한다. 사실 조사를 통해 현장의 문제점을 파악하고, 향후 정책이나 관련 제도 개정에 필요한 자료를 확보하는 기능을 수행해서다. 대신 기업의 부담 경감을 위해 컨설팅이나 비용 지원, 인센티브 제공 등을 통해 자발적인 의무 이행 참여를 유도할 계획이다.

Q. 딥페이크 규율이 미흡하지 않은가.

A. 주된 이용자의 특성(아동, 노인, 장애인, 외국인 등)을 고려해 표시하도록 하고, 오남용 시 성폭력처벌법·표시광고법 등 개별 법률로 규율된다.

Q. AI 활용이 명백한 경우 투명성 면제는 어떤 사례인가.

A. 특정 AI 서비스 내 이용자 인터페이스(UI)에 '생성형 AI 활용'이 지속적으로 표시되어 이용자가 명확히 알 수 있는 경우 의무 면제 가능하다. 사업자를 쪼개더라도 최종 이용자에게 서비스를 제공하는 측은 투명성 의무를 부담한다.

Q. 스타트업 입장에서는 사실조사 의무가 과도하지 않은가.

A. 행정조사기본법에 따라 침해 최소화 원칙을 지키며 과도한 조사는 없을 것이다. 과태료는 일정 기간 유예하되 사실조사 자체는 제도 운영에 필요하다.

Q. AI 제품·서비스 제공 시 이용자·영향받는 자를 별도 법으로 규정할 계획이 있는가.

A. 딥페이크는 성폭력처벌법, 의료행위는 의료법 등 개별 영역법으로 이미 규율된다. AI 기본법은 사업자에 공통 의무를 부과하는 법이다.

Q. 검인증·영향평가 인센티브와 비용 지원은 어떻게 되나.

A. 검인증 비용 지원 사업을 운영 중이며, 정부 도입 시 우선 고려 인센티브를 부여한다. 영향평가는 전문기관 컨설팅을 제공하고, 대응 방안 공개 자체가 시장 신뢰라는 인센티브가 된다.

Q. 고성능 AI 안정성 확보 의무는 무엇인가.

A. 프론티어 모델 등 검증되지 않은 최첨단 기술, 무기 시스템 등 광범위한 위협을 가진 모델을 대상으로 위험 관리와 안정성 확보 의무를 부과한다. 일반 AI도 설명가능성·투명성을 확보해야 한다.

Q. 글로벌 기준인 '고위험 AI'와 한국 '고영향 AI'의 차이는 무엇인가.

A. EU는 영역별 규정을 두는 반면, 한국은 미국처럼 부정적 영향 완화를 중심으로 규정한다.

Q. 개발사업자와 이용사업자 구분은 어떻게 되는가.

A. 단순 응용 프로그램 인터페이스(API) 이용은 이용사업자, 목적이 달라질 정도의 지속적 파인튜닝·대규모 학습은 개발사업자에 해당한다. 다만 일률적으로 구분하기 어렵고 목적·규모에 따라 달라지며 중첩될 수도 있다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -