[이데일리 김윤지 기자] 일본 정부가 AI 에이전트와 피지컬 AI에 대해 “인간의 판단을 필수로 하는 구조를 마련해야 한다”는 지침 마련을 추진한다고 15일 일본 니혼게이자이신문(닛케이)가 보도했다.

지난달 미국 라스베이거스에서 열린 ‘CES 2026’에서 휴머노이드 로봇 아틀라스가 관객들에게 인사하고 있다(사진=뉴스1).

<이미지를 클릭하시면 크게 보실 수 있습니다>

닛케이에 따르면 이는 총무성과 경제산업성이 2024년 제정한 ‘AI 사업자 가이드라인’을 개정하는 것으로, 일본 정부는 3월 말 공개할 예정이다. AI 에이전트와 피지컬 AI와 관련해 이들의 정의, 편익, 위험, 대응책 등을 새롭게 포함할 예정이다.

이번 개정의 핵심은 오작동이나 프라이버시 침해 위험 등을 고려해 개발 기업 등에 대해 “인간의 판단을 반드시 거치도록 하는 구조”를 구축하도록 요구하는 것이다. 위험을 억제하면서 활용을 촉진해 AI 경쟁력을 끌어올린다는 구상이다.

AI 에이전트는 “목표를 달성하기 위해 환경을 감지하고 자율적으로 행동하는 AI 시스템”으로, 피지컬 AI는 “목적 달성을 위한 최적의 방안을 자율적으로 추론·판단해 물리적 행동으로 연결하는 시스템”으로 정의될 예정이다. 편익으로는 업무 효율화, 노동력 부족 보완, 안전성 향상, 돌봄 및 생활 지원 등을 제시할 계획이다.

자율 행동에 따른 오작동, 사이버 공격에의 악용, 카메라 촬영에 따른 프라이버시 침해 가능성 등을 위험 요소로 추가할 예정이다. 대응책으로는 인간의 판단을 필수로 하는 구조의 구축을 명기하고, 보안을 유지하기 위해 권한을 최소한으로 제한하는 설정, 하드웨어에 남아 있는 데이터 처리에 대한 배려 등도 요구할 계획이다.

총무성의 2025년 조사에 따르면 해당 지침에 대해 알고 있다는 답변은 81%에 달했으나 실제 활용 비율은 46%에 그쳤다. 지방자치단체나 소규모 사업자까지 확산시키기 위해 내용에 관한 질문에 자동 응답하는 챗봇 등 전용 도구 개발도 검토한다는 방침이다.

일본은 이른바 ‘AI 추진법(AI신법)’으로 불리는 관련 기술 연구개발·활용 촉진법을 2025년 6월 시행해 악질적 사례에 대해서는 국가가 조사할 수 있도록 했다. 이와 별도로 유연하게 변경 가능한 정부 지침을 통해 안전성 등의 기본적 사고방식을 제시하고, 이에 부합하는 규칙 마련을 사업자에게 요구하고 있다.

유럽연합(EU)은 안전을 우선시해 서비스 제공자 등에게 위험 수준에 따라 의무를 부과하는 AI 규제법을 단계적으로 시행 중이다. 도널드 트럼프 미국 행정부는 ‘AI 액션 플랜’을 발표하고 기술 혁신을 우선하며 규제 완화를 추진하고 있다. 중국은 국가 주도로 AI가 생성하는 콘텐츠를 통제하고 있다.