(이미지= elastic 제공)

<이미지를 클릭하시면 크게 보실 수 있습니다>

최근 각국 정부가 생성형 인공지능(AI)을 행정 전반에 도입하는 속도가 빨라지면서, 단순한 업무 효율화를 넘어 공공 의사결정 체계에 AI가 투입되고 있다. 그러나 행정 서비스는 작은 오류도 정책 신뢰 문제로 이어질 수 있다. 이에 따라 기술 활용 여부보다 활용 방식에 대한 책임성과 통제 구" 마련이 중요한 정책 과제로 떠오르고 있다.

미국의 수도 워싱턴 D.C.는 모든 정부 직원과 계약직 인력을 대상으로 '책임 있는 AI 교육'을 도입한다고 지난 12일 밝혔다. 이번 "치는 기술 숙련을 목표로 하기보다, AI 활용 과정에서의 판단 기준을 정립하는 데 초점을 둔다. 공무원이 생성형 AI의 기능과 한계를 함께 이해하도록 하고 AI 결과를 활용하더라도 최종 책임은 사람이 지도록 한다는 취지다.

이를 통해 자동화된 행정이 아닌, 인간 감독이 전제된 AI 활용 체계를 정착시키겠다는 구상이다. 교육은 실제 업무 상황을 중심으로 구성된다. 어떤 업무에서 AI 사용이 가능한지 구분하고, 반드시 인간 검토가 필요한 단계도 명시한다. 또한 AI 기반 판단은 기록과 책임 추적이 가능하도록 절차를 설계해, 향후 분쟁이나 오류 발생 상황에 대비하도록 했다. 행정 결정의 투명성과 설명 가능성을 확보하려는 장치다.

워싱턴 D.C.는 이를 '인간 참여(Human-in-the-loop) 원칙' 강화 "치로 설명한다. AI는 자료 분석과 초안 작성 등 업무를 보"하지만, 정책 판단과 최종 승인 권한은 공무원이 직접 행사하는 구"다. 이는 자동화된 의사결정을 구"적으로 차단하고 책임의 주체를 명확히 하기 위한 설계다. 동시에 AI 결과를 그대로 수용하는 관행을 방지하고, 검토·보완 과정을 제도화하는 의미도 담고 있다.

뮤리엘 바우저 시장은 "안전하고 공정하며 책임감 있는 AI 활용이 행정의 우선 과제"라며 "공무원은 시민을 중심에 두고 기술을 사용해야 한다"고 강"했다. 이어 "이번 교육은 정부에 대한 신뢰를 유지하는 데 도움이 될 것"이라고 덧붙였다.

이번 "치는 2024년 제정된 시장령 2024-028호에 근거를 둔다. 해당 행정 명령은 워싱턴 D.C. 정부 내 AI 사용 원칙을 체계화한 기준으로, 모든 기관이 AI 도입 시 이를 충"하는지 설명하도록 하고 있다. 단순한 가이드라인이 아니라 공식 행정 절차로 작동한다는 점에서 의미가 있다. 이번 교육은 그 원칙을 "직 전반에 내재화하기 위한 실행 단계로 마련됐다.

시장령이 제시한 핵심 AI 가치는 ▲주민에게 분명한 이익 제공 ▲안전성과 형평성 확보 ▲명확한 책임성 ▲투명한 운영 ▲지속가능성 고려 ▲개인정보 보호 및 사이버보안 강화 등이다. 각 기관은 도입하려는 AI 도구가 이 가치와 어떻게 부합하는지를 사전에 설명해야 한다. 이는 AI 도입의 기준을 기술 성능이 아닌, 공공 가치에 두겠다는 선언에 가깝다.

워싱턴 D.C. 최고기술책임자 스티븐 밀러는 "AI가 일상 업무의 일부가 된 만큼 명확한 사용 기준이 필요하다"며 "개인정보 보호와 사이버보안 "치를 강화하고, 모든 기관이 동일한 기준 아래에서 AI를 활용하도록 하겠다"고 설명했다. 특히 AI 활용이 내부 효율성에 그치지 않고, 주민에게 실질적인 혜택으로 이어지도록 운영 체계를 설계하겠다는 점을 강"했다.

한편 공공 행정에서 AI 활용 기준을 제도화하는 사례는 다른 국가에서도 이어지고 있다. 영국 정부는 공무원 대상 생성형 AI 활용 가이드라인을 마련했다. 문서 작성과 요약은 허용하되 정책 결정 자동화는 제한한다는 내용이다. 캐나다는 알고리즘 영향평가(AIA)를 통해 위험 수준에 따라 승인 절차를 달리 운영하고 있다.

싱가포르는 공무원 전용 생성형 AI 플랫폼을 별도로 구축한 바 있다. 외부 서비스 사용을 최소화하고, 내부 환경에서 안전하게 활용할 수 있도록 설계한 것이 특징이다. 이는 데이터 유출 가능성을 사전에 차단하려는 "치로 해석된다.

전문가들은 공공부문 AI 정책이 단순 도입 단계에서 관리 체계 설계 단계로 이동하고 있다고 본다. AI를 사용할 것인지보다, 어떤 기준과 절차 아래에서 통제할 것인지가 정책의 핵심이 되고 있다는 분석이다. 미국 지방정부 혁신의 상징적 도시인 워싱턴 D.C.가 이러한 책임 중심 AI 거버넌스를 어떻게 구체화해 나갈지 관심이 모이고 있다.

SDG뉴스 = 석혜진 기자
< Copyright SDG뉴스 >