'서울 AI 업무 매뉴얼' 사용 예시. 사전 학습된 지침과 매뉴얼을 참고해 답변을 제공하며, 신뢰성을 위해 답변 출처도 알려준다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

서울시 공무원은 업무 지침이 궁금할 때 매뉴얼을 일일이 뒤져볼 필요 없이, 인공지능(AI) 챗봇에 질문하면 된다.

서울디지털재단은 서울시 공무원들이 복잡한 지침과 매뉴얼을 손쉽게 확인하고 업무에 적용할 수 있도록 돕는 '서울 AI 업무 매뉴얼' 서비스를 개발했다.

'서울 AI 업무 매뉴얼'은 서울디지털재단과 공군 지능정보체계관리단이 협력해 개발한 AI 챗봇이다. 서울시 각종 업무 지침과 매뉴얼을 학습해 관련 질문에 답할 수 있다.

이 챗봇은 '서울시 정보화사업 관리지침', '서울시중대산업재해 예방업무 매뉴얼', '지방계약 실무 매뉴얼' 총 3개 지침과 매뉴얼을 학습했다. 향후 3년간 총 20종 매뉴얼로 확대할 예정이다.

재단은 AI 사용에 있어 공공분야에서 예민한 보안 문제를 적극 해소했다.

정보가 유출될 우려가 있는 외부 클라우드 방식이 아닌 오픈소스 기반 자체 미세조정(파인튜닝) 모델을 적용, 내부망 구축이 가능한 AI 모델을 개발했다. 이를 통해 민감정보 등 외부 공개가 어려운 업무 매뉴얼도 정보 유출 없이 시 내부에 적용할 수 있다.

환각에 대한 우려도 최소화했다.

사전 학습 데이터 외에 외부 소스에서 가져온 정보로 생성 AI 모델의 정확성과 신뢰성을 향상시키는 '검색증강생성(RAG)' 기술, AI 챗봇이 내놓은 결과물에 대한 출처를 제시하는 '색안' 기술을 적용했다.

서울 AI 업무 매뉴얼은 6월 말부터 서울시 일부 공무원을 대상으로 시범 운영된다. 재단은 공무원 피드백을 반영해 사용성 개선 후 시 전체 실·국에 배포할 예정이다.

또 서울시와 협의를 통해 업무 지침, 매뉴얼 등 행정혁신 서비스 외에도 사회안전, 약자돌봄, 의료 교육 등 다양한 분야로 생성형 AI 서비스 확대 적용할 계획이다.

현대인 기자 modernman@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]