[디지털데일리 박세아 기자] 인공지능(이하 AI) 윤리·신뢰성 논의가 본격화하고 있다.

최근 챗GPT를 통해 AI 기술 효용성을 체감하는 사람들이 많아지면서, AI가 가져올 수 있는 윤리 문제에 대한 우려를 불식해야 한다는 데 정부와 산업계의 공감대가 형성됐다.

11일 서울 제네시스랩 본사에서 열린 'AI 윤리·신뢰성 강화를 위한 현장간담회'에서는 AI의 적절한 활용을 위한 윤리 규제 필요성에 대한 정부와 산업계의 의견이 모아졌다.

과학기술정보통신부(이하 과기정통부) 박윤규 제2차관은 "악의적인 의도를 가진 사람이 AI를 이용하는 활용하면 인류에 큰 피해를 미칠 수 있고, 이런 차원에서 글로벌 차원에서 AI를 윤리적으로 다뤄야 한다는 논의가 한창"이라며 "정부는 AI가 민간에서 활성화할 수 있도록 제도를 비롯해 기술분야까지 종합적으로 지원을 하고자 한다"라고 말했다.

정부는 2019년부터 OECD AI권고안을 마련하고 있다. 차례대로 ▲2020년 AI윤리 기준 ▲2021년 신뢰할 수 있는 AI 실현전략 ▲2022년 AI 윤리 자율점검표 및 개발안내서 ▲2022년 AI 윤리정책 포럼 등을 준비하고 있다.

과기정통부 최동원 과장은 "챗GPT가 AI를 일상화하고 있지만, 반대급부로 어떤 발전된 기술이 나올지 모른다는 두려움이 있다"라며 "AI기술 악용에 대한 대비책이 필요한 상황"이라고 말했다.

정보통신정책연구원(KISDI) 문정욱 센터장 역시 같은 의견이지만, 경직된 법규범 보다는 보다 포용적인 규제가 필요하다는 의견이다.

문 센터장은 "AI 영향력은 사회 여러 분야에 걸쳐 더욱 커지고 있으며 그 양상 또한 불확실성이 크고 복잡하다"라며 "기술 혜택과 위험을 고려한 균형잡힌 AI 윤리정책을 마련해야 한다"라고 강조했다.

다만, "경직된 법규범으로는 급격한 기술·사회 환경 변화 대응에 한계가 있기 때문에 AI에 대한 과도한 규제는 산업발전 저해와 국제 경쟁력을 약화할 수 있다"라며 "AI 개발과 활용을 장료할 수 있도록 자율규제로서 AI윤리와 신뢰성을 강화해야 한다"라고 조언했다.

◆AI 개발? '네이버·LG'…"윤리 준칙 적용이 기본"

이날 국내 AI 기술 업체들은 자사 윤리 준칙 적용 현황에 대해 공유하고 나섰다.

네이버 송대섭 이사는 "네이버는 2021년에 AI윤리준칙을 공개한 바 있다"라며 "윤리준칙이 실제 프로젝트 진행 및 서비스 개발에 적용할 때 도움될 수 있는 방안이 필요하다는 요청에 따라 만들었다"라고 설명했다.

서울대 AI정책 이니셔티브(SAPI)와 함께 만든 네이버 AI윤리 준칙은 ▲사람을 위한 AI개발 ▲다양성 존중 ▲합리적인 설명과 편리성 조화 ▲안전을 고려한 서비스 설계 ▲프라이버시 보호와 정보 보안 등 5개 조항으로 구성됐다.

이 과정에서 네이버는 AI윤리 자문 프로세스를 구체화했다. 기존 서비스 출시 전 확인 절차를 별도 프로세스로 분리했다. 이에 따라 AI윤리 자문 프로세스가 운영되면서 필요 시 외부 전문가 자문도 가능하게 만들었다.

LG AI 연구원도 2022년 8월 AI윤리원칙을 만들었다. 이 연구원 김유출 부문장은 "거버넌스 구축과 기술·정책 연구, 구성원 참여 등 3가지 요소가 윤리원칙 구성의 필수요소"라며 "거버넌스는 AI윤리 워킹그룹과 윤리점검 태스크포스(이하 TF) 등을 통해 달성할 수 있다"라고 강조했다.

워킹그룹은 LG그룹 차원에서 AI윤리원칙을 전파하고, 계열사 간 AI윤리 이슈를 논의하고 협력하는 협의체다. 윤리점검 TF는 3단계 과정을 통해 작동한다. AI윤리 담당자 및 과제 기술 담당자와 논의, 설문, 해결방안 논의, 팩트시트작성 등을 거친다.

LG의 AI윤리 연구는 안정성, 설명가능성, 신뢰성 확보를 위해 3가지 방향으로 진행되고 있다. 먼저 모델이 사전에 학습한 민감정보를 선별적으로 삭제, 다양한 방식으로 AI 결과 파악, 명확 사실 데이터를 기반으로 하는 전문가 AI연구 등이다.

AI를 적용한 채용 솔루션인 '뷰인터 HR'을 가지고 있는 스타트업 제네시스랩도 자사 'AI개발안내서 적용현황'을 소개했다.

뷰인터 HR은 채용과정에서 지원자들 행동, 지식, 기술 및 태도를 빠짐없이 검증할 수 있도록 채용에 AI를 더한 솔루션을 제공하고 있다.

그는 "채용 공정성을 해결할 수 있는 신뢰할 수 있는 AI개발 검증과 인증이 절실하다"라며 "회사는 한국정보통신기술협회(TTA) 신뢰할 수 있는 AI개발 안내서를 AI개발 과정에 도입했다"라고 언급했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -