엔씨소프트 AI윤리./제공=엔씨소프트

<이미지를 클릭하시면 크게 보실 수 있습니다>

아시아투데이 정문경 기자 = 최근 그림, 글쓰기, 음악 작곡 등 창작의 영역까지 진화한 인공지능(AI)이 화제다. 이와 동반해 화두가 되고 있는 지점은 AI 윤리다. AI 기술의 발전으로 대두되는 사회적, 윤리적 문제 등 사회적 요구에 발 맞춰 올바른 AI 윤리 정립을 위해 엔씨소프트의 전개 활동이 눈에 띈다. AI 윤리를 위한 기술 뿐 아니라 도서 출간으로 AI 윤리 인식 확산에 기여하고, AI 윤리 가이드라인을 수립해 개발자들 역시 윤리적 책임을 인식하고 연구 단계부터 적용하고 있다.

◇ AI 윤리 기술 적용 사례 공개…비윤리·혐오 발화 인식 기술 등

11월 공시한 분기보고서에 따르면 엔씨(NC)는 다양한 AI 윤리 기술을 게임과 AI 기술 개발에 적용하고 있다. 리니지W, 리니지2M 등 주요 게임의 채팅에 '스팸 필터링 기술'을 적용해 13개 언어로 다양한 패턴의 광고 등을 식별해 차단하고 있다.

여러 국가의 이용자들이 한 곳에서 플레이하는 게임의 특성상 국가간 비하 표현을 방지하는 기술도 반영하고 있다. 채팅 시 AI 번역 엔진에서 국가 간의 분쟁 요소가 될 수 있는 표현을 식별하고, 중립적인 표현으로 번역될 수 있도록 제어하는 기술이다.

또 AI가 욕설, 편견, 비하 등의 비윤리적인 표현을 학습하지 못하게 하거나 생성할 수 없도록 제어하는 기술을 비롯해 개인정보 비식별화, 국가간 비하 표현 방지, 비윤리·혐오 발화 인식 기술 등을 AI 연구개발에 적용하고 있다.

AI 윤리 인식 논하는 대담 시리즈 도서 '가장 인간적인 미래'./제공=엔씨소프트

<이미지를 클릭하시면 크게 보실 수 있습니다>

◇ AI 윤리 인식 논하는 대담 시리즈 도서 '가장 인간적인 미래'

윤송이 CSO(최고전략책임자)는 세계적 석학과 나눈 대담 시리즈 'AI 프레임워크(AI Framework)' 콘텐츠를 엮어낸 도서 '가장 인간적인 미래'를 출간하면서 AI 윤리 인식 확산에 기여하고 있다.

도서는 엔씨(NC)가 공식 블로그와 유튜브를 통해 공개한 AI 프레임워크 시리즈를 엮어냈다. 시리즈는 엔씨가 ESG 경영 핵심 가치 중 하나인 '디지털 책임 - AI 윤리'를 위해 진행한 연중 기획 프로젝트다. 2021년 4월부터 1년간 공식 유튜브와 블로그를 통해 발행된 AI 대담 콘텐츠로, 170만회가 넘는 누적 조회 수를 기록했다. 하버드대학교, 스탠포드대학교, 매사추세츠공과대학(MIT) 등의 세계적 석학 5인이 참여했다.

엔씨는 외부와의 공동연구, 연구 후원 등의 활동에 참여하고 있다. NC문화재단을 통해 2020년부터 MIT와 스탠포드대학교 등 AI 윤리 커리큘럼 개발을 후원하고 있다.

◇ 'NC AI 윤리 프레임워크' 수립…기술 경영 이끌어

엔씨는 ESG 리포트를 통해 AI 윤리 원칙이자 가이드라인인 'NC AI 윤리 프레임워크(NC AI Ethics Framework)'를 공개하기도 했다. AI 기술이 '인간 중심의 AI'로 지속 성장할 수 있도록 'Data Privacy(데이터 보호)', 'Unbiased(편향되지 않는)', 'Transparency(투명성)' 등을 세 가지 핵심가치로 선정해 AI 개발과 운영 전반에 반영하고 있다.

엔씨는 데이터를 활용하는 과정에서 사용자의 프라이버시나 개인정보를 원천적으로 보호한다. AI 학습에 필요한 데이터들은 남기고 개인정보는 비식별화 하는 정책과 처리 시스템을 구축해 적용하는 것이 핵심이다.

또 편향되지 않은 AI를 개발함으로써 AI에 기반한 서비스가 특정인에게 불리하게 작용하거나 소외시키지 않도록 하고 있다. '비윤리적 표현 데이터 사전'을 구축해 필터링하고, 무례한 발화를 제어하는 시스템을 적용 및 테스트하면서 여러 번 검증하는 체계를 갖추고 있다.

AI 기술의 투명성 공개에도 힘쓰고 있다. AI가 '이해할 수 없는 불안한 존재'라는 인식을 줄이고 AI의 의사 결정 과정과 결과에 대한 설명할 수 있어야 한다는 취지로 엔씨는 2021년에 10개 이상의 AI 연구 논문과 오픈소스 코드를 공개하기도 했다.

엔씨 관계자는 "AI 기술개발 과정에서 사용자의 데이터를 보호하고, 사회적으로 편향되지 않도록 주의하며 해석 가능한 AI를 지향한다"며 "AI 기술이 편향되거나 악용되지 않도록 윤리적 책임을 연구개발 단계부터 실천하고 있다"이라고 말했다.

ⓒ "젊은 파워, 모바일 넘버원 아시아투데이"