세계이동통신사업자협회(GSMA)가 1일 서울 중구 웨스틴조선호텔서울에서 M360 APAC를 개최했다. [이가람 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

세계이동통신사업자협회(GSMA)가 M360 APAC를 개최하고 인공지능(AI)의 역할에 대해 심도 있는 논의를 나눴다. 다양한 산업군에서 AI의 역할을 강화하면서 통신업계에도 본격적인 변화의 바람이 부는 가운데, KT가 AI 개발·상용과 관련된 도전 과제를 제시했다.

2일 KT는 서울 중구 웨스틴조선호텔서울에서 열린 ‘M360 APAC’에서 AI의 오남용을 막기 위한 AI 리스크 감소 전략을 발표했다.

KT는 이 전략을 ‘ASTRI’ 원칙이라고 명명했다. 책임성(Accountability)과 지속가능성(Substantiality), 투명성(Transparency), 신뢰성(Reliability), 포용성(Inclusivity) 등 다섯 개 단어의 머리글자를 땄다.

KT는 AI센터를 설립하고 책임감 있는 AI 개발과 배포에 주력하고 있다. 또 AI 기술이 장기적으로 환경·사회 복지를 고려하는 지속가능성과 데이터에 공개적인 접근이 가능하도록 하는 투명성을 갖춰야 한다고 설명했다. 예상치 못한 상황에서도 AI 시스템이 설계에 맞춰 작동해야 하고, AI가 오류와 편향을 최소화하고 사회의 모든 구성원에게 이익을 줄 수 있는 방향으로 활용돼야 한다고 강조했다.

최근 AI의 발전이 가속화하면서 글로벌 안보와 공중의 안전이 위협받기 시작했다. 이미 가짜 정치 뉴스, 종교·젠더 갈등, 딥페이크 성범죄 등 다양한 위기 상황을 경험하게 됐다. 실제로 미국 대선을 목전에 두고 도널드 트럼프 후보와 카멀라 해리스 후보의 얼굴과 목소리를 도용해 AI로 허위 정보를 제작 후 유포한 사례가 나왔다.

유상임 과학기술정보통신부 장관도 “AI는 새로운 경제 성장의 계기”라면서도 “저출산과 고령화 등 우리 사회의 구조적 문제를 극복할 희망인 한편 가짜 뉴스와 성범죄물 등 새로운 부작용도 초래하고 있다”고 우려한 바 있다.

배순민 KT AI2X 센터장은 “AI 리스크는 크게 거버넌스 위험과 재앙적 위험으로 나뉜다”며 “거버넌스 위험은 AI를 개발할 때 고려해야 할 원칙이고 재앙적 위험은 AI의 능력으로 인해 벌어지는 사고”라고 전했다.

그러면서 “AI의 생애 주기에 맞는 도구와 방법론이 필요하다”며 “데이터 수집 및 처리 단계에서는 사회적 가치를 준수하는 규정을 적용하고, 모델은 투명하고 신뢰할 수 있도록 만들어져야 하고, 시스템은 프로젝트 시작부터 견고해야 하고, 출력은 사회적·조직적 위험을 최소화해야 하며, 배포 이후에는 꾸준한 사용 검토가 이뤄져야 한다”고 강조했다.

아울러 “세계인이 이용하는 이동통신인 만큼 통신사업자로서 해야 하는 역할을 받아들이고 있다”며 “ASTRI 원칙을 지키는 것은 국가정부, 사용자, 입안자, 그리고 AI 제작자 모두에게 유익할 것”이라고 주장했다.

한편 M360은 GSMA가 지난 2013년부터 해마다 개최하는 모바일 콘퍼런스다. 아시아·유럽·남미·아프리카 아태 지역의 모바일 산업 관련 의제를 선정해 세계 정보통신기술(ICT) 전문가들의 의견을 듣는다. KT는 GSMA의 의장사다.

김영섭 KT 대표는 1일 M360 APAC 개막식 기조연설을 통해 “KT가 통신을 넘어 AI 기반 금융·공공·모빌리티·헬스케어·교육 서비스를 제공하고 자체 맞춤형 AI 모델과 에이전트, 클라우드 시스템을 만들고 있다”며 “통신사들이 AI 기반 ICT 회사로 진화하며 혁신을 주도하기 위해서는 협업이 그 어느 때보다 중요하다”고 발언했다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]