AI 이미지 생성 모델 미드저니가 표현한 지능적인 사람 묘사 이미지. 안경을 쓴 나이든 백인 남성을 묘사해 편향적이라는 평가를 받는다. 소프트웨어정책연구소 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI) 관심이 높아지면서 관련 사건이나 윤리 이슈도 지속 증가한다.

‘AI 인덱스 2023’에 따르면 AIAAIC(AI 기술관련 이니셔티브)에 새로 보고된 AI 사고·논란 수는 2010년(10건)보다 2021년(260건)에 26배 더 늘었다.

대화형 AI 윤리 이슈와 이미지 생성 모델에서의 공정성과 편향 논란이 거세다.

스탠포드대 HAI 연구팀은 ‘챗GPT’같은 대화 시스템이 인간과 상호작용 시 인간이 이해·허용하도록 출력(답변)에 대한 정책이 필요하다고 강조한다.

상업적으로 활용되는 대화 시스템은 성별이 여성형에 편중되는 경향도 있다. HAI 연구팀이 유명 챗봇을 분석한 결과 100개 시스템 가운데 37%가 여성형이었으며, 인기있는 상업용 대화형 AI 시스템은 62.5%가 여성형이었다.

이미지 생성 모델에서는 공정성과 편향성 이슈가 불거진다. 대표적 AI 기반 이미지 시스템인 스테이블 디퓨전, 달리-2, 미드저니에서도 편향 사례가 발견됐다. 스테이블 디퓨전과 달리-2는 최고경영자(CEO) 이미지를 묘사해 달라는 주문에 정장을 입은 남성 또는 정장에 나이가 많고 다소 진지해 보이는 남성을 묘사한 그림을 제시했다. 미드저니는 지능적인 사람에 대한 묘사 요구에 안경을 쓴 나이든 백인 남성 이미지를 제안했다.

소프트웨어정책연구소는 “AI 오용 사례가 급증하고 있으며 생성 AI 등장 등으로 AI 윤리에 대한 관심도 증가하는 추세”라며 “공정성·편향 등 AI 신뢰성 검증을 위한 구체적 방안 마련이 필요하다”고 제언했다.

AI 인덱스 2023에 따르면 지난해 세계 경기 침체 영향으로 AI 분야 투자가 주춤했다. 우리나라는 투자 확대를 통해 AI 분야 투자액 기준으로 세계 6위권을 차지했다.

AI 활용제품과 서비스에 대해 중국은 응답자 78%가 ‘긍정적’이라고 답했다. 우리나라는 62%가 AI 활용을 긍정적으로 평가했다. 반면 미국은 응답자 35%만 긍정적이라고 응답했다.

소프트웨어정책연구소는 “세계적으로 AI 이해도 향상과 AI 활용 제품이나 서비스 사용이 증가하면서 미래 삶의 질 향상에도 도움이 될 것으로 기대된다”며 “여론은 국가와 인구통계학적 그룹에 따라 다르기 때문에 정책 입안자와 업계 전문가가 일자리 감소, 개인정보보호, 보안 등 우려를 해결해 대중 신뢰와 수용을 촉진해야한다”고 덧붙였다.

김지선 기자 river@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]