손가락 5개를 들어보이는 네타냐후 이스라엘 총리. /텔레그램

<이미지를 클릭하시면 크게 보실 수 있습니다>

인공지능(AI) 업계엔 비공식 민간 성능 평가 방법이라 불리는 것이 있다. 바로 ‘육손벤치’다. AI가 사람 손가락 5개를 정확히 그리는지, 사진 속 사람 손가락 개수를 5개라고 정확하게 맞히는지 따져보는 것이다. 성능이 낮은 AI는 사람 이미지나 영상을 생성할 때 손가락을 5개가 아닌 6개로 그리는 경우가 잦다. 이 때문에 성능을 평가하는 지표인 ‘벤치마크’의 줄임말을 써서 ‘육손벤치’라는 것이 나왔다.

최근 국제 정치에 ‘육손벤치’가 등장했다. 15일(현지 시각) 베냐민 네타냐후 이스라엘 총리는 자신의 사망설을 반박하며 소셜미디어에 다섯 손가락을 펴고 손가락 개수를 세는 영상을 올렸다. 지난 13일 공개된 네타냐후 영상 연설에 오른손 손가락이 6개로 보이는 장면이 포함되면서, 네타냐후가 이미 사망했고 해당 영상은 AI가 만든 것이라는 소문이 퍼졌기 때문이다. 실제론 영상에서 손이 움직이며 일시적으로 손가락이 6개로 비친 것이었다. 테크 업계에선 이 상황을 AI의 고질병 중 하나인 ‘손가락을 6개로 그리는 것’이 정치 논란을 촉발한 ‘AI 딥페이크 오인 사건’으로 해석한다.

AI에게 손가락 개수를 테스트하는 '육손벤치' 모습. /X

<이미지를 클릭하시면 크게 보실 수 있습니다>

AI가 손가락을 5개로 제대로 표현하지 못하는 이유 중 하나는 AI의 학습 방법에 있다. AI는 수억 장의 사진과 영상을 통해 사람의 외형을 학습하는데, 이 사진에 나오는 손은 각양각색이다. 사진 속 모든 사람이 얼굴에 눈 2개, 코 1개, 입 1개를 가진 것은 동일하지만 손의 모습은 주먹 쥔 상태, 브이(V) 한 상태, 악수하는 상태 등 다양하다. 이 때문에 AI가 사람 손가락의 개수가 몇 개인지 규칙을 깨닫기 어렵다는 설명이다. AI는 뼈나 관절의 움직임에 대한 이해가 없다는 점도 육손벤치 현상이 벌어지는 이유다. 사람은 손가락이 5개이고, 손가락 관절이 3개씩이라는 구조를 알지만 AI는 이에 대한 이해가 없다.

AI는 사람 손가락을 4개도 아닌 6개로 잘못 표현하는 경우가 많다. 이는 AI가 다양한 손 사진의 패턴을 합성하는 과정에서 전체적인 뼈대보다 부분 패턴을 구현하는 데 집착하다가 공간이 남거나 각도가 애매하면 빈 공간을 채우려고 손가락을 하나 더 그리는 과잉 생성을 하는 것이다.

최근엔 AI 성능이 크게 개선되며 이러한 육손벤치가 예전만큼 작동하진 않는다. 손의 구조나 3D 뼈대를 강제로 인식시키는 기술을 도입하면서 육손벤치 문제를 극복한 AI가 많다. 미드저니 같은 이미지 생성 AI 테스트 결과, 예전엔 30~40% 정도만 손가락을 제대로 표현했지만 이제는 손가락 재현을 80~90%까지 해내는 것으로 나타났다. 하지만 AI가 여전히 손가락을 6개로 그리는 경우도 심심치 않게 발생한다. 테크 업계 관계자는 “육손벤치가 예전엔 AI가 만든 가짜 사진임을 알아채는 기준이었지만 이제는 대중이 AI에 너무 익숙해진 나머지 진짜 영상마저 AI로 오해하는 역설적 상황이 발생했다”며 “앞으로 중요 이슈에서 AI가 만든 영상과 실제 상황을 구별하는 것이 무엇보다 중요해질 것”이라고 했다.

[김성민 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -