일리야 슈츠케버(맨 왼쪽)과 ‘딥러닝의 아버지’로 불리는 제프리 힌턴 교수 (맨 오른쪽)

<이미지를 클릭하시면 크게 보실 수 있습니다>

오픈AI는 일반인공지능(AGI)을 사전에 통제하고자 출범한 슈퍼얼라인먼트(Super Alignment)팀을 전격 해체했다.

18일 와이어드에 따르면, 일리야 수츠케버(Ilya Sutskever) 오픈AI 최고과학책임자가 회사를 떠난 직후 해당 팀은 다른 팀과 통폐합됐다. 오픈AI는 작년 7월 ‘초지능 AI’의 위험에 대비하고자 새로운 연구팀을 결성한다고 발표했다. 샘 올트먼 오픈AI CEO에 따르면, 일반인공지능은 스스로 판단하고 스스로 수익 창출을 하는 미래 AI를 가리킨다.

당시 오픈AI는 수츠케버 오픈AI 최고과학책임자를 리더로 임명했으며, 해당 팀은 오픈AI 컴퓨팅 자원의 20%를 할당받았다.

슈퍼얼라인먼트는 초지능 인공지능(AI)이 인간이 원하는 대로 행동하게 만드는 기술이다. 일반인공지능이 나타나더라도 사람들에게 해를 끼치지 않고, 유익하게 사용되도록 조절하는 방법을 연구하는 것이 목표다.

수츠케버는 2015년 샘 올트먼(Sam Altman)과 함께 오픈AI를 설립했으며 챗GPT 개발 방향을 설정한 주요 인물 중 하나다. 또 그는 지난해 11월 올트먼 CEO를 해임한 4명의 이사회 멤버 중 한 명이기도 했다. 하지만 오픈AI 직원들의 대규모 반발로 올트먼이 CEO로 복귀했고, 수츠케버와 두 명의 이사회 이사는 자리에서 물러났다.

올 들어 수츠케버는 수세에 몰린 것으로 보인다. 수츠케버의 퇴사 발표 몇 시간 후, 슈퍼얼라인먼트 팀의 또 다른 공동 리더인 딥마인드 출신 얀 리이크(Jan Leike) 역시 사임을 발표했다. 리이크는 자원의 부족과 회사의 우선순위에 대한 의견 차이로 인해 퇴사를 결심했다고 밝혔다. 그는 “지난 몇 달 동안 우리 팀은 컴퓨팅 자원을 확보하는 데 어려움을 겪었다”고 말했다.

슈퍼얼라인먼트 팀의 해체는 작년 11월 거버넌스 위기 직후 회사 내부의 변화를 반영한다. 팀의 두 연구원인 레오폴드 아셴브레너(Leopold Aschenbrenner)와 파벨 이즈마일로프(Pavel Izmailov)는 회사 비밀 유출로 해고됐으며, 다른 팀원인 윌리엄 손더스(William Saunders)는 올 2월 오픈AI를 떠났다. 또 AI 정책 및 거버넌스 연구원인 컬렌 오키프(Cullen O‘Keefe)와 다니엘 코코타일로(Daniel Kokotajlo)도 회사를 떠난 것으로 추정된다.

해당 연구는 창립 멤버인 존 슐만(John Schulman)이 이끄는 팀에서 맡을 예정이다. 하지만 얼마나 진정성 있는 연구를 할지는 미지수다. 슈퍼얼라인먼트 팀은 초지능 AI를 통제하는 방법을 찾기 위해 구성됐으나, 현재까지 해결책을 제시하지 못했다. 오픈AI는 인류의 이익을 위해 안전하게 인공지능을 개발하는 것을 목표로 한다. 수츠케버는 오픈AI가 ’안전하고 유익한‘ AGI(Artificial General Intelligence)를 구축할 것이라고 확신한다고 밝힌 바 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]