'당장 터미네이터가 대문 두드릴 것'
AGI·ASI 낙관론 취했던 실리콘밸리
빅테크 수장들 필두로 한 발 물러서
VC 자금, 산업별 특화 AI로 옮겨가
합의된 국제표준 마련 필요성 공감

17일(현지시간) 미 캘리포니아주 101번 고속도로에는 의료 서비스 회사 '카이저 퍼머넌트', 조리도구 회사 '수 라 타블' 등 AI와 무관한 기업 광고가 대폭 늘었다. '포브스 선정 인공지능(AI)기업 50' 같은 수식어를 앞세운 스트라이프 광고가 여전히 걸려있다. 실리콘밸리=박지연 특파원

<이미지를 클릭하시면 크게 보실 수 있습니다>

17일(현지시간) 미 캘리포니아주 새너제이에서 샌프란시스코로 향하는 101번 고속도로를 지나가니 지난여름과 크게 달라진 광고판 풍경이 눈에 들어왔다. 지난 7월까지만 해도 '포브스 선정 인공지능(AI)기업 50' 같은 수식어를 앞세운 AI 기업 광고가 도로를 장악했다. 하지만 이젠 중국 공연 예술단 '션윈', 조리도구 회사 '수 라 타블', 의료 서비스 회사 '카이저 퍼머넌트' 등 AI와 무관한 기업 광고가 대폭 늘었다.

이런 경향은 챗GPT로 대표되는 '생성형 AI'의 본고장 실리콘밸리에서 뜨거웠던 AI 낙관론이 한풀 꺾인 것과 무관치 않다. 올 여름까지만 해도 이 도시에선 AI가 인간이 할 수 있는 모든 지적 작업을 수행할 수 있는 '인공일반지능(AGI)'은 물론 인간의 수준을 아예 넘어선 '초지능(ASI)'도 머지않았다는 분위기였다. 하지만 최근엔 "AGI에 대한 유토피아적 전망은 과대평가됐다"는 목소리가 커지고 있다. 전문가들은 질병, 에너지, 기후 등 인류의 난제를 해결할 수 있는 AGI 시대가 이르면 올해, 늦어도 10년 안에 도래할 것으로 전망해 왔다.

미묘한 변화는 빅테크 수장들의 발언에서 먼저 감지됐다. 챗GPT로 생성형 AI시대의 대중화를 연 샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 "우리는 AGI를 어떻게 만들 수 있는지 알고 있다"고 자신했지만, 올 여름 인터뷰에선 "(AGI는) 별로 유용한 용어가 아니다"라며 태도를 바꿨다. 다리오 아모데이 앤트로픽 CEO는 "AGI는 마케팅 용어에 불과하다"고 말하기도 했다.

'초지능 마케팅' 자제하는 실리콘밸리

샘 올트먼 오픈AI 최고경영자(CEO)가 지난달 6일 미 캘리포니아주 샌프란시스코에서 열린 오픈AI 연례 개발자 행사 데브데이 2025에서 기자회견을 하고 있다. 실리콘밸리=박지연 특파원

<이미지를 클릭하시면 크게 보실 수 있습니다>

인간을 뛰어넘는 ASI의 등장 가능성과 우려를 제기한 스웨덴 철학자 닉 보스트롬 옥스퍼드대 교수는 2014년 저서 '슈퍼인텔리전스'에서 AI의 지능폭발을 일찌감치 경고했다. 생성형 AI가 눈부신 속도로 발전하고 AI 칩을 중심으로 미중 패권 경쟁이 격화하면서 이런 우려는 더욱 커지는 듯했다. 그러나 ASI 전 단계인 AGI조차 여전히 불투명하다는 게 여러 전문가들의 견해다.

크리스 폴레트 새너제이주립대 컴퓨터공학과 학과장(교수)은 이날 한국일보에 "지난해만 해도 당장이라도 AGI나 ASI가 등장해 세상을 장악할 것처럼 떠들썩했다"며 "'다음주면 터미네이터가 대문을 두드릴지 모른다'고 주장하는 사람들이 있었다"고 회상했다. 그러나 현실은 '모든 영역에서 인간만큼 잘하는 AI'를 지칭하던 AGI의 개념조차 '특정 영역에서 인간만큼 잘하는 AI' 쪽으로 옮겨가고 있다는 게 그의 견해다. 그는 ①AGI가 단기간에 실현될 수 없다는 사실이 드러났고 ②AGI, ASI 도래에 대한 불안이 법적·정치적 규제로 이어질 것을 우려한 기업들이 '초지능 마케팅'을 거둬들였다고 배경을 설명했다.

크리스 폴레트 새너제이주립대 공대 컴퓨터공학과 학과장(교수)이 17일(현지시간) 본보와 인터뷰하고 있다. 실리콘밸리=박지연 특파원

<이미지를 클릭하시면 크게 보실 수 있습니다>

그렇다고 빅테크들이 AGI 연구를 멈춘 것은 아니다. 유명 빅테크 소속 한 AI 핵심 연구자는 본보에 "애당초 '내일 당장 AGI가 도래할 것'이라고는 생각하지 않았고, 연구는 계속하고 있다"며 "변한 건 CEO나 마케팅 팀의 표현뿐"이라고 설명했다.

실제 빅테크들은 인간을 뛰어넘는 ASI 개발을 목표로 전담 연구소를 설립하고 막대한 돈을 쏟아붓고 있다. 페이스북 모회사 메타는 6월 '초지능 연구소(MSL)'를 설립하고 오픈AI 출신 연구원만 10명 이상 영입하는 한편 애플의 AI 모델 개발 총괄 연구원에게 2억 달러(약 2,930억 원) 보상 패키지를 제안한 것으로 알려졌다.

2024년 노벨 화학상 수상자인 데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 '아인슈타인과 같은 정보만으로 일반상대성이론을 새롭게 발견할 수 있는 AI'를 AGI로 정의하고 개발에 매진하고 있다. 최근 오픈AI와 재협상을 한 마이크로소프트(MS)는 무스타파 술레이만을 필두로 '슈퍼인텔리전스' 팀을 출범하고 AGI 독자 개발에 나섰다. 오픈AI는 '슈퍼얼라인먼트' 팀을 운영하고 있다.

LLM 기반으로는 '인간 수준' 도달 어려워…'월드모델'에 무게 중심

지난해 노벨 화학상 수상자인 데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 '아인슈타인과 같은 정보만으로 일반상대성이론을 새롭게 발견할 수 있는 AI'를 AGI로 정의하고 개발에 매진하고 있다. 지난달 14일(현지시간) 미 캘리포니아 마운틴뷰 구글 사옥. 실리콘밸리=박지연 특파원

<이미지를 클릭하시면 크게 보실 수 있습니다>

AGI로 가기 위해선 챗GPT 같은 생성형 AI로 어려워 다른 방안을 모색해야 한다는 주장도 나온다. 'AI의 대부'로 불리는 얀 르쿤 뉴욕대 교수는 "현재의 대규모언어모델(LLM)에 기반한 접근법으로는 AGI에 도달할 수 없다"고 단언한다. 그는 언어 정보를 통해 세상을 간접적으로 이해하는 LLM으로는 스스로 세상을 온전히 인식하고 반응하는 '고양이 지능'에도 도달하기 어렵다고 주장한다. 페이페이 리 스탠퍼드대 컴퓨터과학과 교수가 AI 스타트업 '월드랩스'를 설립하고 공간 지능과 물리세계 기반의 '월드모델' 연구에 몰두하는 것도 이 때문이다. 월드모델은 사람이 세상을 인식하는 방식처럼 보고 느끼며 인식하는 데 초점을 맞춘다.

한기용 새너제이주립대 공대 겸임교수는 15일(현지시간) 본보와 만나 미중 간 AI 경쟁이 '현대판 안보 딜레마'라고 지적하며 민간 기업이 기술을 주도하는 만큼 그 역학은 냉전 시기 핵무기 경쟁보다 복잡하다며 ASI 도래 여부와 관계없이 AI 위험을 관리하기 위한 국제협력이 필수적이라고 강조했다. 본인 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

한기용 새너제이주립대 컴퓨터공학과 겸임교수도 15일 본보에 "현재의 LLM은 인간이 가진 방대한 지식을 상당 부분 재현할 수 있지만 스스로 행동할 수 있는 존재가 아니다"라며 "텍스트라는 제한된 수단을 통해 세계를 이해하기 때문에 물리적 인과관계나 상황판단을 수행하는 데는 분명한 한계가 있다"고 설명했다.

AGI나 ASI 달성에 상당한 시간이 소요될 것으로 전망되면서, 실리콘밸리에서 자금 흐름도 눈에 띄게 달라졌다. 실리콘밸리 벤처캐피털(VC) A2G의 공경록 대표는 본보에 "AGI나 ASI에는 이미 돈이 몰릴 대로 몰렸다고 판단한 VC들이 이제 단기 투자수익률(ROI)이 높은 에이전틱AI(자율적으로 의사 결정을 하고 작업을 수행하는 AI)로 눈을 돌리고 있다"며 "초지능에 취해있던 투자자들은 이제 AGI, ASI가 '돈이 안 된다'고 판단하고 대신 헬스케어나 파이낸스, 제조업 등 수많은 산업군에 특화한 AI로 방향을 틀고 있다"고 말했다.

AGI 위험성 우려도... 윤리 규제 필요성

얀 르쿤(왼쪽) 뉴욕대 교수가 지난달 27일 서울 용산구 드래곤시티호텔에서 열린 'AI 프론티어 국제 심포지엄 2025'에서 배경훈 부총리 겸 과학기술정보통신부 장관과 대화를 나누고 있다. 과학기술정보통신부 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

생성형 AI 등장 초기, AGI와 ASI가 '전례 없는 재앙이 될 것'이라는 비관론이 컸지만 이 역시 최근 들어 잠잠해지고 있다. 폴레트 교수는 "네 살짜리 아이가 평생 느낀 감각의 총량은 가장 큰 언어모델이 현재까지 처리한 데이터 총량보다도 두 배 이상 많다"며 "모든 영역에서 인간을 능가하는 건 매우 먼 미래"라고 말했다.

전문가들은 그럼에도 AGI 시대가 도래할 것을 대비해 미리 국가·기업 등이 윤리기준을 마련해야 한다고 강조한다. 하사비스는 AGI가 실현되면 인류는 풍요의 시대로 진입하겠지만 사회적·정치적 시스템의 근본적 재설계가 필요할 것이라고 주장했다. 초지능 분야를 연구하는 한 빅테크 연구원도 본보에 "각 회사는 단기 목표에 집중할 뿐 장기적 위험까지 내다보면서 일할 수 없다"며 "AI 안전기준이 개별 기업에 국한돼 있어서 국제적 협력 기준이 필요해 보인다"고 말했다.

한 교수는 미중 간 AI 경쟁이 '현대판 안보 딜레마'라고 지적하며 "민간 기업이 기술을 주도하는 만큼 그 역학은 냉전 시기 핵무기 경쟁보다 복잡하다"며 ASI 도래 여부와 관계없이 AI 위험을 관리하기 위한 국제협력이 필수적이라고 강조했다. 기업은 자율적으로 규제하기 어렵기 때문에, 국가·기업·국제기구가 함께 새로운 거버넌스를 구축해야 한다는 것이다.

실리콘밸리= 박지연 특파원 jyp@hankookilbo.com