김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장

지난 7월, MIT가 발표한 '생성형 인공지능(AI) 격차(The GenAI Divide)' 보고서는 기업들의 AI 투자 현실을 그대로 보여준다. 300개 기업 AI 이니셔티브를 분석한 결과, 95%의 조직이 AI 투자에서 측정 가능한 수익을 얻지 못하고 있다는 것이다. 미국 기업들은 이미 생성형 AI 내부 프로젝트에만 300억~400억달러를 투자한 상황에서다. 글로벌 컨설팅 기업 보스턴컨설팅그룹(BCG)의 분석도 유사하다. AI를 개념 증명 단계 이상으로 진척시킨 기업은 22%에 불과하고, 실제로 상당한 가치를 창출하는 기업은 4%뿐이다.

문제는 명확하다. AI가 '똑똑하긴 한데, 실무에는 별로'라는 것이다. 이것이 2025년 우리가 마주한 'AI 생산성의 역설'이다. 말만 잘하는 AI의 시대는 끝났다. 2026년은 일을 하는 AI, 에이전틱 AI(Agentic AI)의 시대다.

에이전틱(Agentic)은 라틴어 'agere(아게레)'에서 유래한 것으로, '행동하다' '수행하다' '이끌다'라는 뜻이다. 여기서 파생된 'Agent(에이전트)'는 '행위자' '대리인'을 의미하고, 형용사형 '-ic'가 붙어 '자율적으로 행동하는'이라는 의미가 된다. 따라서 심리학에서 'Agency(에이전시)'는 인간이 스스로 결정하고 행동할 수 있는 자기결정권을 뜻한다. 에이전틱 AI는 바로 이 개념을 AI에 적용한 것이다. 단순히 질문에 답하는 '수동적 응답자'가 아니라, 스스로 목표를 설정하고(계획), 필요한 도구를 선택하며(실행), 결과를 점검하고 수정하는(성찰), '자율적 행위 능력을 갖춘 AI'를 의미한다.

지난 1년간 대부분의 AI 서비스는 '지식이 풍부한 조언자'에 머물렀다. 일례로 재고 관리 담당자에게 AI챗봇은 '재고 효율화 5가지 방법'을 유창하게 설명해 준다. 하지만 정작 직원이 원하는 것은 '전사자원관리(ERP:Enterprise Resource Planning) 시스템에 접속해서 부품의 수량을 확인하고, 부족하면 발주 이메일을 보내줘'라는 '실질적 행동'이다.

기존 챗봇은 기업 내부 시스템이라는 '손발'이 묶인 채 텍스트라는 '입'만 살아있는 상태였다. 데이터베이스(DB) 접근 권한도, 응용프로그램 인터페이스(API) 연동도 없어 결국 사람이 AI 답변을 보고 다시 시스템에 타이핑해야 했다. 이것이 병목의 실체다.

에이전틱 AI는 이 문제를 정면 돌파한다. 사내 메신저를 켜고, 엑셀을 열고, 코드를 짜서 실행하는 '행동(Action)'이 핵심이다. 이제 기업 연구개발 전략은 '얼마나 큰 모델을 쓸 것인가'에서 '어떻게 워크플로를 연결할 것인가'로 이동해야 한다. 앤드류 응(Andrew Ng) 스탠퍼드대 교수가 강조하듯, 거대 모델 하나보다 '잘 설계된 에이전트 프로세스'가 훨씬 강력하다.

현장 해법은 '다중 에이전트 시스템(Multi-Agent System)'이다. 슈퍼 AI 하나를 만들려 하지 말고, 검색 전문, 코딩 전문, 검수 전문 에이전트를 따로 만들어 협업하게 해야 한다. 예를 들어 '보고서 작성 에이전트'에게 일을 시키면, 리서치 에이전트가 통계를 찾고, 집필 에이전트가 초안을 쓰고, 비평 에이전트가 피드백을 준다. 이렇게 역할을 쪼개면, 굳이 천문학적인 비용이 드는 초거대 모델을 쓰지 않아도 보안성이 뛰어나고 가벼운 '소형언어모델(sLLM)'만으로도 충분히 고성능을 낼 수 있다.

2026년은 AI 거품론이 걷히고 '옥석 가리기'가 본격화되는 해가 될 것이다. 정부의 예산 지원이나 기업의 투자 역시 '도입' 자체보다는 구체적인 '투자자본수익률(ROI)' 입증에 집중될 것이다. 글로벌 컨설팅 기업 맥킨지 조사에 따르면 현재 AI 에이전트를 기업 전반에 확대 적용 중인 조직은 23%, 실험 단계에 있는 조직은 39%에 달한다. 그러나 AI 에이전트를 통해 이자·세전이익(EBIT) 수준의 기업 성과를 달성했다고 답한 비율은 39%에 불과하다. 아직 대다수가 '파일럿' 단계에 머물러 있다는 뜻이다.

이제 챗봇과의 핑퐁 게임을 멈추자. AI에게 사원증을 발급하고 시스템 접근 권한을 주자. 당신의 AI는 '말'만 하는가, '일'을 하는가? 말만 번지르르한 조언자가 아니라, 내 옆에서 엑셀을 돌리고 코드를 짜는 AI 대리를 채용하는 것. 이것이 2026년, 기업이 생존을 넘어 혁신으로 가는 가장 확실한 전략이 될 것이다.

김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장

[Copyright © 전자신문. 무단전재-재배포금지]