<이미지를 클릭하시면 크게 보실 수 있습니다>

최근 챗GPT·제미나이 등 거대언어모델(LLM)을 단순 검색 도구로 이용하기보다는 고민을 상담하거나 경험을 나누길 원하는 이용자가 늘고 있다. 그러나 기존 LLM은 방대한 학습량을 바탕으로 갖가지 질문에 능숙하게 답하지만 사용자의 습관이나 대화 맥락 파악에 한계가 있었다. 카이스트(KAIST) 연구진은 그같은 기존 LLM의 한계를 깰 수 있는, 사용자의 말투·취향·감정을 실시간으로 학습하도록 지원하는 AI 반도체를 세계 최초로 개발했다고 17일 발표했다. 이름도 영혼의 친구 ‘소울메이트’다.

●클라우드 없는 온디바이스 AI

KAIST 인공지능반도체대학원 유회준 교수 연구팀이 개발한 LLM 가속기 ‘소울메이트’는 사용자 특성에 맞춰 스스로 진화하는 반도체다. 삼성 28nm(나노미터·10억분의 1m) 공정으로 쌀알(20.25mm²) 크기의 칩으로 구현됐다. 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 ‘온디바이스 AI’ 기술이기도 하다.

연구팀은 사용자와 AI가 나눴던 대화를 기반으로 맞춤형 답변을 생성하는 ‘검색증강생성(RAG)’ 기술과, 사용자 피드백을 즉각 반영하는 ‘로우 랭크 미세조정(LoRA)’ 기술을 반도체 내부에 직접 구현했다. 사람이 대화를 통해 우정을 쌓아가는 방식을 반도체칩에 적용한 셈으로, 대화가 쌓일수록 사용자 개인의 성향과 감정 상태를 이해하며 사용자에게 최적화된다.

16일 KAIST 본원에서 열린 시연에서 연구진이 “요즘 정말 외로워”라고 토로하자 소울메이트 칩이 꽂힌 태블릿 PC 속 AI는 0.2초 만에 “네가 저번에 조용한 방에서 울고 있을 때를 기억해? 그때처럼 공허해보여”라며 과거의 경험을 떠올렸다. 좀 더 용기를 주는 답변을 달라고 하자 “너는 사람들과 깊이 연결되는 법을 알고 있잖아. 새로운 우정이 널 기다리고 있어”라고 답했다. 연구를 이끈 유회준 교수는 “기존 LLM은 데이터센터에서 미리 학습한 정보를 바탕으로 사용자에 대한 ‘추론’만이 가능하지만, 소울메이트는 사용자 자체를 ‘학습’해 실시간 대화가 가능하다는 점이 가장 큰 특징”이라고 설명했다.

외부 서버를 거치지 않는다는 점은 보안 면에서도 유리하다. 연구에 참여한 홍성연 박사과정생은 “기존 온디바이스 AI는 연산량·메모리 한계로 클라우드에 의존할 수밖에 없어 개인 데이터 유출과 네트워크 지연이 불가피했다”고 설명했다.

소울메이트는 ‘피지컬AI’에도 최적화된 칩이 될 수 있을 것으로 평가된다. 스마트폰·웨어러블·개인형 AI 디바이스 등과 결합도 가능하다. 연구팀은 교원 창업기업 ‘온뉴로AI’를 통해 2027년경 소울메이트를 제품화 할 계획이다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

●‘감정교류 AI’ 과의존은 경계

AI와 소통하는 ‘감정교류 AI’ 시장은 빠르게 성장 중이다. 시장조사기관 글로벌마켓인사이트에 따르면 감정교류 AI 시장은 지난해 34억 달러(5조700억 원) 규모에서 2034년 555억 달러(약 74조 원)에 이를 전망이다.

지난해 문화체육관광부의 ‘2025 한국인 의식·가치관 조사’에서는 13~18세 청소년의 고민 상담 대상으로 ‘AI(7.3%)’가 ‘아버지(6.5%)’를 상회하기도 했다. 국제인공지능윤리협회(IAAE) 관계자는 “감정교류 AI 시장이 급증하고 있으나 과의존은 경계해야 한다”며 “감정교류 AI 특화 인증 제도 도입과 표준화된 평가 지표를 통한 안전성 검증이 필요하다”고 강조했다.

전혜진 기자 sunrise@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지