챗GPT 등 거대 언어 모델(LLM)은 질문에 답하는데 능숙한 반면 사용자의 사소한 습관이나 이전 대화 맥락은 알지 못하는데, 우리 연구진이 이런 한계를 넘어 사용자 말투·취향·감정을 실시간으로 배워 닮아가는 인공지능(AI) 반도체를 개발했다. '초개인화 AI' 시대를 앞당길 핵심 반도체 기술로 평가된다.

한국과학기술원(KAIST·총장 이광형)은 유회준 인공지능반도체대학원 교수팀이 사용자 특성에 맞춰 진화하는 개인 맞춤형 LLM 가속기 '소울메이트'를 개발했다고 17일 밝혔다.

소울메이트 핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스 AI 기술이다. 기억한 대화 내용을 바탕으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체에 직접 구현했다.

소울메이트 시연 모습

<이미지를 클릭하시면 크게 보실 수 있습니다>

이로써 소울메이트는 0.2초 속도로 사용자에 응답하는 동시에 학습까지 수행한다.

또 정보 중요도에 따라 처리 방식을 최적화하는 혼합 랭크 아키텍처를 적용해 전력 소모를 획기적으로 줄였다. 스마트폰 프로세서 소비전력의 500분의 1 수준인 9.8밀리와트(㎽)의 초저전력으로도 복잡한 학습·추론을 동시에 수행할 수 있다. 스마트폰 등 모바일 기기에서도 배터리 걱정없이 구동된다.

특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 '보안 완결형 AI' 구조를 구현해 개인정보 유출 우려를 근본적으로 차단했다. 연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 인공지능 서비스 시대를 열 것으로 기대하고 있다.

유회준 교수는 “이번 연구는 사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련한 것”이라며 “미래의 인공지능은 단순한 도구를 넘어, 개인의 프라이버시를 완벽히 보호하면서도 언제 어디서나 나를 가장 잘 이해하는 '베프(베스트 프랜드)'와 같은 존재가 될 것”이라고 말했다.

홍성연 박사과정 연구원이 제1 저자로 참여한 이번 연구는 지난 지난달 16일부터 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 '하이라이트 논문'으로 선정됐다.

연구팀은 학회 현장에서 실제 반도체 칩을 활용해 사용자의 반응에 따라 답변 스타일이 실시간으로 변화하는 시연에 성공하며 한국 AI 반도체 기술의 우수성을 입증했다. '소울메이트'AI반도체는 교원 창업기업인 '온뉴로AI'를 통해 2027년경 제품화할 예정이다.

한편 이번 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 정보통신방송혁신인재양성사업 지원을 받아 수행됐다.

김영준 기자 kyj85@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]