카이스트 유회준 AI반도체대학원 교수(오른쪽)와 홍성연 박사과정 연구원이 ‘소울메이트’ 개발 연구 성과를 설명하고 있다. 카이스트 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

챗GPT 같은 거대언어모델(LLM)은 다양한 질문에 능숙하게 답하지만 사용자의 사소한 습관이나 이전 대화 맥락 등은 알지 못하는 한계가 있다. 이런 한계를 넘어 사용자의 말투와 취향, 감정까지 실시간으로 학습하며 닮아가는 인공지능(AI) 반도체가 카이스트(KAIST) 연구진에 의해 개발됐다.

카이스트는 유회준 AI반도체대학원 교수 연구팀이 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 LLM 가속기 ‘소울메이트’를 개발했다고 17일 밝혔다. 소울메이트는 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 ‘온디바이스’ AI 기술이다. 기억된 대화 내용을 바탕으로 맞춤형 답변을 생성하는 ‘검색증강생성(RAG)’ 기술과 사용자 피드백을 즉각 반영해 학습하는 ‘로우 랭크 미세조정(LoRA)’ 기술을 반도체 내부에 직접 구현한 것이다. 연구팀은 이를 기반으로 0.2초의 속도로 사용자의 질문에 응답하며 학습까지 동시에 수행하는 ‘실시간 개인화 AI 시스템’을 만들었다.

소울메이트를 활용하면 단순한 정보 검색을 넘어서서 사용자 개인의 성향과 과거 대화 문맥, 감정 상태까지 이해하고 반응하는 ‘초개인화된 AI’ 서비스가 가능하다는 게 연구팀의 설명이다. 유 교수는 “현재 대중적으로 사용되는 챗GTP 같은 거대 모델은 수백억 개 파라미터(매개변수)를 기반으로 세상의 일반적인 지식은 풍부하게 갖추고 있지만 기기 사용자에 대한 구체적 정보와 선호도는 알지 못한다는 치명적 한계가 있다”며 “이번 연구는 사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련한 것”이라고 말했다.

유회준 카이스트 AI반도체대학원 교수와 홍성연 박사과정 연구원(왼쪽부터). 카이스트 제공

<이미지를 클릭하시면 크게 보실 수 있습니다>

전력 소모량을 줄이고 보안성은 높인 것도 소울메이트의 특징이다. 연구팀은 정보 중요도에 따라 처리 방식을 최적화하는 ‘혼합 랭크 아키텍처’를 적용해 기존 스마트폰 프로세서 소비전력의 500분의 1 수준으로 모바일 기기에서 구동이 가능하도록 했다. 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되기 때문에 개인정보 유출 우려도 덜 수 있다.

홍성연 AI반도체대학원 박사과정 연구원이 제1저자로 참여한 이번 연구 결과는 지난달 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 ‘하이라이트 논문’으로 선정됐다. 연구팀은 소울메이트 AI 반도체를 교원 창업기업을 통해 제품화할 계획이다.

이종섭 기자 nomad@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지