컨텐츠 바로가기

11.13 (수)

누스, 콘텐츠 제한 없는 챗봇 '누스 챗' 출시..."최소한의 경고만 적용"

댓글 첫 댓글을 작성해보세요
주소복사가 완료되었습니다
[박찬 기자]
AI타임스

(사진=누스 리서치)

<이미지를 클릭하시면 크게 보실 수 있습니다>


인공지능(AI) 스타트업 누스 리서치가 인기 오픈 소스 모델 '헤르메스(Hermes)'를 기반으로 하는 첫번째 챗봇을 출시했다. 특히 제한 없는 답변이 가능하도록 개발자가 가중치를 결정할 수 있게 한 것이 특지잉다.

누스는 7일(현지시간) 헤르메스 기반 챗봇 시스템 '누스 챗(Nous Chat)'을 출시했다고 발표했다.

메타의 '라마 3.'1을 미세조정한 '헤르메스 3'는 지난 7월 출시 당시 "누구냐"라는 질문에 기억상실 증세를 보인다고 알려져 화제가 된 모델이다.

누스는 X(트위터)를 통해 "이후 헤르메스를 챗봇으로 경험하고 싶다는 요청이 빗발쳐, 누스 챗을 열게 됐다"라고 고 밝혔다.

누스 챗을 통해 사용자는 '헤르메스 3-70B'에 접근할 수 있다. 몇초 만에 답변을 제공하며, 인용한 출처로 돌아가는 URL 링크를 생성할 수 있다.

하지만 벤처비트에 따르면 링크를 환각해 잘못 생성하는 경우도 있었고, 2023년 4월까지 데이터로 훈련해 최신 정보 획득에는 다소 한계가 있음을 드러냈다고 지적했다.

또 파일 첨부, 이미지 분석 및 생성, 상호작용형 코드 표시 기능 등 다른 주요 챗봇들이 제공하는 고급 기능이 부족하다.

특히 헤르메스 3는 제한 없이 조정 가능한 오픈 가중치를 제공, 사용자가 모델의 응답을 특정 요구에 맞게 조정할 수 있도록 설계됐다. 라마 3.1을 기반으로 추가 훈련을 진행하고, 응답에 적용될 가중치를 사용자들이 결정하도록 한 것이다.

기존 주요 LLM들이 엄격한 가드 레일을 적용, 맞춤화하기 어려운 것과는 대조적이다.

AI타임스

<이미지를 클릭하시면 크게 보실 수 있습니다>


누스는 "제한 없이 콘텐츠를 생성할 수 있지만, 민감한 주제를 요청할 때 강제적인 제한이라기보다 상식적인 경고 역할을 하는 시스템 프롬프트를 가드레일로 도입했다"라고 밝혔다. 예를 들어, 불법 마약 제조에 대한 요청에는 제한이 걸려 있다.

또 "앞으로 몇달 안에 중점적으로 작업 중인 추론 기능 강화와 웹 검색, 파일 분석 같은 더 많은 기능을 추가할 계획"이라고 전했다.

이처럼 고급 기능이 추가되고 성능이 향상된 상태에서 콘텐츠 제한 해제가 유지된다면, 사용자들에게는 매력적인 대안이 될 수 있다는 평이다.

박찬 기자 cpark@aitimes.com

<저작권자 Copyright ⓒ AI타임스 무단전재 및 재배포 금지>
기사가 속한 카테고리는 언론사가 분류합니다.
언론사는 한 기사를 두 개 이상의 카테고리로 분류할 수 있습니다.