[황치규 기자]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 황치규 기자]개발자용 인공지능(AI) 애플리케이션 지원 툴 업체 파트로너스AI 파트로너스 API를 출시했다.

파트노러스AI는 시리즈 A 펀딩 라운드에서 1700만달러를 유치한 후 몇 달 만에 파트로너스 API를 선보였다.

실리콘앵글에 따르면 파트로너스 AI는 AI 애플리케이션 개발을 쉽게 할 수 있는 소프트웨어 플랫폼을 제공한다. 이를 통해 개발자는 거대 언어 모델(LLM)들을 비교하고, 특정 소프트웨어 프로젝트에 가장 적합한 모델을 찾을 수 있다.

AI 애플리케이션이 실제 환경에 배포된 후 기술 문제를 감지하는 등의 작업도 간소화할 수 있도록 지원한다. 파트로너스 API는 기업이 AI 워크로드에 통합할 수 있는 애플리케이션 프로그래밍 인터페이스(API)로 개발자가 애플리케이션이 부정확한 프롬프트 응답을 생성할 때 이를 감지하고 필터링할 수 있도록 설계됐다.

LLM에 대한 사이버 공격도 개발자들에게는 중요한 이슈가 됐다. 학습 데이터셋 사적 정보를 공개하는 것 등 LLM이 허용하지 않는 작업을 수행하기 위해 악의적인 프롬프트를 사용하는 해커들도 있다.

회사 측에 따르면 파트로너스 API는 프롬프트에 대한 LLM 답변을 또 다른 언어 모델을 통해 돌림으로써 이같은 문제들을 탐지할 수 있다.

두 번째 언어 모델은 각 응답에서 환각과 같은 문제가 있는지 확인하고 있으면 개발자에게 알려준다.

파트로너스 API는 여러 LLM 평가 알고리즘 중 선택이 가능하다. 파트로너스 AI가 7월에출시한 오픈 소스 언어 모델인 Lynx의 경우 잘못된 AI 출력을 감지하도록 최적화한 메타 플랫폼 Llama-3-70B-Instruct 모델을 최적화한 것이라고 실리콘앵글은 전했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>