김기정 콕스웨이브 대표가 지난 27일 포시즌스 호텔 서울에서 개최된 리서치앳 코리아에서 연사로 나서 기술에 대해 설명하고 있다. 콕스웨이브

<이미지를 클릭하시면 크게 보실 수 있습니다>

[파이낸셜뉴스] 인공지능(AI) 제품 분석 플랫폼 얼라인 AI의 운영사 ‘콕스웨이브(Coxwave)’가 구글의 ‘리서치앳(Research@) 코리아’에 연사로 참가했다고 28일 밝혔다.

전일 포시즌스 호텔 서울에서 개최된 리서치앳 코리아는 전 세계 연구자들을 대상으로 AI 관련 최신 연구를 공유하는 행사이다. 김경훈 구글 코리아 사장, 구글 리서치 마야 쿨리키 부사장이 참여했으며, 다수의 구글 AI 연구원이 참여해 노트북 거대언어모델(LLM), 제미나이, AI에이전트 프로젝트 등 연구 사례를 발표했다.

올해 행사는 ‘코리아스타트업포럼’과의 협업을 통해 학계 연구자 뿐만 아니라 AI 스타트업의 연구원 및 개발자까지 초청 규모를 확대했다. 지난해 11월 아태지역 최초로 리서치앳 코리아가 한국에서 진행된 이후 한국에서 두번째로 개최된 글로벌 행사이다.

김기정 콕스웨이브 대표는 국내 AI 연구 사례 세션에 스타트업 대표로 참가해 ‘AI 안정성 향상’이라는 주제로 발표를 진행했다.

환각, 편견 및 차별, 정보 유출 등 현재 AI 시스템이 직면한 주요 위험 , 현재 가장 많이 나타나는 AI 시스템의 악용 방법을 다루고, AI 모델의 취약성 평가 방법을 공유하고 향후 연구 방향을 제안했다. 미국, 유럽연합, 영국, 일본 등 주요 선진국은 AI 기술 개발과 더불어 AI 안전연구소를 설립한 바 있으며, 우리나라도 연내 인공지능 안전연구소를 출범할 계획인 만큼 AI 안정성은 글로벌 주요 과제로 떠올랐다.

김기정 대표는 얼라인 AI 플랫폼 내 발생한 실사례를 들어 AI 모델의 취약성 평가 및 잠재 위협 예방 방법을 공유했다. 얼라인 AI는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼으로 AI와 사용자 간의 대화 데이터를 분석할 뿐만 아니라 AI 한계점으로 알려진 환각 현상이나 개인정보 유출 사례 없이 제대로 기능을 수행하는지 판단하는 기능도 함께 제공한다.

특히 AI 모델에 대규모 탈옥 프롬프트를 선적용해 MARS(다중 샷 공격 저항 점수)를 측정하고, 해당 점수를 기반으로 AI 모델의 취약성을 판단해 잠재 위협을 대비할 수 있다고 설명했다.

콕스웨이브는 2021년 설립된 스타트업으로 생성형 AI 기술의 활용성 및 접근성을 높이기 위한 다양한 AI-네이티브 제품들을 선보여왔다. 현재 콕스웨이브가 주력하고 있는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼 ‘얼라인 AI’의 기술력과 시장 가능성을 인정받아 지난 1월, 약 45억 원 규모의 시드 투자를 유치한 바 있다.

지난달 얼라인 AI의 대화 데이터 분석 및 인사이트 제공 기능을 인도의 AI 기업 펀다멘토의 AICC 서비스에 접목하는 등 인도 및 글로벌 시장 내 GTM(고투마켓) 전략도 적극 추진 중이다.

김 대표는 “이번 ‘리서치앳 코리아’에서 글로벌 AI 커뮤니티와 안정성에 대한 인사이트를 공유할 수 있어 뜻 깊었다”며 “앞으로도 콕스웨이브는 국내외 연구자들과 적극 협력해 AI 안전성을 향상시키고 글로벌 AI 생태계의 지속가능한 성장에 기여하겠다”고 포부를 밝혔다.

이어 “얼라인 AI는 이러한 AI를 활용하면서 발생할 수 있는 위험을 사전에 탐지하고 방지하는 ‘AI 안전망’ 역할을 제공한다”며 “지속적인 기술 개발 및 고도화로 기업들이 더 안전하고 신뢰할 수 있는 AI 서비스를 제공할 수 있도록 지원하겠다”고 덧붙였다.
#구글 #AI #콕스웨이브

soup@fnnews.com 임수빈 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.