에임인텔리전스 유상윤 대표가 메타코리아 사무실에서 '라마 수호' 프로젝트에 대해 설명하고 있다. [사진=메타 코리아]

<이미지를 클릭하시면 크게 보실 수 있습니다>

메타는 AI 솔루션 공모 프로그램 '라마 임팩트 이노베이션 어워즈'에서 국내 생성 인공지능(AI) 보안 기술 스타트업 '에임인텔리전스'가 수상자로 선정됐다고 25일 밝혔다.

라마 임팩트 이노베이션 어워즈는 메타의 대규모 오픈소스 언어 모델인 라마2(Llama 2) 또는 라마3(Llama 3)를 활용해 지역사회의 문제 해결에 기여하는 AI 개발자 및 조직을 발굴하고 지원하는 글로벌 프로그램이다. 교육, 경제, 신뢰 및 안전성 측면에서 혁신적인 솔루션을 제시한 기관들에 최대 3만5000달러의 상금을 수여한다.

이번 어워즈에는 아프리카, 중동, 터키, 아시아 태평양, 라틴아메리카 등 전 세계 다양한 지역의 후보들이 참여한 가운데 '라마 수호 프로젝트'를 제안한 국내 AI 스타트업 '에임인텔리전스'가 아시아 태평양 지역 수상자 중 하나로 선정됐다. 에임인텔리전스는 기술력과 사회적 기여도를 높이 평가받았으며 상금으로 2만5000달러를 수상했다.

'라마 수호'는 오픈소스로 제공되는 메타의 AI 안전 도구인 라마 가드3 8b 모델을 미세조정한 모델로, 한국의 사회⋅문화적 맥락과 언어적 특징을 보다 잘 반영한 콘텐츠 필터링 모델이다. 사이버 공격 코드와 불법 콘텐츠 생성 등 개발자의 설계 의도를 벗어난 AI 기술 악용 사례에 대응하고 안정성과 보안성을 강화하고자 기획됐다.

현재 라마 가드는 한국어 응답 중 부적절한 콘텐츠의 약 90.33%를 성공적으로 필터링하고 있는데, 라마 수호는 한국 문화에 대한 이해를 바탕으로 응답 필터링 성공률을 99%로 개선한다. 이를 위해 7000개 이상의 한국 문화 특수 데이터가 활용됐다.

에임인텔리전스 관계자는 "AI 서비스를 개발하는 입장에서 성능뿐만 아니라 안전성도 매우 중요하게 고려하고 있다"며 "메타의 AI 안전 도구인 라마 가드에 한국 문화와 언어적 특성을 반영한 데이터를 제공해 국내 AI 안전성 강화에 기여하는 것이 목표"라고 전했다.

한편, 에임인텔리전스는 라마3를 활용해 경제적⋅사회적 가치를 창출하는 조직을 발굴 및 육성하는 ‘2024 메타 라마 경진대회’ 한국 지역 예선에서도 라마 수호 프로젝트를 통해 최우수상을 수상했다. 10월 초에 한국 대표로 아시아 태평양 지역 결선에 참가할 예정이다.

아주경제=박진영 기자 sunlight@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -