[디지털데일리 이나연기자] 클라우드 기반 생성형 인공지능(AI) 도입을 가속하기 위한 인프라 구축 수요가 높아지는 가운데, 성급한 AI 도입보다 성숙도에 맞는 단계별 전략이 중요하다는 업계 진단이 나왔다.

한정헌 SK C&C 매니저는 25일 서울 양재동 엘타워에서 <디지털데일리>가 주최한 '클라우드 임팩트 2025' 콘퍼런스에서 이같이 밝혔다.

오픈AI가 개발한 '챗GPT' 열풍을 시작으로 개인 취향과 특성에 맞춘 서비스는 물론, 급변하는 시장 속 경쟁력을 강화하기 위한 AI 활용법이 주목받고 있다. 다만 기업별 인프라와 대내외 조건이 각양각색인 만큼 저마다 상황에 맞는 검토가 필요하다.

기업 성숙도에 따른 AI 도입 전략은 크게 3단계로 구분된다. AI 도입 자체를 고민하는 0단계를 지나 1단계는 ▲멀티 생성형 AI 응용 프로그램 인터페이스(API) 준비 ▲퀵-윈(Quick Win)·보안 위험 제거 ▲직원 AI 노하우 축적 등을 인지하는 수준이다.

한 발 나아간 2단계는 ▲사내 문서 지식 축적 ▲업무 프로세스 변혁 분석 ▲레거시 시스템 AI API 고도화가 내부 환경에 접목된 상태다. 생성형 AI 서비스 혁신을 실현하는 3단계까지 오면 ▲AI 에이전트(비서) 기반 업무 수행 ▲언어플랫폼 및 지식 플랫폼 구축 등이 가능하다.

한정헌 매니저는 "SK C&C가 제공하는 생성형 AI 도입 서비스는 고객사 인프라 조건에 맞게 아키텍처를 설계한다"며 "생성형 AI 컨설팅부터 매니지드 서비스 기반 운영까지 기업 생성형 AI 도입을 위한 조직·역량 체계를 확보하고 있다"고 강조했다.

SK C&C는 특정 AI를 도입하려는 기업을 대상으로 진단 컨설팅에 나서 아키텍처를 구상한다. 현재 인프라 평가를 통한 AI 클라우드 랜딩존 도입의 적합성을 평가하고, 업무 프로세스 최적화를 통한 AI 서비스 통합 방안을 분석한다. 보안 요구사항과 컴플라이언스 충족을 위한 맞춤형 보안 전략도 제안한다.

이후 다양한 클라우드 환경에서 AI 서비스를 유연하게 통합 관리하는 아키텍처를 설계한다. 코드형 인프라(IaC)를 통한 자동화 구축 방안을 극대화하고, 최신 보안 표준과 컴플라이언스 요구사항을 충족하는 보안 아키텍처를 구현하는 데 집중한다.

SK C&C는 해당 아키텍처 설계를 기반으로 AI 클라우드 랜딩존 기반 '인프라'와 AI 모델을 신속 효율적으로 배포하고 버전 관리를 하는 'AI 애플리케이션'을 구축한다.

한 매니저는 "AI 인프라 경우, AI 모델 학습과 추론을 위해 그래픽처리장치(GPU) 및 고성능 리소스를 적절히 배치하고 관리한다"며 "대량 데이터 저장과 빠른 접근을 위해 확장 가능하고 안정적인 데이터 처리 솔루션을 구현한다"고 설명했다.

AI 애플리케이션 역시 "데이터 수집, 처리, 저장을 자동화해 원활한 데이터 활용이 가능하도록 구성했다"면서 "애플리케이션을 마이크로서비스로 설계해 확장 가능한 구조를 구축했다"고 덧붙였다. 최종 AI 서비스 운영 시점에서도 SK C&C는 AI 애플리케이션 안정성과 효율성을 유지하기 위한 실시간 성능 모니터링과 주기적인 최적화를 진행한다.

끝으로 한 매니저는 AI 도입을 고민하는 기업에 "클라우드 아키텍처와 거버넌스 설계를 통해 보안과 확장성을 확보하는 체계를 구성해야 한다"고 말했다. 이어 "실패하더라도 일단 시도하는 게 가장 중요하다. 우선 (AI를) 도입해 보면 각 기업에 맞는 최적의 AI 활용 방법을 찾을 수 있을 것"이라고 부연했다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -