[디지털데일리 박재현기자] “통상 AI 프로젝트 전체 시간 중 데이터를 수집하고 정제하는 과정에 80%가 소요된다. 모델 학습과 결과 도출보다 쓸모 있는 데이터를 만드는 데 드는 공수가 더 드는 만큼, 데이터 관리와 효율적인 인프라 활용을 위한 전략을 세워야 AI 프로젝트가 성공할 수 있다.”

김영석 에버퓨어코리아 기술 총괄 상무는 25일 양재 엘타워에서 <디지털데일리>가 개최한 ‘클라우드임팩트2026’ 행사에서 ‘엔터프라이즈 데이터 클라우드로 구현하는 에이전틱 AI’를 주제로 발표하며 이같이 말했다.

김영석 에버퓨어코리아 기술 총괄 상무는 AI 레디 데이터(AI Ready Data)의 중요성을 짚으며, 프로젝트 성패를 가르는 핵심 인프라로 에버퓨어의 엔터프라이즈 데이터 클라우드(EDC) 플랫폼을 소개했다.

김 상무는 많은 기업이 GPU 서버나 학습·추론 워크플로우에는 막대한 투자를 단행하면서도, 정작 기반이 되는 데이터 플랫폼은 간과하는 경향이 있다고 지적했다. 이러한 불균형은 결국 AI 혁신의 속도를 늦추는 요인이 된다.

실제로 AI 프로젝트 전체 소요 시간 중 80%가 데이터 정제에 할애될 만큼 데이터 준비 과정의 부하가 크다. 이러한 비효율을 줄이기 위해서는 단순 저장소를 넘어, 학습 과정에서 발생하는 대규모 ’체크포인트(Checkpoint)‘를 얼마나 효율적으로 수용하고 관리하느냐가 데이터 플랫폼의 진정한 가치를 결정하게 된다. 체크포인트는 학습 중 모델의 상태를 저장하는 스냅샷으로, 모델이 거대해질수록 테라바이트(TB)급의 쓰기 부하를 발생시킨다.

이에 대해 김 상무는 “AI 데이터 플랫폼의 핵심 과제는 읽기(Read) 성능이 아니다. 대규모 모델 학습 시 발생하는 체크포인트 쓰기 IO를 얼마나 효율적으로 수용하느냐에 달려 있다”면서 “모델 파라미터가 거대해질수록 한 번의 체크포인트 생성에만 수 TB의 쓰기 부하가 발생하며, 학습 오차를 줄이기 위해 이를 1시간에 수천 번씩 구동되는 부하를 견딜 수 있는 플랫폼은 흔치 않다. 폭발적인 쓰기 빈도와 장기 보관 요구를 동시에 해결하는 체크포인트 최적화에 집중해야 한다”고 설명했다.

김영석 상무는 이러한 문제를 EDC로 해결할 수 있다고 강조했다. EDC에는 성능 최적화를 위한 하드웨어 가속 기술이 포함됐다.

김 상무는 대표 기능으로 S3 오버 RDMA(S3 Over RDMA)와 키밸류 엑셀러레이터(KVA) 등을 제시했다. S3 오버 RDMA는 체크포인트 쓰기 성능 문제를 해결할 수 있는 기능이다. 기존 표준 S3 프로토콜이 가진 병목을 제거해 오브젝트 스토리지에서 고성능 파일시스템 수준의 속도를 내도록 설계됐다. GPU 메모리의 체크포인트 데이터를 스토리지로 보낼 때 CPU 간섭이 없다는 설명이다.

KVA는 LLM을 사용할 때 더 많은 업무를 빠르게 수행할 때 사용된다. 기존의 파일 시스템 방식이 아닌, 데이터 자체를 키와 값으로 처리해 중간 단계를 생략한다. 이를 통해 20배 빠른 추론, GPU 활용 극대화, 컴퓨팅 비용 절감이 가능하다.

김영석 상무는 “에버퓨어의 EDC를 사용하면 AI 도입 시 발생하는 성능 병목 현상을 제거할 수 있고, 미정제 데이터를 신속히 가치 있는 자산으로 전환할 수 있다. 마지막으로는 데이터 준비 과정의 기술적 장벽을 없앨 수 있다”면서 “AI가 인프라와 시스템에 실질적인 도움을 줄 수 있는 방향으로 기술을 발전시키고 있다. 앞으로도 AI 시대의 데이터 플랫폼으로서 고객들이 복잡한 인프라 걱정 없이 AI 성능을 극대화할 수 있도록 지원할 것”이라고 밝혔다.

- Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지 -