연세대 미래캠퍼스는 지난달 테라텍과 함께 가우디2 활용 교육을 실시했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

연세대 미래캠퍼스가 최근 인텔의 인공지능(AI) 가속기 가우디2(Gaudi2) 서버를 도입하며 AI 연구·교육 인프라를 개선했다. 정보기술(IT) 솔루션업체 테라텍의 지원으로 최근 가우디2 활용 교육도 성공적으로 마쳤다.

인텔 가우디2는 24개 텐서 프로세서 코어(TPU)와 96GB의 HBM2E 메모리를 탑재, 훈련 성능과 에너지 효율성 측면에서 주목받고 있다. AI 모델 훈련과 추론에서 더 나은 가격 대비 성능(Price-to-Performance)을 제공하고, 전력 소비 면에서도 상대적 우위를 보인다. 가우디2는 2.45TB/sec 대역폭(bandwidth) 처리 능력을 보유했으며, BF16 형식에서는 최대 432테라플롭스(TFLOPS) 성능을 발휘할 수 있다.

가우디2는 오픈 생태계를 지향하는 인텔의 철학을 반영해 파이토치, 텐서플로, JAX 등 다양한 딥러닝 프레임워크와 호환성이 우수하다. 이는 연구자에게 더 큰 유연성을 제공한다. 개발자는 하바나 시냅스AI 소프트웨어 스택을 통해 기존 AI 워크로드를 쉽게 이식할 수 있다.

테라텍 관계자는 “연세대 미래캠퍼스와의 협력은 가우디2 기술의 교육· 연구 분야 적용 가능성을 보여주는 성공적인 사례”라며 “향후 다른 교육기관에도 동일한 방식으로 가우디2 도입을 지원하고 확산시킬 계획”이라고 말했다.

앞으로 디지털 헬스케어, 빅데이터 분석, AI 연구 등 다양한 학문 분야에서 가우디2의 활용이 주목된다. 교육 현장의 AI 인프라 혁신을 선도할 것으로 기대된다. 가우디2는 대규모 언어 모델(LLM) 훈련에서도 우수한 성능을 보이며, 의료 영상 분석이나 자연어 처리 같은 특화된 분야에서도 높은 활용도를 지원한다.

연세대 미래캠퍼스는 지난달 테라텍과 함께 가우디2 활용 교육을 실시했다.

<이미지를 클릭하시면 크게 보실 수 있습니다>

테라텍은 연세대 미래캠퍼스와의 협력을 시작으로 대학, 연구소 등 교육기관과의 긴밀한 협력을 통해 AI 하드웨어 생태계 확장에 적극 나설 방침이다.

최근 출시된 차세대 AI 가속기 가우디3에 대한 관심도 높아지고 있다. 올해 9월 공식 출시된 가우디3는 가우디2 대비 4배 향상된 연산 성능과 3배 증가한 메모리 대역폭, 개선된 에너지 효율을 제공하며 엔비디아 H100과 경쟁하고 있다.

테라텍 관계자는 “가우디3는 최대 8개 가속기를 통합할 수 있는 OAM 폼팩터를 채택하고 AI 모델을 더욱 빠르게 실행할 수 있는 능력을 갖췄다”면서 “AI 기술 발전의 전환점이 될 것”이라고 기대했다.

이호준 기자 newlevel@etnews.com

[Copyright © 전자신문. 무단전재-재배포금지]