지코어, 국내 첫 ‘H100’ GPU 기반 AI 클라우드 데이터센터 15일 개소

IT조선 2024.04.04 조회수

지코어(Gcore)가 15일 국내 사용자를 위한 ‘AI 특화’ 데이터센터를 인천에 공식 개소한다. 지코어는 NHN클라우드와 데이터센터 위치 선정에서부터 운영, 영업 등에 이르기까지 폭넓게 협력하고 있으며, 올해 말까지 GPU 규모를 초기 대비 3배 이상 확장한다는 계획이다.

지코어는 4일 서울 중구 더 플라자 호텔에서 기자간담회를 통해, 국내 사용자를 위한 AI 특화 데이터센터를 개소한다고 밝혔다. 이번에 지코어가 개소하는 데이터센터는 엔비디아의 ‘H100’ GPU 탑재 서버 40대로 구성돼, 총 GPU 수는 320개다.

이번에 선보이는 지코어의 H100 기반 AI 퍼블릭 클라우드 서비스의 인프라는 엔비디아의 H100 GPU 8개를 탑재한 서버 40대를 400Gbps(초당 기가비트 전송) 전송 속도의 인피니밴드 NDR(Infiniband NDR) 기반으로 클러스터링 구성했다. 지코어는 국내에서 ‘AI’ 영역에 특화된 서비스를 제공할 계획으로, NHN클라우드와는 데이터센터 입지 선정 수준에서부터 운영, 영업에 이르기까지 폭넓은 협력을 진행한다는 계획이다.

초기 ‘320개 GPU’, 올해 GPU 1000개 이상 규모로 확장 목표

자크 플리스(Jacques Flies) 주한 룩셈부르크 초대 대사는 이 자리에서 “룩셈부르크는 작은 국가지만 탁월한 디지털 인프라와 연결성으로 높은 IT 기업 경쟁력을 갖춘 나라다. 특히 유럽의 엄격한 개인정보보호 법률과 IT 비즈니스를 지원하는 혁신적 법적 프레임워크를 제공해, 전 세계 기업에 안정성과 높은 신뢰를 얻고 있다”고 소개하며, “지코어가 양 국의 산업 혁신과 기술 교류, 투자 확대 등의 미래 협력에도 큰 기틀이 되리라 생각한다”고 밝혔다.

정현용 지코어 한국지사장은 이 자리에서 데이터센터의 주요 내용에 대해 “지코어의 GPU 전용 데이터센터는 인천에 위치하며, 40개 서버에서 320개 GPU를 갖췄다”고 소개했다. 이어 “서버 한 대당 12KW(1만2000W) 전력을 소비하는 GPU 서버를 수십, 수백대를 수용하려면 데이터센터의 전력량이 중요하다. 데이터센터 입지 탐색 때부터 서울 근교에서는 조건을 만족시키는 곳을 찾기 쉽지 않았다. NHN클라우드와의 협력을 통해, 서울 근접성이나 향후 확장성 등을 고려해 현재의 위치를 선정했다” 고 밝혔다.

지코어의 이번 GPU 데이터센터에는 총 40대의 GPU 서버가 구축되며, 서버당 SXM5 타입의 엔비디아 H100 GPU가 8개 탑재돼 총 GPU 수는 320개다. 또한 이 서버들은 모두 400Gbps 대역폭의 인피니밴드 NDR로 연결하며, 각 서버당 총 대역폭은 3.2Tbps에 이른다.

또한 이번에 구축된 데이터센터의 규모는 시작점이며, 한국의 높은 AI 시장 잠재력에 대응해 올해 말까지 센터 규모를 GPU 1000개 이상 규모까지 확장할 계획이라고 언급했다. 이와 함께, 현재 가용할 수 있는 H100 뿐만 아니라, 엔비디아의 차기 GPU 모델인 H200이나 GB200 등에 이르기까지 최신 기술 기반 인프라도 지속적으로 구축할 계획이라고 덧붙였다.

정현용 지사장은 지코어의 데이터센터 개소에 대해 “이제 국내 AI 관련 기업들이 필요로 하는 GPU 자원 확보에 수십 주를 기다리거나 타국의 GPU 자원을 클라우드로 활용할 필요 없이, 지코어의 서비스를 통해 국내의 GPU 자원을 사용해 혜택을 볼 수 있을 것이다” 라고 강조했다.

한편, 지코어는 NHN클라우드와 지난해부터 전략적 협력 관계를 이어오고 있으며, 이번 데이터센터 개소에도 입지 선정에서부터 운영, 영업에 이르기까지 다양한 부분에서 협력하고 있다고 밝혔다. 그리고 NHN클라우드는 국내에서 GPU 클라우드에 풍부한 경험을 가지고 있으며, 국내 AI 시장에서 양 사는 공동 영업으로 매출 극대화와 함께, 더 나아가 각 사가 가진 클라우드 솔루션의 통합 등으로 시너지를 극대화하고, 글로벌 진출에까지 이를 수 있는 계기를 만들 수 있을 것이라 덧붙였다.

NHN클라우드와의 협력으로 구현, 성능과 향후 확장성까지 대비

김동훈 NHN클라우드 대표는 “지코어와 NHN클라우드는 시작이 ‘게임’인 것 등 공통점이 있고, 이런 부분이 협업 시작의 계기였다”고 소개하며, “양 사간 기술 역량에서는 서로의 강점이 있고, 협력으로 시너지를 기대할 수 있는 부분이 있다”고 밝혔다.

이어 “AI 엣지 데이터센터 등에서 NHN클라우드는 로컬 AI 데이터센터 구성의 전문성이 있고, 지코어는 CDN 서비스나 엣지 연결 경험의 전문성이 뛰어나다. 앞으로 엣지 기반 AI 서비스에서 양 사의 협력이 글로벌에서도 의미있는 성과를 낼 수 있을 것으로 기대한다” 고 덧붙였다.

김진용 지코어 프리세일즈 팀장은 “지코어는 효과적이고 신뢰성 높은 글로벌 네트워크에 강점이 있다”고 소개하며, 특히 ‘지연시간’ 측면에 강점이 있다고 소개했다. 이어 지코어의 글로벌 서비스 인프라에서는 범용적인 x86 프로세서 뿐 아니라 Arm 기반 서버 CPU 환경, 가속기에서는 엔비디아의 GPU 뿐만 아니라 그래프코어의 IPU 등에 이르기까지 다양한 구성을 제공하고 있다고 소개했다.

국내에 마련된 데이터센터에는 인텔의 프로세서와 엔비디아의 H100 GPU 기반의 환경이 구성된다. 그리고 국내에 데이터센터를 구축함으로써, 앞으로 AI 에 데이터가 더 중요해지는 상황에, 데이터 주권 등의 규제나 대규모 데이터의 이동 등 현실적 상황에서 ‘국내’ 데이터센터가 더 중요해질 것으로 전망했다.

지코어의 AI 퍼블릭 클라우드 서비스를 위한 국내 데이터센터는 서버당 8개의 H100 SXM5 GPU를 탑재한 서버 40대를 인피니밴드 NDR로 연결한 클러스터 구성이다. 각 노드는 두 개의 56코어 인텔 제온 플래티넘 8480+ 프로세서와 2TB 메모리, 3.84TB SSD 8개, 100Gbps 이더넷 두 개와 최대 8개의 400Gbps 인피니밴드 NDR 연결 등으로 최고 성능을 낼 수 있는 구성을 갖췄다. 그리고 각 GPU 단계에서는 GPU간 직접 연결 기술인 ‘NV링크(NVLink)’ 연결도 갖췄다.

또한 이 GPU 서버를 클라우드로 서비스하기 위한 기반 인프라로는 10대의 컴퓨트 노드, 2개의 네트워크 노드, 3대의 컨트롤 노드와 3대의 언더 클라우드 인프라 등이 갖춰져 있다. 이와 함께, UFM(Unified Fabric Manager)으로 관리되는 논블록킹 클러스터는 핫 스페어와 콜드 스페어가 각각 구성돼 GDPR 서비스 품질 기준을 충족한다.

이 외에도, 데이터센터 시설 측면에서는 고전력 GPU서버를 위한 랙 당 22KW의 대용량 전력 설계와 6MW 급 전력공급망으로, 현재는 물론 향후 확장성에도 대응했다고 밝혔다. 또한 냉각 성능을 고려한 공조 시뮬레이션 디자인 등을 적용해 인프라 성능을 최적화했다고 소개했다.

권용만 기자 yongman.kwon@chosunbiz.com