‘누구에게나 ‘시작’이 있고, 가보지 않은 길에는 두려움이 있다. 하지만 반드시 가야만 하는 길이 있다면, 먼저 가는 사람은 두려움을 넘어선 댓가를 충분히 얻을 수 있을 것이다. 앞으로 10년간의 ‘시대’를 상징할 단어로 꼽히는 ‘인공지능(AI)’ 시대로의 여정에 대해서도, 이제 우리 모두는 막 출발선을 벗어나기 시작했고, 아직 누구도 가보지 않은 길인 만큼 기대와 우려, 위기와 기회가 공존하는 혼란스러운 시대에 들어섰다.
앞으로 AI는 어떤 형태로든 우리의 일과 삶 모두를 크게 바꿀 기술이 될 것으로 기대되며, 그 변화는 지금 우리가 상상할 수 있는 범위를 아득히 넘어설 수도 있다는 예상까지 나온다. 반면 이에 대한 반대 의견으로는 AI 기술을 향한 기대에 대한 거품론과 지속가능성에 대한 의문도 나오고 있다. 모두가 AI 시대를 이야기하지만, 기업들이 실제 AI 시대에 진입하기 위해서는 비용적, 기술적 부담이 아주 큰 것도 사실이다.
엔비디아의 ‘젠슨 황(Jensen Huang)’ CEO가 처음 이야기했던 ‘AI 팩토리(AI Factory)’는 명칭 측면에서는 아주 새로운 개념인 것 같지만, 사실 엔터프라이즈 인프라 공급 업체들이라면 다들 생각했고 준비해 본 ‘턴키 솔루션’의 AI 버전이기도 하다. 그리고 델과 엔비디아의 협력으로 나온 ‘델 AI 팩토리 with 엔비디아’는 지금 당장 활용할 수 있는 ‘AI 공장’으로, 새로운 AI 시대의 시작에서 대두된 생소함을 극복하고 확신을 가지는 데 있어 명쾌한 답이 될 것이다.
AI 시대, 최적의 ‘AI 팩토리’ 입지를 찾아라
오늘날 누구나 AI의 핵심은 ‘데이터’라는 것에 동의한다. AI는 근본적으로 데이터 기반의 확률을 다루는 것이며, 이는 생성형 AI도 마찬가지다. 이미 나와 있는 모델들의 성능은 데이터의 양과 알고리즘의 효율성으로 결정되며, 훈련에 사용된 데이터의 양은 모델의 성능을 유추하는 중요한 요인으로 꼽힌다. 다른 면에서 보면, 데이터는 AI 시대 기업의 핵심 자산이 될 것이며, 데이터가 없다면 AI는 제대로 시작조차 할 수 없을 상황이다.
물론 데이터를 다룬다는 것이 그렇게 쉬운 일은 아니다. 단순히 쌓여 있는 데이터와 통찰력을 얻을 수 있게 정제된 데이터는 다른 의미고, AI에 활용하기 위해서는 이 데이터들을 AI에 쓸 수 있게 잘 다듬어야 한다. 델이 올해 초 전 세계 40개국 6600여명의 IT 및 비즈니스 리더들을 대상으로 실시한 ‘이노베이션 카탈리스트(Innovation Catalyst)’ 연구 결과에 따르면, 데이터를 통해 통찰력을 얻고 있는 기업은 전체의 30% 정도에 불과한 것으로 나타났다.
또한 가지고 있는 데이터를 마음대로 활용하는 것도 현실적으로 많은 어려움이 있다. 일단 아무리 초연결 시대라도 가장 큰 문제는 데이터의 ‘위치’다. 현재 기업들의 데이터 중 83%는 온프레미스에 있고, 기업 데이터의 50%는 엣지에서 생산되는 상황이다. 또한 기업 데이터의 상당 부분은 외부로의 이동이 허용되지 않기도 하고, 이런 제약이 없더라도 여러 사일로에 나뉘어 있는 데이터를 하나의 플랫폼으로 합치는 것이 말처럼 쉽지도 않다. 결국, AI 시대의 초기에는 클라우드가 주목받았지만, 점차 하이브리드나 온프레미스의 비중이 올라오는 것도 이 때문이다.
델이 제시하는 ‘AI 팩토리’의 최적의 입지는 ‘데이터 근처’다. 김경진 한국 델 테크놀로지스 총괄사장은 28일 코엑스에서 열린 ‘델 테크놀로지스 포럼 2024’의 기조 연설에서 “‘AI 팩토리’에 가장 중요한 관점은 ‘데이터 근접성’이다. AI 컴퓨팅 환경이 데이터가 있는 곳에 근접해 수행하는 것이 궁극적 목표”라고 제시했다. 수요가 있는 곳에 공장이 가듯이, 데이터가 있는 곳에 ‘AI 팩토리’를 위치시키는 것은 분명 정답이다. 특히 데이터가 있는 기업 안에 ‘AI 팩토리’가 들어가면, 데이터의 활용에 있어 많은 현실적 제약들이 사라진다.
하지만 이 ‘AI 팩토리’가 IT 전문가들이 많은 전문 클라우드 서비스를 떠나 ‘데이터’ 옆으로 가면 ‘기술’과 ‘지원’ 측면에서 문제가 생긴다. 실제 많은 기업들이 AI 기술의 변화를 따라가기 힘들어하며, AI 도입 과정에서 겪는 주요 난관 중에는 ‘비용’과 ‘인력’ 문제가 빠지지 않을 정도다. 여기에는 생소한 AI 인프라의 운영부터 데이터와 모델의 준비, 애플리케이션의 개발과 실제 활용에 이르기까지 모든 부분을 직접 해야 한다는 부담이 담겨 있다.
델이 ‘AI 팩토리’를 선보일 때 엔비디아와 함께 선보였다고 해서 이를 ‘GPU(그래픽처리장치)’ 중심으로 이해하는 것은 숲을 봐야 할 때 나뭇가지 한 개만 보는 우를 범하는 것일 수도 있다. ‘델 AI 팩토리 with 엔비디아’에는 엔비디아의 역할이 크지만, 엔비디아와 델의 하드웨어가 전부가 아니다. 오히려 AI 팩토리에서 하드웨어는 복잡할 수 있는 하드웨어 구성을 정형화되고 검증된 조합으로 블록처럼 쌓아 올려, ‘AI 도입’이라는 목적을 위한 첫 발부터 고민에 빠지지 않게 하는 역할로 봐야 할 것이다. 모듈형 설계와 확장성도 이 과정에서 자연스럽게 나온다.
피터 마스(Peter Marrs) 델 테크놀로지스 APJC(Asia Pacific, Japan and Greater China) 총괄사장도 이번 ‘델 테크놀로지스 포럼 2024’의 기조 연설에서 ‘AI 팩토리’를 소개하면서 델의 하드웨어보다는 생태계와 서비스를 더 강조했다. 델과 고객 모두 AI를 활용해 원하는 목적을 구현하는 과정에서 ‘핵심 목표’에 집중하는 것이 중요하다는 것이다. 이 때 ‘핵심 목표’가 하드웨어 데이터센터 인프라 구성만으로 끝나는 것이 아니라, 적절한 모델과 데이터, 애플리케이션을 갖추고 의미 있는 결과를 얻는 것임도 분명해 보인다.
환상에서 현실로 다가온 ‘AI 활용’ 시대, 핵심 가치에 집중할 때
얼마 전까지만 해도 AI 기술을 실제 업무 등에서 활용하는 것은 새로운 기술을 평가하고 가능성을 탐색한다는 개념이 컸지만, 최근에는 AI를 활용해 실제 삶과 업무에 유의미한 변화를 누리는 사례가 늘어나고 있다. 또한 클라우드 기반의 거대 모델 뿐만 아니라, 이제는 비교적 적은 규모의 인프라나 사용자의 PC, 스마트폰에서도 쓸 수 있는 온디바이스 모델에도 관심이 높아지고 있다. 이런 변화 또한 ‘AI 팩토리’와 마찬가지로 AI가 데이터가 있는 곳 가까이로 다가간 좋은 예로 볼 수 있을 것이다.
삼성SDS는 이번 ‘델 테크놀로지스 포럼 2024’의 기조연설을 통해 생성형 AI 기술을 이용한 업무 환경에서의 ‘하이퍼오토메이션(HyperAutomation)’ 개념을 소개하며, 이를 위한 인프라로 ‘삼성 클라우드 플랫폼’과 ‘델 AI 팩토리 with 엔비디아’를 사용한다고 밝혔다. 이러한 인프라 구성 위에서 생성형 AI 플랫폼 ‘패브릭스(FabriX)’나 협업 플랫폼 ‘브라이티 웍스(Brity Works)’, 데이터 플랫폼 ‘브라이틱스(Brightics)’ 등을 제공하고 있다. 여기서 클라우드와 델의 ‘AI 팩토리’ 양 쪽을 가리지 않는 데서, 델과 삼성SDS 모두 인프라보다는 솔루션을 ‘핵심 가치’로 두고 있음도 분명해 보인다.
삼성SDS는 AI를 이용한 업무 환경의 변화 측면에서 크게 세 가지 사례를 제시했다. 먼저 ‘코드 어시스턴트’는 개발자들의 코드 작성을 상당 부분 자동화해, 개발자들의 시간 낭비를 줄이고 중요한 작업에 더 많은 시간을 쓸 수 있게 해 준다. 특히 테스트 환경 등에서 기존의 3시간 분량 작업을 5~7분 정도까지 줄인 것으로도 소개됐다. 또한 고객 대응에 생성형 AI와 검색증강생성(RAG)을 활용해 15분 걸리던 작업을 2~3분 정도에 해결할 수 있었다고 밝혔다.
AI를 위한 컴퓨팅 환경이 데이터 근처에 위치한다는 ‘AI 팩토리’ 개념은 좀 더 크게 보면 지역별로 최적화된 ‘소버린 AI(Sovereign AI)’와도 연결될 수 있다. 지금까지 AI 기술은 미국 기업들 중심으로 움직인 게 분명했지만, 미국과 영어 문화권을 중심으로 만들어지고 훈련된 AI 기술은 이 범주를 넘어서는 사회에서는 능력이 떨어지는 것도 나타난다. 이는 모델이 만들어질 때 사용한 데이터의 양이나, 개발자들의 데이터에 대한 이해도 모두 영어권 쪽이 압도적인 데 따른 결과일 수도 있을 것이다.
한국은 글로벌 IT 시장에서 몇 가지 이유로 ‘특이한’ 존재로 꼽힌다. 그 이유 중 분명한 한 가지는 ‘독자 언어’에 기반한 데이터의 존재일 것이다. 특히 검색에서 네이버의 존재가 그렇고, 한글 기반의 데이터 생태계는 ‘한국형 AI’에서도 네이버에 경쟁력으로 작용하고 있다. 데이터 관련 정책이 까다로워지고 국내에서의 AI 사용 수준이 높아지면, ‘소버린 AI’에 대한 수요와 함께 지금까지 네이버클라우드가 해 왔던 노력들에 대한 평가도 더 높아질 것으로 보인다.
물론 ‘소버린 AI’에서도 인프라 영역은 해외의 기술을 기반으로 하지만, 이는 어찌 보면 ‘국제 표준’으로 다뤄야 할 영역이지 우리가 집중해야 할 ‘핵심 역량’은 아닐 수 있다. 이 때 ‘델 AI 팩토리’는 어느 AI 환경에서나 핵심 역량이 아닌 곳에 쓸 고민을 덜고, 그 만큼을 핵심 역량 구현에 더 투자함으로써 혁신을 가속화할 수 있을 것이다. AI 시대에 요구되는 인재상은 새로운 것을 빨리 배우고, 새로운 것을 잘 활용하는 창의적인 사람이 꼽히는데 ‘AI 팩토리’의 등장은 여러 모로 ‘창의성’의 중요성을 강조하는 계기가 되지 않았나 하는 생각도 든다.
권용만 기자 yongman.kwon@chosunbiz.com
댓글0