생성형 AI 서비스 구축 기간 30%이상 단축… 운영비용도 10% 이상 절감
SK C&C는 3일 기업이 보유한 클라우드 환경에 맞춰 빠르고 편리하게 생성형 AI를 연동하고 AI 서비스를 전개할 수 있도록 지원하는 ‘AI 랜딩존 서비스’를 제공한다고 밝혔다.ⓒSK C&C
사용하는 클라우드 종류에 상관없이 다양한 생성형 AI를 손쉽게 불러 사용하고, 기업 상황에 맞춰 AI 서비스 개발 및 운영을 지원하는 AI 특화 클라우드 서비스가 나왔다.
SK C&C는 3일 기업이 보유한 클라우드 환경에 맞춰 빠르고 편리하게 생성형 AI를 연동하고 AI 서비스를 전개할 수 있도록 지원하는 ‘AI 랜딩존 서비스’를 제공한다고 밝혔다.
AI 랜딩존 서비스는 클라우드 자원을 안전하게 배포하고 관리하는 플랫폼인 랜딩존에서 IaC(Infrastructure as Code, 코드형 인프라)를 기반으로 생성형 AI 모델을 쉽고 빠르게 생성하고 관리할 수 있는 AI 특화 클라우드 관리 서비스다.
물리적인 하드웨어 구성이나 인터페이스 도구 없이 프로그래밍 코드로 인프라를 구성하고 관리하는 IaC를 생성형 AI 서비스 개발 및 운용에 적극 활용할 수 있게 한 것이다.
SK C&C는 금융 및 제조 등 주요 산업 고객들과 함께 진행한 여러 엔터프라이즈 AI 개발 사업에서 AI 랜딩존 서비스 우수성과 실효성을 확인했다.
실제로 AI 랜딩존을 도입한 결과, 생성형 AI 서비스 구축 기간이 30% 이상 단축됐고, 운영 비용도 10% 이상 절감됐다.
‘AI 랜딩존’이 보유한 가장 큰 서비스 강점은 아마존웹서비스(AWS), MS 애저, 구글 클라우드 등 어떤 클라우드를 사용하든 다양한 LLM(거대언어모델)을 빠르게 연계하고 활용할 수 있다는 점이다.
상용 LLM뿐만 아니라 오픈 LLM도 활용할 수 있는 API를 기본적으로 제공해 고객들은 AI 랜딩존 서비스만으로 원하는 다양한 LLM을 손쉽게 호출하고 활용할 수 있다.
SK C&C는 고객이 원하는 생성형 AI 서비스 규모에 따라 ▲베이직 AI 랜딩존 ▲스탠다드 AI 랜딩존 ▲엔터프라이즈 AI 랜딩존을 제공한다.
베이직 AI 랜딩존은 AI 서비스를 시범 도입하려는 고객에게 적합하며, 일부 특정 업무에 국한된 AI 서비스를 구현하고 테스트하는 데 유용하다. 여러 LLM을 시범 테스트하며 서비스 적용 적합성을 빠르게 확인할 수 있다.
스탠다드 AI 랜딩존은 RAG(검색증강생성) 기술을 탑재하고, LLM과 기업 내부 지식 베이스를 연계해 좀 더 정확하고 신뢰할 수 있는 답변을 생성하도록 설계했다. 이를 활용하면 기업 데이터 기반 AI 챗봇, AI 사내 지식 검색 서비스 등을 손쉽게 만들 수 있다. 생성형 AI 서비스 전환에 필요한 핵심 기능 구성 및 보안 기능도 갖추고 있다.
엔터프라이즈 AI 랜딩존은 대규모 AI 서비스를 기획하는 고객에게 적합하다. ML(머신러닝)·DL(딥러닝) 기술 지원은 물론, 빠른 AI 서비스 전개 및 배포를 위한 MLOps(머신러닝 오퍼레이션), LLMOps(거대언어모델 오퍼레이션) 등도 제공한다.
이를 활용하면 여러 클라우드 네이티브 시스템과 연계해 다양한 ML·DL 서비스와 생성형 AI 서비스를 고객 디지털 IT 체계에 맞춰 통합 관리·운영 할 수 있다.
SK C&C는 고객 클라우드와 연계한 생성형 AI 종합 컨설팅 서비스도 제공한다. 이를 활용하면 생성형 AI 서비스 발굴, 기획, 구축, 검증에 이르는 전 과정에 걸쳐 고객에 맞는 클라우드 환경 구성뿐만 아니라 AI 랜딩존 서비스 선택과 연계를 지원받을 수 있다.
또한 AI 랜딩존에 ISMS(정보보호 관리체계 인증) 가이드를 준수한 보안 표준 정책을 적용하여, LLM을 연계하고 활용할 때도 안전한 정보보안 체제를 유지할 수 있도록 했다.
이지선 SK C&C Cloud Platform그룹장은 “AI 랜딩존은 LLM을 활용해 AI 서비스를 전개하려는 기업들에게 가장 안전하고 비용 효율적인 클라우드 솔루션이 될 것”이라며 “고객이 필요로 하는 AI 서비스 규모에 맞춰 언제든 빠르고 완벽한 AI 랜딩존을 제공해 고객이 지속적으로 엔터프라이즈 AI 혁신을 이룰 수 있도록 적극 지원하겠다”고 말했다.
댓글0