SKT, 텔코 LLM 기반 AI 고객센터 오픈…“상담 속도·품질 개선”

데일리안 2024.11.18 조회수

지난달부터 중순부터 단계적 적용

상담사 대신 정보 검색·정리하고

사진·문서 등 각종 서류 분류·처리

상담 결과 정리 시스템 오픈 예정

SK텔레콤 상담사가 AI 상담 업무 지원 시스템을 사용하는 모습. ⓒSKT

SK텔레콤은 자체 개발한 텔코(Telco) 거대언어모델(LLM)과 거대멀티모달모델(LMM)을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 지난달 중순부터 단계적으로 오픈했다고 18일 밝혔다.

우선 이 시스템은 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다. 이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 ‘퍼플렉시티’나 ‘챗GPT’처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다.

지난달 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 시키고 있다. 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

아울러 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 구비 서류들을 처리하고 있다. 이러한 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대된다.

지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했다. 향후에는 서류 내용까지 자동으로 판독해 처리할 수 있게 할 계획이다.

내달에는 고객 상담 결과를 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈한다. 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만, AI가 자동으로 처리를 해주게 되면 보다 빠르게 대기중인 고객들에게 상담을 제공할 수 있다. 고객들의 이전 상담 내용에 대해 빠르고 정확하게 파악할 수 있어 맞춤형 상담도 가능하다.

SK텔레콤은 정식 오픈에 앞서 한 달여간 베타 서비스를 운영했으며, 상담사들로부터 긍정적인 평가를 받았다는 설명이다.

이 시스템 구축을 위해 SK텔레콤은 앤트로픽 등 해외 주요 LLM 업체들과 협력해 다양한 통신 전문 지식을 학습한 텔코 LLM을 개발해 왔다. 아울러 텍스트를 넘어 다양한 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다.

그동안 SK텔레콤은 상담 대기 없이 콜봇을 통한 빠른 상담, 번거로운 절차 없이 고객 목소리만으로 본인 여부를 확인하는 성문 인증 등 다양한 AI 기술을 활용해왔다. 이제는 한발 더 나아가 텔코 LLM과 LMM을 활용하는 AI 상담 업무 지원 시스템을 통해 한층 더 빠르면서도 고품질의 상담을 제공할 수 있게 될 예정이다.

홍승태 SK텔레콤 고객가치혁신 담당은 “AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한 단계 더 도약 시키겠다”고 말했다.