주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

‘기업전용 챗GPT’ 필요한데 데이터 학습·보안 난제…대안은?

머니투데이 조회수  

/사진=툴루즈 AFP=뉴스1
/사진=툴루즈 AFP=뉴스1

초거대 AI 상용화로 ‘○○ 전용 챗GPT’를 꿈꾸는 기업이 늘고 있다. 우리만의 데이터를 학습해 맞춤형 답변을 내놓으면서도 기업 기밀은 유출되지 않는 AI 챗봇을 바라는 것이다. 그러나 구글과 마이크로소프트(MS)가 API(응용프로그램인터페이스)로 제공하는 초거대 AI 언어모델(LLM)은 두 가지 모두 만족시키지 못한다. 챗GPT 커스터마이징이 어려운 이유인데, 국내 IT 기업들의 이를 해결하는 서비스를 마련하고 있다.

19일 업계에 따르면 구글과 MS는 LLM을 클라우드 서비스로 제공한다. 이 경우 GPU(그래픽처리장치) 같은 고가의 인프라를 구축하지 않아도 글로벌 빅테크의 LLM과 컴퓨팅파워를 임대할 수 있어 비용면에서 합리적이다. 다만 클라우드로 제공된 LLM은 기업별 파인튜닝(미세조정)이 어려운 데다, 데이터가 국외로 반출된다는 단점이 있다.

이같은 문제를 해결하고자 LLM을 온프레미스(구축형)로 설치하는 사례도 있다. 그러나 인프라 문제로 70억~650억 파라미터(매개변수) 규모의 sLLM(소형언어모델)에 그친다. 메타의 ‘라마’ 같은 오픈소스 LLM을 주로 활용하는데, 모델 크기가 작다 보니 챗GPT 같은 폭발적인 성능을 체험하기 어렵다. 온프레미스 방식으로 서비스하는 검증된 선도기업이 없다는 점도 한계다.

이주열 LG CNS 수석연구위원(상무)은 “구글·MS가 LLM 수정을 막아놓아 국내 많은 기업이 온프레미스를 요구한다. 특히 데이터 외부 반출을 우려하는 금융권의 요청이 많다”면서도 “GPT-4처럼 큰 모델을 온프레미스로 제공할 수 있을지는 미지수”라고 말했다. 향후 LLM을 온프레미스로 제공하는 기업이 늘어날 순 있지만 현재로선 장점보다 단점이 크다는 설명이다.

LG CNS·네이버클라우드 “데이터 학습·보안 한 번에”

LG CNS의 오케스트레이터 서비스 방식. /사진=LG CNS
LG CNS의 오케스트레이터 서비스 방식. /사진=LG CNS

이에 LG CNS는 검색증강생성(RAG) 기반의 ‘오케스트레이터’로 챗GPT의 데이터 학습·보안 한계를 줄인다. RAG란 생성형 AI와 검색형 AI를 결합한 기술로, 질문과 관련된 참고자료를 검색해 LLM에 미리 제공한다. 고객사에서 챗GPT에 질의를 입력하면 오케스트레이터가 고객사 데이터에서 관련 정보를 뽑아 챗GPT에 제공, 이를 기반으로 맞춤형 답변을 생성할 수 있게 하는 것이다.

이 상무는 “GPT-4는 최대 입력 토큰이 3만2000개로 한글 기준으론 약 1만2800자, A4 기준 8페이지에 불과해 기업에서 쓰는 문서를 한 번에 입력하기 어렵다”라며 “오케스트레이터는 이를 극복하는 대안”이라고 강조했다. 또 챗GPT에 고객이름·생년월일·자산규모 등 개인정보를 실수로 입력하더라도 오케스트레이터가 이를 감지, 가명 처리해 데이터 유출을 막는다.

네이버는 차세대 LLM ‘하이퍼클로바X’를 하이브리드형 ‘뉴로 클라우드’로 제공할 예정이다. 뉴로 클라우드란 네이버클라우드로 하이퍼클로바X를 이용하되 민감한 데이터는 고객사 데이터센터에 저장하는 서비스다. 하이퍼클라우드X를 기업 맞춤형으로 파인튜닝할 수 있는 도구도 제공한다. 클라우드와 온프레미스의 장점을 섞어 구글·MS에 대항한다는 방침이다.

하정우 네이버클라우드 AI 이노베이션 센터장은 앞서 머니투데이와의 인터뷰에서 “고객의 데이터센터에 하이퍼클로바X와 기업 데이터를 학습할 수 있는 인프라까지 제공하는 형태를 고려하고 있다”라며 “이렇게 되면 기업의 전문 분야에 대한 이해도도 높으면서 데이터 보안 문제까지 해결한 초거대 AI 서비스를 구축할 수 있다”라고 말했다.

머니투데이
content@www.newsbell.co.kr

댓글0

300

댓글0

[차·테크] 랭킹 뉴스

  • [SWC] 7세트 접전....신예 KELIANBAO, 챔피언 LEST 꺾고 최강자 '등극'
  • 기아, 고성능 테스트카 유출… 예상 밖 디자인에 ‘기대 폭발’
  • "포르쉐 타이칸 꼼짝마!" 로터스, 에메야 공개! 제로백 2.8초 고성능 전기 하이퍼 GT카 "플래그십 세단의 새로운 기준 제시"
  • 한국인들 사랑하는 BMW “역대급 신차 내놨다”… 벤츠 차주들 ‘어쩌나’
  • "고객의 선택 폭 넓혔다" 2025년형 제네시스 GV80 쿠페 '65만원' 가격 낮추고 고객 선택 다변화 전략을 통해 가격 인상 최소화
  • 연말까지 바이오텍 IPO 이어진다…온코닉테라퓨틱스·온코크로스 등 5~6곳

[차·테크] 공감 뉴스

  • 실태조사·중재기관 등 망 이용대가 해법 다양화…22대 국회 입법성과 기대
  • 현대차그룹, 美 생산 능력 100만대…車할부 감면 땐 '호재'
  • 고물가 속에서도 “‘압도적 인기”…10월 판매왕은 바로 이 車
  • 과거의 영광 뒤로 한 채 “현대차에 내줬다”…무슨 일이길래?
  • 애자일소다, 'AI 에이전트 시대: 보험의 미래를 그리다' 세미나 개최
  • 실적 선방한 이통사, '돈버는 AI' 구조 만든다

당신을 위한 인기글

  • 숯의 향이 배어 들어 풍미가 진한 숯불구이 맛집 BEST5
  • 재료에 따라서 맛은 천차만별! 파스타 맛집 BEST5
  • 굽는 방법에 따라서 맛도 달라지는 생선구이 맛집 BEST5
  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 톰 홀랜드·젠데이아 출연, 크리스토퍼 놀란 신작에 쏠리는 관심
  • ‘정년이’ 끝낸 김태리의 다음 행보, 첫 애니메이션 목소리 도전
  • [오늘 뭘 볼까] 정말 이상형은 있나?..영화 ‘다음 크리스마스에 만나요’
  • ‘정년이’의 초대장, ‘춘향전’→’자명고’ 잇는 ‘바보와 공주’

함께 보면 좋은 뉴스

  • 1
    막 오른 서울 사립초 입학전쟁…'1인당 최대 3곳' 지원 가능

    뉴스 

  • 2
    55조 식자재 시장 디지털 전환...요식업계 쿠팡 꿈꾸는 이 회사

    뉴스 

  • 3
    [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑤생성형 AI 이해와 활용법>

    뉴스 

  • 4
    [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>

    뉴스 

  • 5
    지상파 포함 전 채널 동시간대 1위 오른 OTT 한국 드라마 '정년이'…결말 향한 관심 폭발

    연예 

[차·테크] 인기 뉴스

  • [SWC] 7세트 접전....신예 KELIANBAO, 챔피언 LEST 꺾고 최강자 '등극'
  • 기아, 고성능 테스트카 유출… 예상 밖 디자인에 ‘기대 폭발’
  • "포르쉐 타이칸 꼼짝마!" 로터스, 에메야 공개! 제로백 2.8초 고성능 전기 하이퍼 GT카 "플래그십 세단의 새로운 기준 제시"
  • 한국인들 사랑하는 BMW “역대급 신차 내놨다”… 벤츠 차주들 ‘어쩌나’
  • "고객의 선택 폭 넓혔다" 2025년형 제네시스 GV80 쿠페 '65만원' 가격 낮추고 고객 선택 다변화 전략을 통해 가격 인상 최소화
  • 연말까지 바이오텍 IPO 이어진다…온코닉테라퓨틱스·온코크로스 등 5~6곳

지금 뜨는 뉴스

  • 1
    국제중 경쟁률 '역대 최고' "특목자사고 진학 유리"

    뉴스 

  • 2
    "아쉽지만, 가서도 잘하길…" 대만 도착 후 접한 엄상백 78억 FA 계약소식, 고영표·소형준과의 이별 [MD타이베이]

    스포츠 

  • 3
    '컴백 D-1' 한층 성장한 NCT DREAM이 선사할 청춘 동화, 'DREAMSCAPE'

    연예 

  • 4
    '차유람 꺾고 LPBA 23연승 신기록 작성'…김가영이 최초 4연속 우승 달성할까? 김민영과 격돌

    스포츠 

  • 5
    대한적십자사봉사회 하남지구협의회 사랑의 겨울 김장나눔실시

    뉴스 

[차·테크] 추천 뉴스

  • 실태조사·중재기관 등 망 이용대가 해법 다양화…22대 국회 입법성과 기대
  • 현대차그룹, 美 생산 능력 100만대…車할부 감면 땐 '호재'
  • 고물가 속에서도 “‘압도적 인기”…10월 판매왕은 바로 이 車
  • 과거의 영광 뒤로 한 채 “현대차에 내줬다”…무슨 일이길래?
  • 애자일소다, 'AI 에이전트 시대: 보험의 미래를 그리다' 세미나 개최
  • 실적 선방한 이통사, '돈버는 AI' 구조 만든다

당신을 위한 인기글

  • 숯의 향이 배어 들어 풍미가 진한 숯불구이 맛집 BEST5
  • 재료에 따라서 맛은 천차만별! 파스타 맛집 BEST5
  • 굽는 방법에 따라서 맛도 달라지는 생선구이 맛집 BEST5
  • 사이사이 골목길마다 맛과 감성이 살아 있는 문래 맛집 BEST5
  • 톰 홀랜드·젠데이아 출연, 크리스토퍼 놀란 신작에 쏠리는 관심
  • ‘정년이’ 끝낸 김태리의 다음 행보, 첫 애니메이션 목소리 도전
  • [오늘 뭘 볼까] 정말 이상형은 있나?..영화 ‘다음 크리스마스에 만나요’
  • ‘정년이’의 초대장, ‘춘향전’→’자명고’ 잇는 ‘바보와 공주’

추천 뉴스

  • 1
    막 오른 서울 사립초 입학전쟁…'1인당 최대 3곳' 지원 가능

    뉴스 

  • 2
    55조 식자재 시장 디지털 전환...요식업계 쿠팡 꿈꾸는 이 회사

    뉴스 

  • 3
    [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학생편:⑤생성형 AI 이해와 활용법>

    뉴스 

  • 4
    [에듀플러스×KERIS 공동캠페인]'다 함께 디지털리터러시'…<학부모편:⑤가정 내 디지털 사용 규칙 설정과 유지>

    뉴스 

  • 5
    지상파 포함 전 채널 동시간대 1위 오른 OTT 한국 드라마 '정년이'…결말 향한 관심 폭발

    연예 

지금 뜨는 뉴스

  • 1
    국제중 경쟁률 '역대 최고' "특목자사고 진학 유리"

    뉴스 

  • 2
    "아쉽지만, 가서도 잘하길…" 대만 도착 후 접한 엄상백 78억 FA 계약소식, 고영표·소형준과의 이별 [MD타이베이]

    스포츠 

  • 3
    '컴백 D-1' 한층 성장한 NCT DREAM이 선사할 청춘 동화, 'DREAMSCAPE'

    연예 

  • 4
    '차유람 꺾고 LPBA 23연승 신기록 작성'…김가영이 최초 4연속 우승 달성할까? 김민영과 격돌

    스포츠 

  • 5
    대한적십자사봉사회 하남지구협의회 사랑의 겨울 김장나눔실시

    뉴스 

공유하기