주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

‘기업전용 챗GPT’ 필요한데 데이터 학습·보안 난제…대안은?

머니투데이 조회수  

/사진=툴루즈 AFP=뉴스1
/사진=툴루즈 AFP=뉴스1

초거대 AI 상용화로 ‘○○ 전용 챗GPT’를 꿈꾸는 기업이 늘고 있다. 우리만의 데이터를 학습해 맞춤형 답변을 내놓으면서도 기업 기밀은 유출되지 않는 AI 챗봇을 바라는 것이다. 그러나 구글과 마이크로소프트(MS)가 API(응용프로그램인터페이스)로 제공하는 초거대 AI 언어모델(LLM)은 두 가지 모두 만족시키지 못한다. 챗GPT 커스터마이징이 어려운 이유인데, 국내 IT 기업들의 이를 해결하는 서비스를 마련하고 있다.

19일 업계에 따르면 구글과 MS는 LLM을 클라우드 서비스로 제공한다. 이 경우 GPU(그래픽처리장치) 같은 고가의 인프라를 구축하지 않아도 글로벌 빅테크의 LLM과 컴퓨팅파워를 임대할 수 있어 비용면에서 합리적이다. 다만 클라우드로 제공된 LLM은 기업별 파인튜닝(미세조정)이 어려운 데다, 데이터가 국외로 반출된다는 단점이 있다.

이같은 문제를 해결하고자 LLM을 온프레미스(구축형)로 설치하는 사례도 있다. 그러나 인프라 문제로 70억~650억 파라미터(매개변수) 규모의 sLLM(소형언어모델)에 그친다. 메타의 ‘라마’ 같은 오픈소스 LLM을 주로 활용하는데, 모델 크기가 작다 보니 챗GPT 같은 폭발적인 성능을 체험하기 어렵다. 온프레미스 방식으로 서비스하는 검증된 선도기업이 없다는 점도 한계다.

이주열 LG CNS 수석연구위원(상무)은 “구글·MS가 LLM 수정을 막아놓아 국내 많은 기업이 온프레미스를 요구한다. 특히 데이터 외부 반출을 우려하는 금융권의 요청이 많다”면서도 “GPT-4처럼 큰 모델을 온프레미스로 제공할 수 있을지는 미지수”라고 말했다. 향후 LLM을 온프레미스로 제공하는 기업이 늘어날 순 있지만 현재로선 장점보다 단점이 크다는 설명이다.

LG CNS·네이버클라우드 “데이터 학습·보안 한 번에”

LG CNS의 오케스트레이터 서비스 방식. /사진=LG CNS
LG CNS의 오케스트레이터 서비스 방식. /사진=LG CNS

이에 LG CNS는 검색증강생성(RAG) 기반의 ‘오케스트레이터’로 챗GPT의 데이터 학습·보안 한계를 줄인다. RAG란 생성형 AI와 검색형 AI를 결합한 기술로, 질문과 관련된 참고자료를 검색해 LLM에 미리 제공한다. 고객사에서 챗GPT에 질의를 입력하면 오케스트레이터가 고객사 데이터에서 관련 정보를 뽑아 챗GPT에 제공, 이를 기반으로 맞춤형 답변을 생성할 수 있게 하는 것이다.

이 상무는 “GPT-4는 최대 입력 토큰이 3만2000개로 한글 기준으론 약 1만2800자, A4 기준 8페이지에 불과해 기업에서 쓰는 문서를 한 번에 입력하기 어렵다”라며 “오케스트레이터는 이를 극복하는 대안”이라고 강조했다. 또 챗GPT에 고객이름·생년월일·자산규모 등 개인정보를 실수로 입력하더라도 오케스트레이터가 이를 감지, 가명 처리해 데이터 유출을 막는다.

네이버는 차세대 LLM ‘하이퍼클로바X’를 하이브리드형 ‘뉴로 클라우드’로 제공할 예정이다. 뉴로 클라우드란 네이버클라우드로 하이퍼클로바X를 이용하되 민감한 데이터는 고객사 데이터센터에 저장하는 서비스다. 하이퍼클라우드X를 기업 맞춤형으로 파인튜닝할 수 있는 도구도 제공한다. 클라우드와 온프레미스의 장점을 섞어 구글·MS에 대항한다는 방침이다.

하정우 네이버클라우드 AI 이노베이션 센터장은 앞서 머니투데이와의 인터뷰에서 “고객의 데이터센터에 하이퍼클로바X와 기업 데이터를 학습할 수 있는 인프라까지 제공하는 형태를 고려하고 있다”라며 “이렇게 되면 기업의 전문 분야에 대한 이해도도 높으면서 데이터 보안 문제까지 해결한 초거대 AI 서비스를 구축할 수 있다”라고 말했다.

머니투데이
content@www.newsbell.co.kr

댓글0

300

댓글0

[차·테크] 랭킹 뉴스

  • [체험기] 코믹함이 돋보인 MMORPG ‘환세취호전 온라인’
  • “선진국, 주파수 재할당 대가 안받아…산정 방식 검토 필요”
  • [리뷰] 과거에는 사회 문제까지 일으켰던 전설의 게임 ‘드래곤 퀘스트 3 HD-2D’
  • 60년대 영광 현재로 옮기다, 포드 머스탱 쿠페 [시승기] 
  • 새롭게 등장한 신형 세단 프로토타입, 라인업 확장하며 “또 중국 시장 노린다?”
  • ‘트펌프 당선’ 불확실성 높아진 반도체 업계…특별법‧HBM 대안 될까 

[차·테크] 공감 뉴스

  • "나 오늘 골골이 샀다" 카카오 캐릭터 주목받는 이유는
  • 3040 사로잡은 클래식 게임, 열풍 계속될까
  • 마카오 그랑프리를 더 완벽하게 즐기는 방법 (2) - 특별한 미식 여행의 경험
  • 치열해지는 폐렴구균 백신 경쟁… “新백신 NIP 진입 여부가 관건”
  • ‘미스터 마카오’ 에도아르도 모르타라, 아쉬움 속 제71회 마카오 그랑프리 마쳐
  • 블루아카 근본 of 근본 윤하 "올 때 마다 여러분 열정 느껴요"

당신을 위한 인기글

  • 마트에서 파는 ‘계란’ 살 때 이것 꼭 알고 구매하세요!
  • ‘물티슈도 아끼라더니’.. 김종국 밝혀진 O억대 수입차에 난리 난 상황
  • 새롭게 등장한 신형 세단 프로토타입, 라인업 확장하며 “또 중국 시장 노린다?”
  • ‘강릉 박물관 4곳 추천’ 강릉 여행에서 만나는 지식의 향연~!
  • “공무원 일 똑바로 안 하나” 순정 차량인데 불법 튜닝 과태료는 왜 줘?
  • “시속 454km” 부가티 미스트랄, 지붕 없이 세계 기록 세운 위엄
  • “짜릿하다” 싸커킥 맞은 대리기사, 가해자 참교육 성공했다
  • ‘물티슈도 아끼라더니’.. 김종국 밝혀진 O억대 수입차에 난리 난 상황

함께 보면 좋은 뉴스

  • 1
    마산합포구, 상생발전 위해 지역 경제 양대 축과 힘 합친다

    뉴스 

  • 2
    ART OF LIVING

    연예 

  • 3
    민경훈♥ 와이프 신기은 PD 결혼식, 방송서 최초 공개 (+나이, 예비신부)

    연예 

  • 4
    “좀…” 민경훈 결혼식서 사회자 유력했던 서장훈이 머뭇거린건 솔직한 배려가 느껴진다

    연예 

  • 5
    "최고 5억3000만원"…한때 교황청 금서 목록 올랐던 '이 책' 경매 나온다

    뉴스 

[차·테크] 인기 뉴스

  • [체험기] 코믹함이 돋보인 MMORPG ‘환세취호전 온라인’
  • “선진국, 주파수 재할당 대가 안받아…산정 방식 검토 필요”
  • [리뷰] 과거에는 사회 문제까지 일으켰던 전설의 게임 ‘드래곤 퀘스트 3 HD-2D’
  • 60년대 영광 현재로 옮기다, 포드 머스탱 쿠페 [시승기] 
  • 새롭게 등장한 신형 세단 프로토타입, 라인업 확장하며 “또 중국 시장 노린다?”
  • ‘트펌프 당선’ 불확실성 높아진 반도체 업계…특별법‧HBM 대안 될까 

지금 뜨는 뉴스

  • 1
    '제2의 메시' 라민 야말, 바르셀로나와 장기 재계약 임박...'6년 계약+바이아웃 1조 5000억' 합의 완료

    스포츠 

  • 2
    '발롱도르 위너' 조만간 돌아온다...펩 과르디올라 직접 컨펌 "1월에 복귀 예정, 회복 잘 진행 중"

    스포츠 

  • 3
    박동원·이지영 나갔는지 얼마나 됐다고…영웅들 NEW 안방왕국 기틀 다졌다, 31세 다년계약 포수 존재감

    스포츠 

  • 4
    “플라스틱 그만” 나이·국경 없이 한목소리 낸 사람들: 손팻말까지 눈길을 확~ 끌었다

    뉴스 

  • 5
    23년차 환경공무관이 길에서 직접 겪은 사건 : 이이경 표정=내 표정이 되고 말았다

    연예 

[차·테크] 추천 뉴스

  • "나 오늘 골골이 샀다" 카카오 캐릭터 주목받는 이유는
  • 3040 사로잡은 클래식 게임, 열풍 계속될까
  • 마카오 그랑프리를 더 완벽하게 즐기는 방법 (2) - 특별한 미식 여행의 경험
  • 치열해지는 폐렴구균 백신 경쟁… “新백신 NIP 진입 여부가 관건”
  • ‘미스터 마카오’ 에도아르도 모르타라, 아쉬움 속 제71회 마카오 그랑프리 마쳐
  • 블루아카 근본 of 근본 윤하 "올 때 마다 여러분 열정 느껴요"

당신을 위한 인기글

  • 마트에서 파는 ‘계란’ 살 때 이것 꼭 알고 구매하세요!
  • ‘물티슈도 아끼라더니’.. 김종국 밝혀진 O억대 수입차에 난리 난 상황
  • 새롭게 등장한 신형 세단 프로토타입, 라인업 확장하며 “또 중국 시장 노린다?”
  • ‘강릉 박물관 4곳 추천’ 강릉 여행에서 만나는 지식의 향연~!
  • “공무원 일 똑바로 안 하나” 순정 차량인데 불법 튜닝 과태료는 왜 줘?
  • “시속 454km” 부가티 미스트랄, 지붕 없이 세계 기록 세운 위엄
  • “짜릿하다” 싸커킥 맞은 대리기사, 가해자 참교육 성공했다
  • ‘물티슈도 아끼라더니’.. 김종국 밝혀진 O억대 수입차에 난리 난 상황

추천 뉴스

  • 1
    마산합포구, 상생발전 위해 지역 경제 양대 축과 힘 합친다

    뉴스 

  • 2
    ART OF LIVING

    연예 

  • 3
    민경훈♥ 와이프 신기은 PD 결혼식, 방송서 최초 공개 (+나이, 예비신부)

    연예 

  • 4
    “좀…” 민경훈 결혼식서 사회자 유력했던 서장훈이 머뭇거린건 솔직한 배려가 느껴진다

    연예 

  • 5
    "최고 5억3000만원"…한때 교황청 금서 목록 올랐던 '이 책' 경매 나온다

    뉴스 

지금 뜨는 뉴스

  • 1
    '제2의 메시' 라민 야말, 바르셀로나와 장기 재계약 임박...'6년 계약+바이아웃 1조 5000억' 합의 완료

    스포츠 

  • 2
    '발롱도르 위너' 조만간 돌아온다...펩 과르디올라 직접 컨펌 "1월에 복귀 예정, 회복 잘 진행 중"

    스포츠 

  • 3
    박동원·이지영 나갔는지 얼마나 됐다고…영웅들 NEW 안방왕국 기틀 다졌다, 31세 다년계약 포수 존재감

    스포츠 

  • 4
    “플라스틱 그만” 나이·국경 없이 한목소리 낸 사람들: 손팻말까지 눈길을 확~ 끌었다

    뉴스 

  • 5
    23년차 환경공무관이 길에서 직접 겪은 사건 : 이이경 표정=내 표정이 되고 말았다

    연예 

공유하기