주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

비싼 엔비디아칩·고속망 없이도 학습 효율 100배 ↑…AI 신기술 등장

유니콘팩토리 조회수  


KAIST

연구팀이 개발한 스텔라트레인 프레임워크 모식도. GPU 활용률을 극대화하고 학습 시간을 단축하기 위해 CPU 기반 그래디언트를 최적화하는 한편 네트워크 상황에 따라 학습 내용의 크기를 실시간으로 조절하는 동적 최적화 기술을 적용했다. /사진=KAIST

고가의 GPU(그래픽 처리 장치)나 고속 네트워크 없이도 AI(인공지능) 모델을 학습시킬 수 있는 기술이 국내에서 나왔다.

KAIST(카이스트)는 한동수 전기및전자공학부 교수가 이끄는 연구팀이 미국 UC어바인대 연구팀과 함께 제한된 네트워크 환경에서도 AI 모델 학습 능력을 100배 이상 가속할 수 있는 기술을 개발했다고 19일 밝혔다.

AI 모델 학습을 위해선 엔비디아 H100 등 값비싼 고성능 서버용 GPU와 이들을 연결하기 위한 400Gbps(초당 기가비트)급 고속 네트워크를 갖춘 고가 인프라가 필요하다. 비용 문제는 IT 분야 중소기업 및 대학연구팀이 연구 인프라를 구축하는 데 가장 큰 걸림돌이라고 알려졌다.

한 교수 연구팀은 분산 학습 프레임워크 ‘스텔라트레인(StellaTrain)’을 개발했다. 엔비디아 H100의 20분의 1 가격 수준인 소비자용 GPU로 일반 인터넷 환경에서도 효율적으로 AI 학습이 가능하다.

저가 GPU를 사용할 때 AI 학습 속도가 느려지는 이유는 GPU의 메모리가 작고 네트워크 속도에 제한이 있기 때문이다. 연구팀은 CPU(중앙처리장치)와 GPU를 병렬로 활용해 학습 속도를 높였다. CPU와 GPU가 학습 내용을 작업 단계별로 나눠 병렬적으로 처리할 수 있도록 한 것. 또 GPU 간 데이터 전송량을 주변 네트워크 환경에 맞춰 유동적으로 줄이거나 늘릴 수 있도록 했다. 그 결과 고속 네트워크 없이도 여러 대 저가 GPU를 통한 빠른 학습이 가능해졌다.

연구팀이 스텔라트레인 기술을 적용한 결과, 기존 학습 방법에 비해 최대 104배까지 빠른 성능을 낼 수 있는 것으로 나타났다.

연구를 이끈 한 교수는 “이번 연구는 대규모 AI 모델 학습에 누구나 쉽게 접근할 수 있도록 하는 데 크게 기여할 것”이라며 “앞으로도 저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 기술을 계속 개발하겠다”고 밝혔다.

이번 연구는 지난 8월 호주 시드니에서 열린 ‘ACM SIGCOMM 2024’에서 발표됐다. 과학기술정보통신부 중견연구사업과 정보통신기획평가원(IITP) 정보통신·방송기술개발사업 및 표준개발지원사업, 차세대통신클라우드리더십구축사업,
삼성전자의 지원을 받았다.

한동수 KAIST 전기및전자공학부 교수 /사진=KAIST

유니콘팩토리
content@www.newsbell.co.kr

댓글0

300

댓글0

[뉴스] 랭킹 뉴스

  • [尹 임기반환점 ⑤] 호남 민심은…"더 어떠한 기대도 할 수가 없다"
  • [尹 임기반환점 ③] '보수 심장' TK서도 "尹, 더 잘해야…이재명·김건희 해결부터"
  • “기안84·침착맨도 건물주” 억대연봉 웹툰작가, 말못할 속사정은[일터 일침]
  • "갤럭시는 이게 더 편해" 구글이 따라올 수 없는 삼성 앱 5가지
  • “집이 흔들릴 정도로 강한 폭발”…포스코 포항제철소서 대형 화재
  • 국회 혼쭐에 기재부 “세수 결손으로 지급 미룬 ‘공자기금 이자’ 8兆, 내년 초 모두 지급”

[뉴스] 공감 뉴스

  • "여보, 이번엔 꼭 바꾸자"…제네시스, GV80 쿠페 재고떨이 돌입
  • "안창호 인권위가 차별금지법 반대? 가만 있지 않겠다…망해야 해"
  • ‘방산 세계화 끝판왕’ K-잠수함의 퀀텀 점프가 온다
  • "김건희 왕국 끝장내자"…민주당, 2차 장외집회 열어 尹정권 압박
  • “제 아내라고 변명하는 게 아니라...” 지지율 17% 납득하게 만든 125분
  • 양대 노총, 주말 도심 반정부 집회…경찰과 충돌 11명 체포

당신을 위한 인기글

  • 한국의 ‘쌈’ 문화와도 비슷한 멕시코 음식, 타코 맛집 BEST5
  • 한입에 가득 차는 풍요로움, 딤섬 맛집 BEST5
  • 입에 척척 달라 붙는 찰진 식감이 매력적인 육회 맛집 BEST5
  • 면발을 제대로 탐미할 수 있는 자가제면 맛집 BEST5
  • 엑소 백현 첫 단독 공연 실황 영화, 27일 글로벌 개봉
  • 지창욱·김형서 주연 ‘강남 비-사이드’, 공개 초반부터 글로벌 인기
  • 정우성·신현빈 “커플템 아니다” 교제설 부인
  • [위클리 포토] 모두가 기다린 김남길‧이하늬, 꿀조합의 귀환

함께 보면 좋은 뉴스

  • 1
    신한 SOL페이 2024-2025 핸드볼 H리그 10일 개막, 국내 최초 선수 AI 캐릭터 눈길

    스포츠 

  • 2
    '서머너즈 워' 챔피언까지 한걸음...커리안바오·레스트 SWC 결승 진출

    차·테크 

  • 3
    ‘200억’ 건물주 유재석, 자녀들이 받게 될 유산 공개

    연예 

  • 4
    '절도범 출연'… 백종원 새 예능 첫방도 전에 출연자 논란 터졌다

    연예 

  • 5
    한국전력 엘리안, 무릎 부상으로 시즌 아웃 가능성 높아

    스포츠 

[뉴스] 인기 뉴스

  • [尹 임기반환점 ⑤] 호남 민심은…"더 어떠한 기대도 할 수가 없다"
  • [尹 임기반환점 ③] '보수 심장' TK서도 "尹, 더 잘해야…이재명·김건희 해결부터"
  • “기안84·침착맨도 건물주” 억대연봉 웹툰작가, 말못할 속사정은[일터 일침]
  • "갤럭시는 이게 더 편해" 구글이 따라올 수 없는 삼성 앱 5가지
  • “집이 흔들릴 정도로 강한 폭발”…포스코 포항제철소서 대형 화재
  • 국회 혼쭐에 기재부 “세수 결손으로 지급 미룬 ‘공자기금 이자’ 8兆, 내년 초 모두 지급”

지금 뜨는 뉴스

  • 1
    신급 스킬 가진 천재 의사가 성형으로 나쁜 짓 일삼는 범죄자 '참교육'하는 신박한 드라마

    연예 

  • 2
    트럼프 2기 염두? TSMC, 中에 첨단 AI 반도체 공급 중단

    차·테크 

  • 3
    ‘최현석 딸 최연수♥’ 김태현 , 12살 나이 차이 코멘트에 보인 반응

    연예 

  • 4
    신차 내놓은 기아 “부담 확 줄였다”…기존 차주들 배 아플 새 소식

    차·테크 

  • 5
    포스텍 감독 "손흥민 부상관리, 홍명보호와 협력 필요"

    스포츠 

[뉴스] 추천 뉴스

  • "여보, 이번엔 꼭 바꾸자"…제네시스, GV80 쿠페 재고떨이 돌입
  • "안창호 인권위가 차별금지법 반대? 가만 있지 않겠다…망해야 해"
  • ‘방산 세계화 끝판왕’ K-잠수함의 퀀텀 점프가 온다
  • "김건희 왕국 끝장내자"…민주당, 2차 장외집회 열어 尹정권 압박
  • “제 아내라고 변명하는 게 아니라...” 지지율 17% 납득하게 만든 125분
  • 양대 노총, 주말 도심 반정부 집회…경찰과 충돌 11명 체포

당신을 위한 인기글

  • 한국의 ‘쌈’ 문화와도 비슷한 멕시코 음식, 타코 맛집 BEST5
  • 한입에 가득 차는 풍요로움, 딤섬 맛집 BEST5
  • 입에 척척 달라 붙는 찰진 식감이 매력적인 육회 맛집 BEST5
  • 면발을 제대로 탐미할 수 있는 자가제면 맛집 BEST5
  • 엑소 백현 첫 단독 공연 실황 영화, 27일 글로벌 개봉
  • 지창욱·김형서 주연 ‘강남 비-사이드’, 공개 초반부터 글로벌 인기
  • 정우성·신현빈 “커플템 아니다” 교제설 부인
  • [위클리 포토] 모두가 기다린 김남길‧이하늬, 꿀조합의 귀환

추천 뉴스

  • 1
    신한 SOL페이 2024-2025 핸드볼 H리그 10일 개막, 국내 최초 선수 AI 캐릭터 눈길

    스포츠 

  • 2
    '서머너즈 워' 챔피언까지 한걸음...커리안바오·레스트 SWC 결승 진출

    차·테크 

  • 3
    ‘200억’ 건물주 유재석, 자녀들이 받게 될 유산 공개

    연예 

  • 4
    '절도범 출연'… 백종원 새 예능 첫방도 전에 출연자 논란 터졌다

    연예 

  • 5
    한국전력 엘리안, 무릎 부상으로 시즌 아웃 가능성 높아

    스포츠 

지금 뜨는 뉴스

  • 1
    신급 스킬 가진 천재 의사가 성형으로 나쁜 짓 일삼는 범죄자 '참교육'하는 신박한 드라마

    연예 

  • 2
    트럼프 2기 염두? TSMC, 中에 첨단 AI 반도체 공급 중단

    차·테크 

  • 3
    ‘최현석 딸 최연수♥’ 김태현 , 12살 나이 차이 코멘트에 보인 반응

    연예 

  • 4
    신차 내놓은 기아 “부담 확 줄였다”…기존 차주들 배 아플 새 소식

    차·테크 

  • 5
    포스텍 감독 "손흥민 부상관리, 홍명보호와 협력 필요"

    스포츠 

공유하기