주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기 주요 메뉴 바로가기 (하단)

비싼 엔비디아칩·고속망 없이도 학습 효율 100배 ↑…AI 신기술 등장

유니콘팩토리 조회수  


KAIST

연구팀이 개발한 스텔라트레인 프레임워크 모식도. GPU 활용률을 극대화하고 학습 시간을 단축하기 위해 CPU 기반 그래디언트를 최적화하는 한편 네트워크 상황에 따라 학습 내용의 크기를 실시간으로 조절하는 동적 최적화 기술을 적용했다. /사진=KAIST

고가의 GPU(그래픽 처리 장치)나 고속 네트워크 없이도 AI(인공지능) 모델을 학습시킬 수 있는 기술이 국내에서 나왔다.

KAIST(카이스트)는 한동수 전기및전자공학부 교수가 이끄는 연구팀이 미국 UC어바인대 연구팀과 함께 제한된 네트워크 환경에서도 AI 모델 학습 능력을 100배 이상 가속할 수 있는 기술을 개발했다고 19일 밝혔다.

AI 모델 학습을 위해선 엔비디아 H100 등 값비싼 고성능 서버용 GPU와 이들을 연결하기 위한 400Gbps(초당 기가비트)급 고속 네트워크를 갖춘 고가 인프라가 필요하다. 비용 문제는 IT 분야 중소기업 및 대학연구팀이 연구 인프라를 구축하는 데 가장 큰 걸림돌이라고 알려졌다.

한 교수 연구팀은 분산 학습 프레임워크 ‘스텔라트레인(StellaTrain)’을 개발했다. 엔비디아 H100의 20분의 1 가격 수준인 소비자용 GPU로 일반 인터넷 환경에서도 효율적으로 AI 학습이 가능하다.

저가 GPU를 사용할 때 AI 학습 속도가 느려지는 이유는 GPU의 메모리가 작고 네트워크 속도에 제한이 있기 때문이다. 연구팀은 CPU(중앙처리장치)와 GPU를 병렬로 활용해 학습 속도를 높였다. CPU와 GPU가 학습 내용을 작업 단계별로 나눠 병렬적으로 처리할 수 있도록 한 것. 또 GPU 간 데이터 전송량을 주변 네트워크 환경에 맞춰 유동적으로 줄이거나 늘릴 수 있도록 했다. 그 결과 고속 네트워크 없이도 여러 대 저가 GPU를 통한 빠른 학습이 가능해졌다.

연구팀이 스텔라트레인 기술을 적용한 결과, 기존 학습 방법에 비해 최대 104배까지 빠른 성능을 낼 수 있는 것으로 나타났다.

연구를 이끈 한 교수는 “이번 연구는 대규모 AI 모델 학습에 누구나 쉽게 접근할 수 있도록 하는 데 크게 기여할 것”이라며 “앞으로도 저비용 환경에서도 대규모 AI 모델을 학습할 수 있는 기술을 계속 개발하겠다”고 밝혔다.

이번 연구는 지난 8월 호주 시드니에서 열린 ‘ACM SIGCOMM 2024’에서 발표됐다. 과학기술정보통신부 중견연구사업과 정보통신기획평가원(IITP) 정보통신·방송기술개발사업 및 표준개발지원사업, 차세대통신클라우드리더십구축사업,
삼성전자의 지원을 받았다.

한동수 KAIST 전기및전자공학부 교수 /사진=KAIST

유니콘팩토리
content@www.newsbell.co.kr

댓글0

300

댓글0

[뉴스] 랭킹 뉴스

  • "여보, 이번엔 진짜 바꾸자"…아반떼 가격에 사는 더 뉴 SM6
  • 첫눈 예보까지... 기상청이 발표한 다음주 날씨 예보, 정말이지 심상치 않다
  • "ㄷ여대 출신, 걸러내고 싶다…며느리도 안 받아" 산업인력공단 이사장 SNS 보니
  • 머스크 "트럼프 패배할 거라며?" 베이조스 "100% 사실 아냐"…SNS 설전, 왜?
  • "1명 죽으며 100명 처형하라"…1800만 독일군 모두가 자발적 처형자?
  • 해병대사령부, 연평도 포격전 제14주년 전투영웅 추모 및 전승기념행사 거행 / 해병대 제공

[뉴스] 공감 뉴스

  • 2355만원에 사는 가성비 중형 SUV…폭탄 할인 들어간 QM6
  • 디지털 위안화 구상 대부 中 야오첸 낙마 충격
  • 민주당, 박장범 KBS사장 임명에 “김건희 방송 선포”
  • "정말 이 가격이라고요?"…1856만원 초특급 가성비 SUV의 정체
  • 한화오션, 美 함정 정비사업 추가 수주…트럼프 “한국 조선업의 협력 필요”
  • "거야의 망나니 칼춤"…'칼질'에 걸레짝 돼가는 예산안

당신을 위한 인기글

  • 매일쓰게되는 무신사뷰티 추천템
  • ‘성남 맛집 추천’ 다양한 세대가 공존하는 모란 맛집 BEST 3
  • KBS 네번 탈락했지만 이제는 KBS 간판 된 연예인
  • “중국과 손잡고 새로운 전기차 만든다” 했던 브랜드, 차세대 모델의 제원 공개…
  • “무판 오토바이에 절도, 무단 침입!” 갈 때까지 간 요즘 학생들
  • “포르쉐 사려다 기아차 산다고?” 가성비 끝판왕 고성능 스포츠차 나왔다!
  • “발등에 불떨어진 KGM” 서울 강남 공략해 액티언 알린다
  • ‘뺑소니 무죄라고?’.. 압구정 롤스로이스 男, 판결에 네티즌들 ‘격분’

함께 보면 좋은 뉴스

  • 1
    '놀토' 이준X화사X이무진, 찐친 도레들과 유쾌한 받쓰

    연예 

  • 2
    '케인이 김민재와 훈련하는 것 싫어한다'…바이에른 뮌헨 콤파니 감독 폭로

    스포츠 

  • 3
    "내 연봉 오버? 내돈 아니잖아" 만장일치 MVP는 개의치 않는다, 천재타자 향한 진심 가득한 '러브콜'

    스포츠 

  • 4
    27년 기술력 담은 신차 공개에 “업계 들썩”… 이것이 세계 1위의 ‘위엄’

    차·테크 

  • 5
    '나솔사계' 미스터 백김, 10기 정숙과 ‘썸’일까 ‘쌈’일까?

    연예 

[뉴스] 인기 뉴스

  • "여보, 이번엔 진짜 바꾸자"…아반떼 가격에 사는 더 뉴 SM6
  • 첫눈 예보까지... 기상청이 발표한 다음주 날씨 예보, 정말이지 심상치 않다
  • "ㄷ여대 출신, 걸러내고 싶다…며느리도 안 받아" 산업인력공단 이사장 SNS 보니
  • 머스크 "트럼프 패배할 거라며?" 베이조스 "100% 사실 아냐"…SNS 설전, 왜?
  • "1명 죽으며 100명 처형하라"…1800만 독일군 모두가 자발적 처형자?
  • 해병대사령부, 연평도 포격전 제14주년 전투영웅 추모 및 전승기념행사 거행 / 해병대 제공

지금 뜨는 뉴스

  • 1
    투바투, 'MAMA' 2관왕…'팬스 초이스' 6년 연속 수상

    연예 

  • 2
    ‘서울 둘레길 추천’ 서울 한양도성길을 따라 산책하는 북악산 창의문-혜화문 코스

    여행맛집 

  • 3
    ‘여고생 팬과 결혼’한 가수, 그녈 위해 앨범까지..

    연예 

  • 4
    비투비, 만찢 비주얼! 'Be Alright' 단체포토 공개

    연예 

  • 5
    화사·소향·안신애, ‘나라는 가수'서 아이유·심수봉·조덕배 소환

    연예 

[뉴스] 추천 뉴스

  • 2355만원에 사는 가성비 중형 SUV…폭탄 할인 들어간 QM6
  • 디지털 위안화 구상 대부 中 야오첸 낙마 충격
  • 민주당, 박장범 KBS사장 임명에 “김건희 방송 선포”
  • "정말 이 가격이라고요?"…1856만원 초특급 가성비 SUV의 정체
  • 한화오션, 美 함정 정비사업 추가 수주…트럼프 “한국 조선업의 협력 필요”
  • "거야의 망나니 칼춤"…'칼질'에 걸레짝 돼가는 예산안

당신을 위한 인기글

  • 매일쓰게되는 무신사뷰티 추천템
  • ‘성남 맛집 추천’ 다양한 세대가 공존하는 모란 맛집 BEST 3
  • KBS 네번 탈락했지만 이제는 KBS 간판 된 연예인
  • “중국과 손잡고 새로운 전기차 만든다” 했던 브랜드, 차세대 모델의 제원 공개…
  • “무판 오토바이에 절도, 무단 침입!” 갈 때까지 간 요즘 학생들
  • “포르쉐 사려다 기아차 산다고?” 가성비 끝판왕 고성능 스포츠차 나왔다!
  • “발등에 불떨어진 KGM” 서울 강남 공략해 액티언 알린다
  • ‘뺑소니 무죄라고?’.. 압구정 롤스로이스 男, 판결에 네티즌들 ‘격분’

추천 뉴스

  • 1
    '놀토' 이준X화사X이무진, 찐친 도레들과 유쾌한 받쓰

    연예 

  • 2
    '케인이 김민재와 훈련하는 것 싫어한다'…바이에른 뮌헨 콤파니 감독 폭로

    스포츠 

  • 3
    "내 연봉 오버? 내돈 아니잖아" 만장일치 MVP는 개의치 않는다, 천재타자 향한 진심 가득한 '러브콜'

    스포츠 

  • 4
    27년 기술력 담은 신차 공개에 “업계 들썩”… 이것이 세계 1위의 ‘위엄’

    차·테크 

  • 5
    '나솔사계' 미스터 백김, 10기 정숙과 ‘썸’일까 ‘쌈’일까?

    연예 

지금 뜨는 뉴스

  • 1
    투바투, 'MAMA' 2관왕…'팬스 초이스' 6년 연속 수상

    연예 

  • 2
    ‘서울 둘레길 추천’ 서울 한양도성길을 따라 산책하는 북악산 창의문-혜화문 코스

    여행맛집 

  • 3
    ‘여고생 팬과 결혼’한 가수, 그녈 위해 앨범까지..

    연예 

  • 4
    비투비, 만찢 비주얼! 'Be Alright' 단체포토 공개

    연예 

  • 5
    화사·소향·안신애, ‘나라는 가수'서 아이유·심수봉·조덕배 소환

    연예 

공유하기