제한된 컴퓨팅 자원으로도 효율적으로 활용할 수 있는 소형언어모델(SLM)과 인공지능(AI) 모델을 압축해 하드웨어 연산의 부담을 더는 경량화 기술이 주목받고 있다.
이런 가운데 리벨리온과 스퀴즈비츠가 전략적 파트너십을 맺고 신경망처리장치(NPU)에 최적화된 생성형 AI 모델, 특히 소형언어모델(SLM)의 경량화 기술협력에 나선다고 29일 밝혔다.
이번 파트너십을 통해 양 사는 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로, 다양한 소형언어모델을 리벨리온의 NPU에 최적화해 경량화할 계획이다.
스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축할 수 있는 경량화 전문성을 가지고 있다. 이번 파트너십을 통해 스퀴즈비츠는 현재 지원 중인 엔비디아 그래픽처리장치(GPU) 뿐 아니라 리벨리온의 NPU에서 생성형AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다.
리벨리온 또한 소형언어모델 가속이 가능한 NPU 하드웨어에 최적화된 경량화 언어모델을 활용해 생성형 AI용 NPU의 시장을 확장한다는 계획이다.
김형준 스퀴즈비츠 대표는 “다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공함으로써 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것”이라고 말했다.
박성현 리벨리온 대표는 “NPU와 AI경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다”며 “이번 파트너십으로 사용자들에게 리벨리온의 NPU 상에서 경량화된 생성형 AI 모델을 활용해 부담없고 손쉽게 AI를 도입할 수 있는 기회를 제공할 것으로 기대한다”고 밝혔다.
권용만 기자 yongman.kwon@chosunbiz.com
댓글0