기존 GPU, AI용으로 설계되지 않아 전력 소모 등 한계
텐스트렌트, 전력 낭비 줄인 차세대 AI 반도체 개발
디매트리스, 메모리에 연산 기능…추론 분야 특화 개선
캐나다와 미국 스타트업이 생성형 인공지능(AI)에 적합한 차세대 반도체를 개발, AI용 그래픽처리장치(GPU) 시장에서 80%의 점유율을 차지하고 있는 미국 엔비디아에 도전장을 내밀고 있다.
최근 일본 니혼게이자이신문(닛케이)에 따르면 최근 미국에서는 AI의 계산 기반이 되는 GPU를 대체할 기술을 찾는 움직임이 확산하고 있다. GPU는 원래 게임용으로 개발됐기 때문에 대량의 전력을 소모하는 등 한계가 있기 때문이다.
가장 대표적인 예가 2016년 설립된 캐나다 반도체 설계기업 텐스트렌트다. 애플, 테슬라, 어드밴스트마이크로디바이스(AMD) 등 미국 기업을 두루 거치며 각사의 주력 반도체를 설계한 전설적 엔지니어 짐 켈러가 최고경영자(CEO)로 있는 회사다. 현재 350명의 직원이 AI에 특화된 반도체 개발에 매진하고 있다.
켈러는 엔비디아 GPU에 대해 “AI용으로 설계되지 않았다”고 지적했다. 대량의 데이터 병렬 처리에 강점이 있지만, 원래는 게임용 고화질의 이미지를 처리하기 위해 개발됐다. 생성 AI의 기반이 되는 데이터센터 서버에 탑재하기에는 약점이 많다고 주장했다.
가장 큰 단점으로는 전력 효율이 낮다는 것이 꼽힌다. GPU는 칩에서 연산을 담당하는 연산자와 정보를 저장하는 메모리가 떨어져 있어 계산 자체가 아닌 데이터 교환에 많은 전력을 소비한다. 엔비디아의 GPU를 수만 개 사용하는 것으로 알려진 생성 AI 챗GPT는 전기료 등 운영비용이 하루 1억 엔(약 9억 원)에 달할 것이라는 추산도 있다.
텐스트렌트가 개발 중인 AI 반도체는 연산자와 메모리를 가깝게 배치해 데이터 이동 거리를 단축하고 전력 소비 낭비를 줄였다. 켈러 CEO는 “AI에서는 연산자가 서로 대화하듯 계산 결과를 다음 계산으로 바로 이어가는 것이 자연스럽다”고 말했다.
텐스트렌트는 누구나 무료로 이용하고 수정할 수 있는 오픈소스인 ‘RISC-V(리스크 파이브)를 채택했다. 라이선스 비용을 절감하고, 고객의 요구에 따라 반도체 설계를 자유롭게 변경할 수 있도록 하기 위해서다. 켈러 CEO는 “수백만 엔짜리 로봇을 개발하려는 회사에 수백만 엔짜리 GPU는 너무 비싸다”고 말했다. 저전력 성능뿐만 아니라 가격 측면에서도 엔비디아와 경쟁할 수 있는 차세대 AI 반도체 개발을 목표로 하고 있다.
미국에서는 추론 분야에 특화해 GPU 문제점을 개선하는 스타트업도 등장했다. 향후 챗GPT를 비롯한 각종 서비스가 본격적으로 보급되면 AI가 질문에 대한 답변 등을 출력하는 추론 계산에서 소비하는 전력 비중이 높아질 것으로 예상되기 때문이다.
미국 인텔 출신 시드 셰스 CEO 등이 2019년 설립한 디매트릭스가 그중 하나다. 이 회사는 데이터를 저장하는 메모리에 연산 기능을 탑재하는 ‘인메모리 컴퓨팅’ 기술을 사용한다. 데이터센터 서버가 추론 계산에서 소비하는 전력을 대폭 줄이는 것을 목표로 하고 있다.
생성형 AI 개발 업체들도 대체 기술에 대한 관심을 보이고 있다. 미국 마이크로소프트(MS) 산하 벤처캐피털(VC)은 올해 싱가포르 정부계 펀드 등과 함께 디매트릭스에 1억1000만달러(약 1431억 원)를 투자했다. 회사 측에 따르면 MS 이외에도 메타가 자사의 생성 AI 채용을 염두에 두고 초기 제품 평가를 시작했다.
미국 시장조사업체 가트너는 2027년 AI 반도체 시장 규모가 지난해 대비 2.7배인 1194억 달러로 확대될 것으로 전망했다. 기존 기술 패권으로 패권을 잡은 엔비디아와 기술 혁신을 통해 도전장을 던진 스타트업의 공방이 더욱 치열해질 것으로 보인다.
댓글0