“삼성전자와의 협업으로 기존 D램 공정으로 제작이 가능한 D램 프로세싱인메모리(PIM)를 개발했습니다. 기존 대비 메모리 성능은 8배, 용량은 3배 늘어난 반도체이며 세계 3대 반도체 학회인 초대규모 집적회로(VLSI) 학회에 채택됐습니다.”
지난 8일 대전 유성구 카이스트 PIM반도체설계연구센터 소속 박사과정 1년차 홍성연(26) 학생이 D램 PIM을 소개하며 이같이 말했다. PIM은 하나의 반도체 내부에 메모리 기능과 프로세서 연산기를 집적한 차세대 반도체다. 메모리와 프로세서가 분리돼 있는 구조에서 발생하는 데이터 병목현상과 전력 소모 문제를 해결할 수 있다.
유회준 PIM설계연구센터장(카이스트 전기 및 전자공학부 교수)은 “데이터 전송 속도를 높일 수 있도록 데이터가 오고 가는 통로를 기존보다 30배 개선하고, 연산 처리에 따른 전력 소모는 30분의 1로 줄일 수 있다”며 “기존 시스템보다 최대 900배 정도 개선된 성능을 구현할 수 있을 것으로 예상된다”고 했다.
카이스트 KI빌딩 3층에 위치한 PIM반도체설계연구센터 데모룸에 들어서자 PIM 반도체가 적용된 인공지능(AI) 자동 인식 기기가 시연되고 있었다. PIM 반도체가 탑재된 태블릿PC 카메라 화면에 비친 TV 모형을 둥그런 시계로 교체하자, 1초도 안돼 사물의 동작을 인식하고 사용자에게 알림 메세지를 보냈다.
PIM 반도체뿐만 인간의 뇌를 모방해 설계한 대규모언어모델(LLM)용 신경망처리장치(NPU)도 시연되고 있었다. NPU는 인간의 뇌처럼 전력 사용량을 상황에 맞게 자동으로 조절할 수 있다. 엔비디아의 그래픽처리장치(GPU) A100 제품과 비교할 때 전력 효율을 약 625배 개선할 수 있다. 센터 지하 1층에는 글로벌 반도체설계자동화(EDA) 기업인 케이던스가 기증한 4대의 슈퍼컴퓨터가 구비돼 있었다. 슈퍼컴퓨터는 1대당 가격이 300만달러(약 41억원) 수준으로 첨단 반도체 설계에 활용된다.
현재 PIM반도체설계연구센터는 삼성전자와 차세대 고대역폭메모리(HBM)-PIM 연구 개발도 진행하고 있다. 삼성전자는 업계 최초로 PIM을 HBM에 통합한 바 있다. HBM-PIM은 기존 GPU와 함께 탑재돼 데이터 처리만을 담당했던 HBM과 달리 GPU의 연산 일부를 담당할 수 있어 속도와 성능, 전력 효율까지 제고할 수 있다. 유 센터장은 “현재 HBM 개발 및 연구가 엔비디아, AMD 등 AI 가속기 생산 기업들이 정한 규격에 맞게 진행되다 보니 HBM-PIM 상용화가 더딘 측면이 있다”며 “과도한 전력 소모에 대한 우려가 시장 전반에 확산되고 있는 만큼 이를 최소화할 수 있는 HBM-PIM 수요도 점차 확대될 것”이라고 했다.
PIM반도체설계연구센터는 온디바이스(내장형) AI용 PIM 반도체를 시작으로 AI 서버에 탑재할 수 있는 제품을 상용화할 수 있도록 개발에 박차를 가할 방침이다. 이윤종 PIM반도체설계연구센터 초빙교수는 “AI를 구동하기 위해 방대한 데이터를 사용자 기기에서 처리하려면 전력 효율을 극대화하는 반도체가 필수”라며 “PIM 반도체를 사용하게 되면 과도한 전력 소모를 줄일 수 있고 성능도 고도화할 수 있어 온디바이스 AI에서 가장 먼저 상용화될 것으로 기대된다. 이후에는 서버급 제품에도 점진적으로 탑재가 시작될 것”이라고 했다.
PIM반도체설계연구센터는 5년 간 AI 전문 인력 7000명 이상을 양성한다는 목표 아래 정부의 ‘AI 반도체 산업 성장 지원대책’ 과제로 선정돼 지난 2022년 6월 개소했다. 현재 27명의 석·박사 연구 인력과 3명의 연구교수가 AI 반도체를 연구하고 있다. 이 초빙교수는 “정부로부터 연간 21억원 수준의 지원금을 받고 있다”며 “삼성전자와 협업을 위해 삼성전자 직원도 상주해 근무하고 있다”고 설명했다.
댓글0