UPDATED. 2022-01-14 09:02 (금)
KAIST, 세계 첫 그래프 AI 추론 SSD 개발
KAIST, 세계 첫 그래프 AI 추론 SSD 개발
  • 장순관 기자
  • 승인 2022.01.10 17:52
  • 댓글 0
이 기사를 공유합니다

기존보다 7배 빠르고 에너지소비 33분의 1수준
'홀리스틱 GNN' 기술 로고. [한국과학기술원 제공]
'홀리스틱 GNN' 기술 로고. [한국과학기술원 제공]

 

한국과학기술원(KAIST)은 정명수 전기 및 전자공학부 교수팀이 그래프 기계학습 추론의 그래프 처리, 그래프 샘플링, 신경망 가속을 기반으로 하는 '홀리스틱 그래프 기반 신경망 기계학습 기술(홀리스틱 GNN)'을 개발했다고 10일 밝혔다.

연구팀은 프로그래밍이 가능한 반도체를 갖추고 인공지능(AI)의 한계를 넘어 각 데이터 사이의 연관관계를 더 정확하게 해석할 수 있는 그래프 기반의 메모리 저장장치(SSD)를 세계 처음으로 개발했다. 이는 최신 엔비디아 GPU를 이용하는 기계학습 가속 컴퓨팅에 비해 속도가 최대 7배 빠르다.

그래프 기반 신경망 기계학습은 그간 일반 가속 시스템으로 연산되어왔는데, 기존 방식은 데이터 전 처리과정에서 심각한 성능 병목현상이 발생하거나 장치 메모리 부족 등 한계가 있었다.

이에 반해 홀리스틱 GNN 기술은 데이터가 저장된 스토리지 근처에서 사용자 요청에 따른 추론 과정을 직접 가속한다. FPGA를 스토리지 근처에 배치한 새로운 계산형 스토리지(Computational SSD) 구조를 활용해 대규모 그래프 데이터 이동이 필요 없게 했다. 전처리 과정 병목현상도 해결한 것이다.

한국과학기술원 정명수 교수. [한국과학기술원 제공]
한국과학기술원 정명수 교수. [한국과학기술원 제공]

연구팀은 계산형 스토리지의 시제품을 자체 제작한 후, 그 위에 개발된 그래프 기계학습용 하드웨어 RTL(저항과 트랜지스터로 구성한 컴퓨터에 사용되는 회로)과 소프트웨어 프레임워크를 탑재했다. 이를 엔비디아 GPU 가속 시스템(RTX 3090)에서 평가한 결과 홀리스틱 GNN 기술이 이상적인 상황에서 기존 엔비디아 GPU를 이용해 그래프 기계학습을 가속하는 시스템 대비 평균 7배 빠르고 33배 에너지를 감소시켰다.

특히 그래프 규모가 커질수록 전처리 병목현상 완화 효과가 증가해 기존 GPU 대비 최대 201배 향상된 속도와 453배 에너지를 감소할 수 있었다.

정명수 교수는 "대규모 그래프에 대해 스토리지 근처에서 그래프 기계학습을 고속으로 추론할 뿐만 아니라 에너지 절약에 최적화된 계산형 스토리지 가속 시스템을 확보했다"며 "기존 고성능 가속 시스템을 대체해 초대형 추천시스템, 교통 예측 시스템, 신약 개발 등의 광범위한 실제 응용에 적용될 수 있을 것"이라고 말했다.

 

장순관 기자 bob0724@naver.com

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.