엔비디아의 GPU, AI반도체 시대의 주역이 되다

엔비디아는 AI 반도체 시대의 주인공이 된 것은 최고의 GPU 기술력이 있기 때문이리라. 향후 시장은 여러 기업이 나누어 먹겠지만 당분간은 엔비디아를 좇기는 쉽지 않을 터. GPU에 대해 조금 어려울지도 모르지만 깊게 알아본다. 투자의 나침반이 될 수도 있으니 같이 공부해 보기를...

 

 

 

엔비디아와 AI

 

 

 

 

엔비디아 '황의 법칙'

엔비디아의 젠슨 황 CEO는 엔비디아가 만든 GPU가 생성형 인공지능(AI)과 클라우드 시대를 이끌어 나갈 것이라고 했다. 오픈 AI의 챗GPT가 엔비디아의 칩을 사용하여 AI시대의 서막을 알렸듯이 앞으로 반도체 발전도 자신들이 이끌 것이라는 자신감이다. 황의 법칙을 들어보았나. AI를 작동시키는 칩의 성능이 2년마다 2배 이상 향상된다는 엔비디아의 황의 법칙은 현실이 되었다. AI기술이 눈부시게 발전하고, 관련 시장이 엄청 빠르게 커지는 가운데 데이터센터 수요는 계속 팽창하고 있음이다. AI특화 데이터센터의 핵심이 바로 비메모리반도체 GPU(그래픽 처리장치)다.

 

 

 

엔비디아 GPU 데이터센터

엔비디아는 1993년에 등장했다. 초창기 엔비디아는 게임 등에 사용되는 복잡한 3차원 이미지를 구현하기 위해 GPU로 시장을 파고들기 시작했다. 3차원 이미지를 자연스럽게 구현해 내려면 굉장히 많은 고속 병렬 계산을 해야 하는데 엔비디아의 GPU는 대용량 정보처리 기술로 생성형 AI반도체 시대의 당당한 주역이 됐음이다. GPU에 HBM(고대역폭메모리)으로 만든 AI가속기, CPU와 낸드 등을 조립하면 AI컴퓨터가 되고 이런 AI컴퓨터를 모은 것이 AI데이터 센터가 된다. AI학습과 고객 서비스를 하는 곳이 바로 데이터 센터인 것이다. 너무 어려운가. 가볍게 쭉 읽어 보시라. 

 

 

현재 AI 개발사의 최대 골칫거리는 GPU 확보인데 이 GPU 독주를 하고 있는 곳이 바로 엔비디아이기에. 주문한 엔비디아의 GPU는 주문 후 도착까지 50주 이상 걸린다고 한다. 개발 기업들이 AI를 업데이트를 잘하지 못하는 이유다. GPU 안에도 메모리가 있긴 하지만 AI학습을 위한 자료를 담기엔 엄청 부족하다고. 이를 극복하기 위해 고대역폭 메모리라고 하는 HBM이 함께 설치된다. HBM은 대량의 데이터를 처리하는 초고성능, 초고용량 메모리다. 이런 기술이 가미되며 엔비디아의 GPU는 AI기술의 핵심이 되어 시장을 리드하고 있다.

 

 

 

엔비디아의 '쿠다'

엔비디아의 기술력은 이뿐이 아니다. 엔비디아의 경쟁력은 바로 소프트웨어 '쿠다(CUDA)'다. 2006년 엔비디아는 GPU의 빠른 병렬 계산이 게임만이 아니고 다른 분야에서도 사용될 것으로 보고 쿠다를 내놓게 되었다고 한다. 쉽게 말해 쿠다는 '번역가'다. 사람이 AI알고리즘을 새롭게 개발하려면 먼저 코딩해야 함이다. 하지만 코딩 언어는 사람의 언어와 비슷해 1과 0밖에 모르는 GPU 반도체는 이해를 하지 못하기에 쿠다는 사람 수준의 언어를 1과 0의 기계어로 자동 번역해 준다. 때문에 AI개발자들은 편리성과 신뢰성을 갖춘 쿠다를 사용한다는. 

 

 

 

엔비디아의 독점을 보고만 있을까

인텔은 AI가속기 '가우디 3'을 공개 발표했다. 인텔의 설명은 가우디 3은 엔비디아 GPU에 비해 훈련 속도가 2배 빠르다고 한다. MS 역시 AI칩 가속기와 GPU를 개발했다. 엔비디아 GPU가 가장 많은 시장을 점유하고 있지만, 향후 멀티 GPU시대로 갈 것으로 보인다. 시장을 나누어 먹는다는 말이다. 애플은 서버용 AI반도체 개발에 나선 모습이다. 애플이 데이터센터용 AI반도체 개발에 시동을 걸면서 AI가속기 시장은 더욱 뜨거워졌음이다. 현재는 애플, MS, 엔비디아, 구글, 매그니피센트 7 모두 AI반도체 시장에 덤벼든 마당이다.

 

여러 기업들이 AI 반도체 개발에 뛰어든 상황이지만 이들의 AI칩 결과를 내려면 수년이 걸릴 것으로 여겨진다. 그러기에 엔비디아 GPU 시장 점유는 아마도 당분간 유지될 것이라는 게 전문가들의 공통 견해다. 엔비디아의 지난해 데이터센터용  AI가속기 점유율은 98%에 이른다고 한다.

 

 

 

 

정리하면

엔비디아가 만든 GPU는 AI시대를 당분간 이끌 것으로 보인다. 타 기업이 뛰어든 상황이지만 성과를 내려면 시간이 필요하기 때문. AI기업이 제때에 필요한 GPU를 엔비디아고 공급하고 있고 HBM이라는 초고성능, 초고용량 메모리를 추가하여 AI기술의 핵심이 되었음이다. 또한 쿠다라는 소프트웨어로 편리성과 신뢰성까지 갖추었으니 AI기업들이 찾을 수밖에 없지 않은가. 타 기업들의 도전이 있겠지만 이 사업의 특성상 많은 시간이 소요된다고. 엔비디아는 당분간 고공행진 하지 않을까.