인공 지능 서비스와 기술을 준비하는 수많은 IT 기업들이 GPU 기반의 인공 지능 처리 시스템을 갖추면서 GPU 전문 기업인 엔비디아에 더 많은 관심이 쏠리고 있다. 그런데 이세돌과 바둑 대결을 벌였던 알파고를 통해 인공 지능의 성과를 알린 구글이 최근 열린 구글 I/O에서 별도의 인공 지능 처리 장치인 텐서 프로세싱 유닛(Tensor Processing Unit)을 발표하면서, 이 프로세서의 정체에 대해 많은 궁금증을 낳았다. 순다 피차이 구글 CEO는 인공 지능 API인 텐서 플로 전용 처리 장치인 텐서 프로세싱 유닛이 와트당 성능이 월등이 높고 작업당 적은 수의 트랜지스터를 요구하도록 맞춤형으로 설계했다고 밝혀 인공 지능 프로세서 시장에서 엔비디아의 새로운 위협이 될 것인가에 대한 궁금증을 낳았다.
이에 대해 젠슨 황 엔비디아 CEO는 컴퓨텍스 타이페이 개막 하루 전 하얏트 타이페이에서 가진 기자 간담회에서 “구글 TPU는 추론(Inferencing)만 하는 좁은 범위의 프로세서로 엔비디아의 GPU와 역할이 다르다”고 선을 그었다. 젠슨 황 CEO는 딥 러닝은 훈련(Training)과 추론(Inferencing)이라는 두 가치 측면에서 봐야 하는데, 훈련은 추론보다 수십억 배 더 복잡한 데다 추론은 모든 데이터 센터에서 처리할 수 있다면서 TPU의 역할에 대해 설명했다. 이는 구글의 인공 지능 API인 텐서 플로를 빠르게 처리하는 프로세서가 훈련을 통해 얻어낸 결과를 기반으로 추론을 하는 전용 프로세서라는 점에서 훈련과 추론을 모두 처리하는 엔비디아 GPU와 다른 관점의 프로세서라는 점을 명확히 한 것이다.
젠슨 황 CEO는 2년 전 딥 러닝으로 훈련을 시작할 때 GPU가 더 뛰어난 훈련과 추론을 할 수 있다는 것을 확인했으며, 구글의 TPU가 10배 빠르게 추론할 수 있는 것도 환상적이나 파스칼이 25배 더 빠른 추론을 할 수 있도록 개선했다고 밝혔다. 또한 모든 데이터 센터는 훈련과 학습으로부터 추론하기 위해 더 가속화될 것이며 단순 추론만을 위한 칩을 만드는 것이 문제가 아니라 수백만이 조합되는 하이퍼 스케일 데이터 센터를 가진 기업들은 자체적인 GPU를 만들기 힘들기 때문에, 파스칼이 이에 딱 맞는 솔루션이라고 소개했다.
현재 훈련과 추론을 모두 할 수 있는 엔비디아 GPU는 구글 뿐만 아니라 인공 지능을 개발하고 있는 마이크로소프트와 아마존, 이베이, 바이두 같은 IT 기업들이 이용하고 있고, 구글만 쓰는 TPU와 달리 엔비디아는 모든 IT 기업에게 인공 지능 기술을 개발할 수 있도록 지원하고 있다.
Be First to Comment