팝업레이어 알림

팝업레이어 알림이 없습니다.

엔비디아 자비에(Xavier), AI 추론 벤치마크 테스트서 최고 기록 달성

  • 페이스북으로 보내기
  • 트위터로 보내기
  • 구글플러스로 보내기
  • 카카오톡으로 보내기
  • 아이콘
  • 아이콘
양효정기자 작성일시19-11-15 09:32 기사승인19-11-15 09:40 조회335댓글0

뉴스 본문

미래의 자동차 및 트럭은 광범위하고 다양한 심층 신경 네트워크(Deep Neural Network, DNN)를 운영하는 AI 슈퍼컴퓨터로 운행될 것이며, 이는 대규모 AI 워크로드를 요구하게 될 것이다. 새로운 MLPerf Inference 0.5 벤치마크 스위트(suite)는 자율주행 차량을 포함한 추론용 솔루션 성능에 대한 뛰어난 통찰력을 제공한다.


따라서, 업계 최초의 독립적인 AI 추론 벤치마크 테스트인 이번 MLPerf Inference에서 엔비디아 자비에(NVIDIA Xavier) 시스템온칩(SoC)과 엔비디아 드라이브(DRIVE) AGX 플랫폼의 기반이 되는 튜링(Turing) GPU가 최고의 결과를 달성한 것은 시사하는 바가 매우 크다. 이러한 성과는 엔비디아가 자율주행차 안전운행에 핵심인 다양한 AI 과제 및 시나리오를 위한 AI 추론과 관련해 선도적인 기술역량을 보유하고 있음을 보여준다. 


추론은 방대한 데이터에서 통찰력을 얻기 위해 AI 모델을 실시간으로 실행하는 과정이다. 엔비디아 드라이브는 테라바이트에 이르는 데이터를 생성하는 다양한 센서로 차량 환경을 감지하기 위해 수많은 DNN을 동시에 실행한다. 이러한 DNN은 실시간으로 주요 데이터를 분석해 교차로를 식별하고 주행 가능한 경로를 분류하는 등 중복되고 다양한 기능을 수행할 수 있어야 한다.


 

AI는 지능화된 애플리케이션을 위한 훈련과 추론을 가능하게 한다


미래의 자동차

미래의 자동차는 놀라운 최첨단 컴퓨팅 장치가 될 것이다. 우리는 그 차와 대화하고, 차는 질문에 대답하고, 목적지로 우리를 안내하며, 도로상황에 대해 경고하고, 반응할 것이다. 이는 우리의 부조종사이자 보호자가 될 것이며, 경각심을 주고, 우리를 보호해 줄 수 있을 것이다. 이를 위해 가장 다양한 AI 알고리즘을 결합해 다양한 DNN을 동시에 운영할 수 있는 고성능 컴퓨터에서 실행될 것이다. 


MLPerf 0.5 Inference 테스트는 이러한 유형의 복잡한 워크로드를 평가하기 위한 벤치마크 테스트다. 엣지 컴퓨팅을 비롯한 여러 시나리오에서 많은 다른 벤치마크 테스트는 현대 자동차에서 요구되는 한 가지 작업뿐이 아닌 많은 작업에서 탁월한 성능을 발휘할 수 있는지 확인한다. 


이는 엔비디아 자비에 벤치마크 결과가 자동차 제조업체에게 매우 중요한 이유다. 자비에 프로세서는 상용 엣지 및 모바일 SoC 중 엣지 중심 시나리오 (단일 및 다중 스트림)에서 최고 성능을 보여줬다. 현재 자비에 프로세서는 자율주행 및 콕핏 애플리케이션을 위해 동시에 최대 20개의 DNN을 실행하는 AI 슈퍼 컴퓨터인 엔비디아 드라이브 AGX을 강화하고 있다. 여기에는 차선 표신을 위한 LaneNet, 구동 가능한 가장자리를 감지하는 PathNet, 중심선을 경정하는 PilotNet, 신호등을 위한 LightNet, 교차로에 대한 WaitNet, 객체 탐지를 위한 DriveNet, 무료 공간 탐지를 위한 OpenRoadNet, 주차 장소 찾기를 위한 ParkNet 등을 포함한다. 


또한, 차량 내부에는 머리 자세를 결정하고, 눈 깜박임을 감지하고 입술을 읽을 수 있는 등 운전자 모니터링을 위한 네트워크가 있다. 미래의 자동차는 대화를 할 수 있을 것이며, 이는 매우 짧은 시간안에 고급 음성 인식, 자연어 처리 및 텍스트 음성 변환을 요구한다. 이러한 다양한 신경망은 모두 다른 유형의 신경망을 통해 서로 상이한 유형의 데이터를 처리한다. 넷넷은 지능적인 음성 작동 사용자 인터페이스로 안전한 자율주행차를 제공하기 위해 엄청난 양의 처리 성능이 요구된다. 


그러나 모든 제조업체가 미래 프로세서에 대해 더 높은 TOPS(초당 테라 연산) 성능을 제공하는 것처럼 보일 때, 프로세서가 실제로 이러한 성능을 낼 수 있는지 어떻게 알 수 있을까? 분명한 것은 최고 성능 수치뿐 아니라 이러한 프로세서가 실제 AI 워크로드를 처리하는 방법이 중요하다는 것이다. MLPerf 벤치마크는 진정한 AI 추론 성능을 측정하는 업계 방식이다. 


업계 최고 성능

엔비디아는 14개 조직 중 5개의 MLPerf Inference 테스트에서 결과를 제출한 유일한 AI 플랫폼 기업이었다. 이 벤치마크 결과는 올해 초 발표된 테스트에 따라 업계의 AI 훈련 기능을 측정했다. 


 

MLPerf Inference 0.5는 데이터 센터 서버와 엣지 및 모바일 SoC 시나리오를 다룬다


엔비디아는 상용 제품 중 프로세서 당 최고의 성능을 제공하는 튜링 GPU를 통해 데이터 센터 시나리오의 벤치마크를 1위로 기록했다. 자비에는 상용 엣지 및 모바일 SoC 중 엣지 중심 시나리오에서 최고의 성능을 나타냈다.


 

자비에 SoC는 엣지 컴퓨팅 테스트에서 최고를 기록했다


멀티 스트림 시나리오는 칩이 처리할 수 있는 피드 수를 테스트한다. 다양한 유형의 센서가 장착된 자율주행 자동차는 이러한 다양한 데이터 소스를 실시간으로 처리할 수 있는 엣지 디바이스의 대표적인 예시다.


전세계 업계에서 인정받아

이번 결과는 프로세서에서 실행중인 쿠다(CUDA) 및 텐서RT(TensorRT) 소프트웨어의 성능을 보여준다. 엔비디아 고유의 기능인 여러 제품 및 사용 사례에서 우수한 결과를 제공하는 공통 플랫폼을 제공한다. 


MLPerf는 Arm, 페이스북(Facebook), 퓨처웨이(Futurewei), 제너럴모터스(General Motors), 구글, 하버드 대학교, 인텔(Intel), 미디어텍(MediaTek), 마이크로소프트(Microsoft), 엔비디아, 자일링스(Xilinx)를 포함한 산업계와 합계의 광범위한 지지를 받고 있다.


실제 워크로드와 관련해 상당히 까다로운 추론이 요구될 수 있으므로 사전 처리와 사후 처리 단계가 필요하다. 따라서 BMW, 시스코(Cisco), 포드 모터(Ford Motor Co.), 존 디어(John Deere), 마이크로소프트, 페이팔(PayPal), 핀터레스트(Pinterest), 포스트메이츠(Postmates), 샤잠(Shazam), 스냅(Snap), 트위터(Twitter), 버라이존(Verizon), 볼보(Volvo), 월마트(Walmart)를 포함한 다양한 산업에서 추론 작업을 처리하기 위해 고성능 엔비디아 플랫폼을 채택하고 있다.



전세계 많은 회사들이 최고의 추론 성능을 위해 엔비디아 GPU 기술을 채택했다


대화형 플랫폼

대화형 AI는 곧 엄청난 기회와 기술적 과제들을 상징하게 될 것으로 예상되는 가운데, 엔비디아는 이 분야에서도 선도적인 입지를 유지해 나가고 있다. 


엔비디아 드라이브 IX는 차량과 탑승자 간의 AI 기반 상호작용을 가능케 하는 지능형 플랫폼이다. 내장된 음성 소프트웨어를 사용하의 차량과 자연스러운 대화가 가능하도록 한다. 


엔비디아는 AI 콕핏 외에도 자동 음성인식, 음성합성(TTS), 자연어 이해와 같이 대화형 AI 서비스에 최적화된 레퍼런스 설계를 제공한다. BERT, GNMT, Jasper와 같은 AI 모델을 위한 오픈소스 최적화는 개발자들이 업계 최고 수준의 추론 성능을 구현하는데 도움을 준다. 


엔비디아 튜링 GPU와 엔비디아 자비에 SoC가 MLPerf 벤치마크 테스트 각 부문에서 최고 기록을 달성한 것은 매우 의미가 깊다. 수 많은 기업들이 매일 같이 자사의 AI 우수성을 알리고 있는 가운데, 이번 MLPerf 0.5 Inference 결과는 여러 테스트에 걸쳐 입증된 실제 성능과 우수성을 보여준다. 또한, 이번 테스트의 결과는 엔비디아 자비에가 미래형 자동차를 만드는데 있어 최고의 기업이라는 것을 나타낸다.

추천 0 비추천 0

댓글(0)

등록된 댓글이 없습니다.