image1

TESLA T4

Highlights

  • • Turing Architecture, 16GB GDDR6
  • • 2560 CUDA Core / 320 Tensor Core / 40 RT Core
  • • FP16:65TFlops / FP32:8.1TFlops
  • • GPU Memory: 16GB GDDR6 300 GB/s
  • • Interconnect Bandwidth 32GB/sec
  • • Memory Bandwidth up to 320GB/s
  • • Passive
견적 요청 및 제품 문의

NVIDIA TESLA T4

유연한 디자인, 획기적인 성능

NVIDIA® T4 GPU는 고성능 컴퓨팅, 딥 러닝 트레이닝 및 추론,
머신 러닝, 데이터 분석, 그래픽 등과 같은 다양한 클라우드 워크로드를 가속화합니다.
NVIDIA Turing™ 아키텍처를 기반으로 70와트의 에너지 효율과 소형 PCI 폼팩터들로
제작된 T4는 주류의 컴퓨팅 개발 환경에 최적화되어 있으며,

다중 정밀 Turing Tensor 코어와 새로운 RT 코어가 탑재되어 있습니다.
T4는 NGC가 제공하는 가속화 컨테이너화 소프트웨어 스택과
결합하여 혁신적인 대규모 성능을 제공합니다.

BREAKTHROUGH
PERFORMANCE

획기적인 성능

T4는 다양한 워크로드에 대처하기 위한 다중 정밀도
컴퓨팅을 갖춘 혁신적인 Turing Tensor 코어 기술을 선보입니다.
FP32, FP16, INT8에서 INT4 정밀도까지 획기적인 성능을
보여주는 T4는 CPU보다 최대 40배 더 높은 성능을 발휘합니다.

데이터 센터 가속화를 위한 Scale-Out 성능
  • 소형 폼 팩터 70와트(W) 설계
    T4를 스케일 아웃 서버에 최적화되어 50배 더 높은
    에너지 효율성을 제공합니다. 이는 CPU에 비해
    효율성이 크게 향상되었음을 나타냅니다. 지난
    2년간 엔비디아의 추론 플랫폼에 대한 효율성이
    10 배 이상 증가했습니다.
  • NVIDIA T4 데이터 센터 GPU
    혁신적인 multi-precision 성능을 통해 딥러닝,
    머신러닝, 추론, 비디오 트랜스코딩 및 가상
    데스크톱을 가속화할 수 있습니다. T4는 모든
    AI 프레임워크와 네트워크 유형을 지원하여
    대규모 구축에 효율성을 극대화하며,
    극적인 성능과 효율성을 제공합니다.
  • Turing Tensor Core Technology
    AI를 위한 multi-precision computing은
    텐서 코어 기술 강화로 획기적인 성능 발휘합니다.
    FP32에서 FP16에서 INT8까지의 획기적인 성능과
    INT4 정밀도를 제공하며, CPU보다 최대 9.3 배,
    추론 시 최대 36 배의 성능을 제공합니다.
실시간으로 제공되는 최첨단 추론

사용자가 대화형 AI, 추천 시스템, 시각적 검색 등의 서비스에 집중하려면 반응성이 핵심입니다. 모델들의 정확도와 복잡도가 점점 커지면서
올바른 대답을 하려면 기하급수적으로 커진 컴퓨팅 성능이 필요합니다. T4는 대기 시간이 40배 더 개선된 처리량을 제공하므로 더 적은 수의
GPU 가속 서버로 더 많은 요청을 실시간으로 처리할 수 있습니다.

비디오 트랜스코딩 성능

온라인 동영상의 수가 계속 기하급수적으로 증가함에 따라 동영상을 검색하고 그 안에서 인사이트를 얻기 위한 수요도 계속 성장하고 있습니다.
T4는 이전 세대 GPU보다 2배 향상된 디코딩 성능을 제공하는 전용 하드웨어 트랜스코딩 엔진을 통해 AI 동영상 애플리케이션을 위한 혁신적인
성능을 제공합니다. T4는 최대 38개의 풀 HD급 동영상 스트림을 디코드할 수 있으므로 확장 가능한 딥 러닝을 동영상 파이프라인에 통합하여
혁신적이고 스마트한 동영상 서비스를 제공할 수 있습니다.

NVIDIA TURING    그래픽의 재창조

2006년 NVIDIA® CUDA® GPU 발명 이래 가장 획기적인 발전을 이룬
NVIDIA Turing™ 아키텍처는 실시간 레이 트레이싱, AI, 시뮬레이션,
래스터화를 융합해 컴퓨터 그래픽을 근본적으로 변화시키고 있습니다.

튜링은 레이 트레이싱을 가속하는 새로운 RT코어와 AI 추론을 위한
새로운 Tensor코어를 제공합니다. 튜링을 통해 최초로 실시간
레이 트레이싱이 가능해지며 먼 미래의 일로 여겨졌던 경이롭고
창의적인 가능성을 펼칠 기회가 열렸습니다.

    • RT 코어
    • RAY TRACING 전용 하드웨어가 물리적으로
      정확한 음영, 반사, 굴절, 전역 조명을 통해 빠른
      실시간 RAY TRACING을 가능하게 해줍니다.
    • 차세대
      음영처리
    • VRS(Variable Rate Shading)는 디테일이 풍부한 부분을
      중점적으로 처리하여 성능이 향상됩니다. 메쉬 음영
      처리기의 고급 기하학 처리 기능은 장면당 훨씬 많은
      물체를 지원하여 더 복잡한 세계를 구현합니다.
    • TENSOR
      코어
    • 인공지능은 역사상 가장 위대한 기술 발전을 이룩하는
      원동력이며, Turing은 컴퓨터 그래픽에 이 첨단 기술을
      적용한 것입니다. NVIDIA DLSS를 통해 게이밍 성능을
      가속화하는 강력한 AI 프로세싱 파워를 경험해보세요.
    • 동시 처리
    • Turing GPU는 부동 소수점 및 정수를 동시에
      처리하므로 현대 게임의 과도한 컴퓨팅 워크로드를
      더 효율적으로 처리할 수 있습니다.
TESLA DATA CENTER GPU
서버용 TESLA 데이터센터 GPU

NVIDIA® Tesla® GPU를 사용하여 높은 사양을 요구하는 HPC와 하이퍼스케일 데이터센터
워크로드를 가속화하십시오. 데이터 과학자와 연구자는 이제 에너지 탐사에서 딥 러닝에 이르는
다양한 응용 분야에서 기존의 CPU가 지원했던 수준보다 훨씬 더 빠르게 페타바이트급 데이터
주문을 파싱할 수 있습니다. Tesla 가속기는 이전보다 훨씬 빠른 속도로 더욱 큰 규모의
시뮬레이션을 실행하는 데 필요한 성능도 제공합니다. 게다가 Tesla는 가상 데스크톱,
애플리케이션, 워크스테이션에 최고의 성능과 사용자 밀도를 제공합니다.

NVIDIA 데이터센터 플랫폼을 통한 데이터센터 워크로드 가속화

TRAINING (트레이닝)
점점 더 복잡해지는 모델을 더욱 빠르게 트레이닝하는 것은
데이터 과학자의 생산성을 향상하고 AI 서비스를 보다 빠르게
제공하는데 매우 중요합니다. NVIDIA T4를 탑재한 서버는 그 성능을
활용하여 딥 러닝 트레이닝 시간을 몇 개월에서 몇 시간으로 단축할 수 있습니다.

INFERENCE (추론)
추론은 트레이닝을 마친 신경망이실질적으로 역할을 수행하는 영역입니다. 이미지,
음성, 비주얼 및 동영상 검색과 같은 새로운 데이터 요소가 등장함에 따라 추론은
수많은 AI 서비스의 중심에서 그에 대한 대답과 추천을 제공합니다. 단 한 개의
Tesla GPU를 장착한 서버가 싱글 소켓 CPU로만 구성된 서버보다 27배 높은
추론 처리량을 제공하여 비용을 대폭 절감할 수 있습니다.

지원 앱 및 프레임 워크

Tesla T4는 딥 러닝, HPC 및 그래픽을 위한 테슬라 데이터 센터 컴퓨팅 플랫폼의 주력 제품입니다. Tesla 플랫폼은 550가지 이상의 HPC
애플리케이션과 모든 딥 러닝 프레임 워크를 가속화합니다. 데스크톱에서 서버, 클라우드 서비스에 이르기까지 모든 곳에서 사용이 가능하기 때문에
성능 향상 및 비용을 절감 할 수 있습니다. NVIDIA Turing은 인공지능을 뒷받침하는 새로운 원동력이며, 모든 산업에서 혁신을 일으키고 있습니다.
이러한 AI의 다음 시대에선 암 근절, 지능형 고객 경험, 자율 주행 차량과 같은 인류의 혁신적인 프로젝트가 실현될 것입니다.

GRAPECTOR

리더스시스템즈만의 쉽고 직관적인 GPU 모니터링 시스템

리더스시스템즈는 멀티 GPU의 상태를 GUI 환경으로 보다 쉽고 직관적으로 모니터링할 수 있는 프로그램을 제공하고 있습니다.
GRAPECTOR는 기업, 연구소 등 고객님들의 의견을 반영하여 GPU 노드의 시스템 자원 상태와 프로세스를 Web Base GUI 환경으로
보다 쉽고 직관적으로 확인할 수 있는 솔루션입니다.

시스템 지원 기능

GRAPECTOR는 다양한 시스템 지원 기능을 통해 사용중인 GPU의 상태를
보다 직관적으로 확인 할 수 있는 리더스시스템즈 만의 GPU 모니터링 솔루션 입니다.

GRAPECTOR Dash Board 화면 구성 및 세부 기능
  • 1 멀티 노드 시스템 총괄 사용량
           Total Node 개수, Total GPU 개수,
           Total GPU Memory 사용량, 현재 온도 정보
  • 2 멀티 노드 시스템 총괄 GPU 사용량
           Total GPU 사용량 및 GPU Memory 사용량
  • 3 개별 GPU 정보
           GPU명 및 Driver 정보, GPU 최대 Clock,
           GPU Memory Clock, GPU 할당 번호
  • 4 개별 GPU 자원 사용량
           개별 GPU 사용량, 개별 GPU 메모리 사용량,
           개별 GPU 온도, GPU Power 사용량,
           GPU ECC Erros 검출량, GPU Fan 성능
  • 5 GPU 성능 측정일 설정
           GPU 모니터링 시간 및 갱신주기
NVIDIA TESLA T4
OUTPUT
NVIDIA TESLA T4
ACCESSORY
NVIDIA TESLA T4 SPECIFICATION

GPU Architecture

NVIDIA Turing

NVIDIA Turing TensorCores

320

NVIDIA CUDA® Cores

2,560

Single-Precision

8.1 TFLOPS

Mixed-Precision (FP16/FP32)

65 TFLOPS

INT8

130 TOPS

INT4

260 TOPS

GPU Memory

16GB GDDR6 300 GB/s

ECC

YES

Interconnect Bandwidth

32 GB/sec

System Interface

x16 PCIe Gen3

Form Factor

Low-Profile PCIe

Thermal Solution

Passive

Compute APIs

CUDA, NVIDIA TensorRT, ONNX

NVIDIA TESLA T4 INFORMATION

상품명

NVIDIA T4

정격전압 / 최대소비전력

12V / 160W

제조자 / 수입자

NVIDIA Corporation / (주)리더스시스템즈

제조국

중국

사양

4352 CUDA cores, 352-bit, DisplayPort(3), HDMI(1),
USB Type-C(1) 최대 DP1.4해상도 7680 x 4320

품질보증기준

3년무상

A/S 책임자 및 전화번호

(주)리더스시스템즈 / 1544-5130