Tensor RT 소개 및 환경 설정

Tensor RT ❓ 💡 NVIDIA® TensorRT™ is an SDK that facilitates high-performance machine learning inference. It is designed to work in a complementary fashion with training frameworks such as TensorFlow, PyTorch, and MXNet. Tensor RT(이하 TRT) 여러 프레임워크1)로부터 생성된 모델을 최적화하여 추론 속도를 높이는 라이브러리입니다. 💡 TensorRT is integrated with PyTorch and TensorFlow so you can achieve 6X faster inference with a single line of code. 무려 한 줄의 코드로 6배나 더 빠른 추론을 할 수 있다고 하는데 안 쓸 이유가 전혀 없겠습니다! ...

2023년 04월 29일 · 3 min · 437 words · JongBin