Guru_Park의 블로그

tensor rt

• TENSOR RT _ SIMPLE MNIST 예제

  뜯고 또 뜯어보는 컴퓨터/TENSORRT 2021. 10. 12. 17:00

  안녕하세요. 오늘은 TENSOR RT를 활용한 예시를 적어보려 합니다. TensorRT/samples/python/network_api_pytorch_mnist at master · NVIDIA/TensorRT (github.com) 공식 문서를 참고하였으며, 보기 좋게 Ipynb 를 사용하여 분석하였습니다. IMPORT MODULE import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim from torchvision import datasets, transforms from torch.autograd import Variable import numpy as np import os from ..

  Read More
• TENSOR RT - (2)

  뜯고 또 뜯어보는 컴퓨터/TENSORRT 2021. 10. 7. 16:45

  지난시간에 이어서, TENSOR RT RUNTIME API 에 대해 말씀드리겠습니다. 저번 시간에서는 trt.Builder(Logger 설정) 을 통해, builder를 만들어 주었고, 이렇게 만들어진 builder를 통해, builder.create_network(common.BATCH_SIZE) 의 TRT.INETWORK 객체와 builder.create_builder_config()를 통해 TRT.CONFIG()를 생성해주었습니다. 그다음, 네트워크 생성 함수를 통해, Weight 와 INetwork를 일치시켜, network를 설정해주었습니다. 오늘은 그 이후의 단계에 대해 설명 드리겠습니다. TENSOR RT INFERENCE 이제 INETWORK 에 weight를 일치시켜주어 필요한 Netwo..

  Read More
• TENSOR RT 란??

  뜯고 또 뜯어보는 컴퓨터/TENSORRT 2021. 10. 7. 15:13

  Welcome to TENSOR RT! 안녕하세요 Tensor RT 에 대해 처음 쓰는 글인데, 모델을 Tensor RT 로 변환 하려다 보니, 어려움이 많아 직접 글을 적게 되었습니다. 혹시 오탈자나 틀린 부분이 있으면 알려주세요! 언제나 환영입니다. 본 글은 엔비디아 TensorRT 도큐먼테이션을 참고하였습니다. https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html 1. Introduction NVIDIA® TensorRT™ is an SDK that facilitates high performance machine learning inference. It is designed to work in a complementary..

  Read More