반응형
Inference
-
TENSOR RT - (2)뜯고 또 뜯어보는 컴퓨터/TENSORRT 2021. 10. 7. 16:45
지난시간에 이어서, TENSOR RT RUNTIME API 에 대해 말씀드리겠습니다. 저번 시간에서는 trt.Builder(Logger 설정) 을 통해, builder를 만들어 주었고, 이렇게 만들어진 builder를 통해, builder.create_network(common.BATCH_SIZE) 의 TRT.INETWORK 객체와 builder.create_builder_config()를 통해 TRT.CONFIG()를 생성해주었습니다. 그다음, 네트워크 생성 함수를 통해, Weight 와 INetwork를 일치시켜, network를 설정해주었습니다. 오늘은 그 이후의 단계에 대해 설명 드리겠습니다. TENSOR RT INFERENCE 이제 INETWORK 에 weight를 일치시켜주어 필요한 Netwo..