TensorRT Version별 프레임워크 Operation 지원 여부

게으른 개미개발자·2022년 12월 1일
0

TensorRT

목록 보기
5/5

TensorRT의 경우, 아직까지 계속해서 엔비디아에서 업데이트를 해주고 있기 때문에 새로운 버전에 맞춰 따라가야한다.
이전 버전에서 지원되지 않는 Operation이 새로운 버전에서 지원이 되기도 한다.
물론 추가된 Operation(layer)에 대한 소스코드는 공개하지 않는다.
하드웨어 종속적인 코드를 짜는 것이 쉽지는 않기 때문에, 쉽게 공개하지도 않는 것 같다.

아무튼, 버전이 나올때마다, AI 모델에서 필요한 Operation이 정상적으로 작동되는지 여부를 판단할 수 있는 툴을 간단하게 구성해보았다.

이런 식으로 구성을 하였고, TensorRT Version이 업데이트 될 때마다 내용을 추가하여 비교해볼 예정이다...

profile
특 : 미친듯한 게으름과 부지런한 생각이 공존하는 사람

0개의 댓글