[AI] ONNX (Open Neural Network Exchange)

---

1.ONNX (Open Neural Network Exchange)

다양한 기계 학습 프레임워크 간의 호환성을 향상시키기 위해 설계된 오픈 소스 프로젝트
서로 다른 프레임워크에서 학습된 모델을 교환하고 실행할 수 있도록 표준화된 형식을 제공해준다.
.onnx 파일 형식으로 저장된다.

 

 

https://huggingface.co/deepghs/anime_classification/tree/main/mobilenetv3_v1.5_dist anime_classification 모델에 .onnx 파일이 존재한다.

 

 

 

 

 

2.onnxruntime

Open Neural Network Exchange (ONNX) 모델을 실행하는 고성능, 크로스 플랫폼 추론 런타임 라이브러리

pip install onnxruntime

 

 

 

2-1.모델 로드

onnx_model_path에 지정된 ONNX 모델을 로드한다.

ort_session = ort.InferenceSession(onnx_model_path)

 

 

 

 

 

2-2.모델 실행

모델을 입력 데이터를 사용하여 실행한다.
outputs: 모델의 출력 이름 리스트
input_feed (선택적): 입력 데이터를 지정한 딕셔너리. 입력이 여러 개일 경우, {input_name: input_tensor} 형식으로 제공.

session.run(outputs, input_feed=None)

output = session.run(None, {"input": input_tensor})