[TensorFlow] TF Serving 1번 버전 없이 다른 버전 동작 기능 확인

참조

• https://tf.wiki/en/deployment/serving.html#installation-of-tensorflow-serving

목적

• TensorFlow Serving 은 버전 정보를 토대로 모델 업데이트 하는 것을 확인하였습니다.
• 예를 들어, Xception 모델 안에 1,2,3 버전이 존재하면 가장 번호가 높은 3번 최신 버전을 업데이트합니다.
• 여기서 확인해야 할 점이, 만약 버전이 1번이 없이 2번만 존재하는 경우에도 문제 없이 TensorFlow Serving Container가 정상적으로 동작하는지 확인합니다.

테스트 진행할 버전 디렉터리 구성

• 앞서 Xception 모델에 1, 2 2개의 버전이 있었습니다.
• 여기서 1번 버전 디렉터리를 삭제하고, 2번 디렉터리만 남겼습니다.

TensorFlow Serving 컨테이너 실행

• 특정 모델에서 1번 버전 없이 2번 버전만 있는 상태에서, 정상적으로 TensorFlow Serving Container 실행하여 정상 실행 되는지 테스트 진행합니다.
• 다음과 같이 Docker 명령어를 입력하여 Tensorflow Serving Container 실행합니다.

docker run -t --rm --name=tf-serving-mnist \
-p 8500:8500 \
-p 8501:8501 \
-v "C:/src/test_data/save_model/tensorflow/:/models/model" \
tensorflow/serving \
--model_name=mnist-model \
--model_config_file=/models/model/Config/models.config \
--model_config_file_poll_wait_seconds=60

실행 결과

• 실행 결과, 1번 버전 없이 2번 버전만 있는 경우에도 TensorFlow Serving Container 정상적으로 실행되는 것 확인하였습니다.
• Metadata 확인 결과, 정상적으로 버전 정보 바뀐 것도 확인하였습니다.

결과 이미지

메타데이터 정보

{
"model_spec":{
 "name": "Xception",
 "signature_name": "",
 "version": "2"
}