[인공지능] 텐서플로우 서빙이란?(TensorFlow Serving)
- 인공지능
- 2022. 3. 14. 17:36
참조
소개
- TensorFLow Serving은 운영 환경을 위해 설계되었으며 머신러닝 모델을 고성능으로 적용하는 유연한 시스템입니다.
- TensorFlow Serving을 사용하면 동일한 서버 아키텍처와 API를 유지하면서 새로운 알고리즘과 실험을 쉽게 배포할 수 있습니다.
- TensorFlow Serving은 TensorFlow 모델과의 기본적인 통합을 제공하면서도 다른 유형의 모델 및 데이터를 제공하도록 쉽게 확장할 수 있습니다.
텐서플로우 서빙 (TensorFlow Serving)
- 텐서플로우 서빙은 구글에서 만든 프로덕션(production) 환경을 위한 유연하고(flexible), 고성능의(high-performance) serving 시스템입니다.
- 보통 모델 설계 및 트레이닝이 끝나면 이를 실제 프로덕션 환경에 응용하기 위해서 추론(Inference)를 수행할 수 있는 시스템을 구축 해야 하는데 TensorFlow Serving은 이 과정을 최적화된 형태로 지원합니다.
728x90
'인공지능' 카테고리의 다른 글
| [인공지능] TensorFlow Serving - Docker Container 실행 하기, gRPC (0) | 2022.03.15 |
|---|---|
| [인공지능] TensorFlow Serving - Docker Container 실행 하기, REST API (0) | 2022.03.15 |
| [인공지능] TensorFlow Could not load library cudnn_cnn_infer64_8.dll. Error code 126 에러 해결 (7) | 2022.02.23 |
| [인공지능] 케라스 학습 기술 - 배치 정규화 (0) | 2022.02.17 |
| [인공지능] 케라스 학습 기술 - 규제화 (0) | 2022.02.17 |
