gRPC 범범조조 2022. 3. 15. 20:18
참조 https://grpc.io/docs/what-is-grpc/introduction/ 개요 gRPC에서 클라이언트 응용 프로그램은 마치 로컬 개체인 것처럼 다른 컴퓨터의 서버 응용 프로그램에서 메서드를 직접 호출할 수 있으므로 분산 응용 프로그램 및 서비스를 더 쉽게 만들 수 있습니다. 많은 RPC 시스템에서와 같이 gPRC는 매개변수와 반환 유형을 사용하여 원격으로 호출할 수 있는 메서드를 지정하여 서비스를 정의한다는 아이디어를 기반으로 합니다. 서버 측에서 서버는 이 인터페이스를 구현하고 gRPC 서버를 실행하여 클라이언트 호출을 처리합니다. 클라이언트 측에서 클라이엍느에는 서버와 동일한 방법을 제공하는 Stub 이 있습니다. gPRC 특징 gRPC는 HTTP/2 를 기반으로 동작하여 구글에서 ..
더 읽기
인공지능 범범조조 2022. 3. 15. 17:58
참조 https://www.tensorflow.org/tfx/guide/serving http://solarisailab.com/archives/2703 소개 Docker를 이용하여 TensorFlow Serving 실행하는 방법을 정리합니다. Docker를 이용한 TensorFlow Serving 실행 모델을 SavedModel 포맷으로 저장한 이후에 이를 TensorFlow Serving에서 로드해서 API 서버로 만들 수 있습니다. 보통 TensorFlow Serving은 Docker를 이용해서 실행합니다. Docker를 이용해서 TensorFlow Serving을 실행하는 방법은 다음과 같습니다. TensorFlow Serving 이미지 다운로드 먼저 docker hub에서 TensorFlow S..
인공지능 범범조조 2022. 3. 15. 17:56