BeomBeomJoJo

전체보기 (1478)

[TensorFlow] TF Serving 1번 버전 없이 다른 버전 동작 기능 확인

인공지능 범범조조 2022. 3. 22. 20:27

참조 https://tf.wiki/en/deployment/serving.html#installation-of-tensorflow-serving 목적 TensorFlow Serving 은 버전 정보를 토대로 모델 업데이트 하는 것을 확인하였습니다. 예를 들어, Xception 모델 안에 1,2,3 버전이 존재하면 가장 번호가 높은 3번 최신 버전을 업데이트합니다. 여기서 확인해야 할 점이, 만약 버전이 1번이 없이 2번만 존재하는 경우에도 문제 없이 TensorFlow Serving Container가 정상적으로 동작하는지 확인합니다. 테스트 진행할 버전 디렉터리 구성 앞서 Xception 모델에 1, 2 2개의 버전이 있었습니다. 여기서 1번 버전 디렉터리를 삭제하고, 2번 디렉터리만 남겼습니다. Te..

더 읽기

[TensorFlow] Tensorflow Serving 모델 업데이트 방법

인공지능 범범조조 2022. 3. 22. 19:24

참조 https://tf.wiki/en/deployment/serving.html#installation-of-tensorflow-serving 목적 Tensorflow Serving에서 모델 업데이트 방법에 대해 조사합니다. TensorFlow Serving 모델 폴더 구조 TensorFlow Serving은 다음과 같은 전형적인 모델 폴더 구조를 가진 모델의 업데이트를 지원합니다. /saved_model_files /1 # model files of version 1 /assets /variables saved_model.pb ... /N # model files of version N /assets /variables saved_model.pb 위의 1 ~ N 의 서브폴더는 버전 번호가 다른 모델을..

더 읽기

[Tensorflow] Tensorflow Serving models.config 설정 방법

인공지능 범범조조 2022. 3. 21. 21:47

참조 https://ichi.pro/ko/tensorflow-serving-eul-sayonghayeo-daleun-model-beojeon-eul-jegonghaneun-bangbeob-eun-mueos-ibnikka-244526198184183 https://www.tensorflow.org/tfx/serving/docker 목적 Tensorflow Serving 을 사용할 때 models.config 파일을 통해 모델 서버 구성 파일을 사용하여 모델 환경 설정을 할 수 있습니다. 모델 서버 구성 파일은 프로토콜 버퍼 파일(protobuf)로, 언어 중립적이고 플랫폼 중립적 인 확장 가능하지만 구조 데이터를 직렬화하는 간단하고 빠른 방법을 제공합니다. 모델 구성 파일 예시 model_config_li..

더 읽기

[텐서플로우] 모델 summary param 의미

인공지능 범범조조 2022. 3. 20. 17:36

소개 안녕하세요. 오늘은 텐서플로우에서 기본으로 제공해 주는 함수인 summary 함수에 대해서 알려 드리려고 합니다. summary 함수는 모델 구성에 대해서 확인할 수 있게 기본으로 제공해 주는 함수입니다. 예제 코드 import numpy as np import tensorflow as tf import matplotlib.pyplot as plt from tensorflow import keras # 학습데이터 준비 x = np.array([1,2,3,4,5,6,7,8,9,10]) y = np.array([1,2,3,4,5,6,7,8,9,10]) # Keras의 Sequential모델을 선언 model = keras.Sequential([ # 첫 번째 Layer: 데이터를 신경망에 집어넣기 ker..

더 읽기

[인공지능] 텐서플로우 - 1에서 10까지 예측 모델 구하기(선형회귀)

인공지능 범범조조 2022. 3. 20. 17:13

소개 안녕하세요. 오늘부터 텐서플로우를 학습하면서 틈틈히 공부한 내용과 예제 코드들을 블로그에 정리하려고 합니다. 자세한 알고리즘 부분까지는 알지 못하고, 간단히 텐서플로우, 케라스를 통한 모델 학습 및 검증, 추론 정도만 하는 것이 저의 목표 이기 때문에 이 부분에 도달할 때까지 포스팅 하려고 노력 하겠습니다. 오늘은 첫 번째로, 가장 기본중에 기본인 1에서 10까지 값을 예측하는 모델을 구하는 예제 코드를 작성해 보려고 합니다. 바로 예제 코드를 작성해 보겠습니다. 텐서플로우 설치 텐서플로우 예제 코드는 Python으로 작성할 것입니다. 선행적으로 텐서플로우를 우선 설치 진행해야 합니다. 설치 방법은 커맨드(cmd) 창을 열어서 pip install tensorflow 라고 입력하여 설치 진행합니다...

더 읽기

[C# 문법] .NET 콘솔 서비스 - DockerFile, Imgae, Containger 생성하기

C#/C# 문법 범범조조 2022. 3. 18. 21:23

소개 안녕하세요. 오늘은 .NET 콘솔 서비스 프로그램을 하나 생성한 후, 해당 서비스를 Docker 컨테이너로 실행하는 방법에 대해서 알려 드리도록 하겠습니다. 개인적으로 Docker를 공부하고 있고, 주 언어가 C#을 이용한 .NET 어플리케이션을 개발하고 있어서 해당 부분을 기록하고자 포스팅 합니다. 요구사항 우선 Docker를 사용하기 위해서는 OS에 따라 다르지만, 저는 Window 11 환경에서 테스트 진행하기 때문에 Window 11 환경에 맞춰 설명 합니다. Docker를 실행하기 위해서는, Docker Desktop를 설치해야 하고 설치가 안되신 분들을 구글에 검색 후 설치를 우선 진행해 주시기 바랍니다. Docker Destkop을 설치 하였다면 이제 .NET 콘솔 서비스를 Visual..

더 읽기

[C# 문법] C# 에서 Process로 Python 파일 실행하기

C#/C# 문법 범범조조 2022. 3. 18. 20:59

참조 https://betterprogramming.pub/running-python-script-from-c-and-working-with-the-results-843e68d230e5 https://ernest-bonat.medium.com/using-c-to-run-python-scripts-with-machine-learning-models-a82cff74b027 목적 C# 에서 기본으로 제공하는 Process 클래스를 통해 Python 파일을 실행하는 방법에 대해서 POC 진행합니다. 실제 Process로 파이썬 파일을 실행하여 정상적으로 실행되는지 테스트 진행합니다. 개발 환경 .NET Version : .NET 6 개발 도구 : Visual Studio 2022 예제 코드 C#에서 Python..

더 읽기

[Python] 파이썬 설치경로 확인하기

파이썬(Python) 범범조조 2022. 3. 18. 19:55

소개 안녕하세요. 오늘은 파이썬에서 파이썬 설치된 경로를 찾는 방법에 대해서 알려 드리려고 합니다. sys 모듈을 이용하면 아주 쉽게 찾을 수 있는데요. 바로 찾는 방법에 대해서 알려 드리겠습니다. 파이썬 설치경로 확인방법 CMD 실행 -> Python -> import sys -> sys.executable 입력하게 되면 본인 파이썬 설치 경로를 확인할 수 있습니다.

더 읽기

[C# 문법] C# 에서 IronPython 이용하여 Python 연동

C#/C# 문법 범범조조 2022. 3. 18. 19:07

참조 https://github.com/IronLanguages/ironpython3 https://ironpython.net/ 목적 IronPython3 라이브러리를 사용하여 C#에서 Python 사용 가능한지 POC 진행합니다. IronPython 개요 IronPython은 .NET에 탁원한 추가 기능으로 Python 개발자에게 .NET의 강력한 기능을 제공하는 오픈소스 입니다. 기존 .NET 개발자는 새로운 애플리케이션을 처음부터 포함, 테스트 또는 작성하기 위한 빠르고 표현력이 뛰어난 스크립팅 언어로 IronPython을 사용할 수도 있습니다. 최신 정보 IronPython 공식 홈페이지에서 가장 최신에 발표된 버전은 IronPython-3.4.0-alpha 버전입니다. 개발 환경 .NET Ver..

더 읽기

[gRPC] gRPC 프로토콜 버퍼란?

gRPC 범범조조 2022. 3. 17. 18:23

gRPC 시작에서 운영까지 - OREILLY 오늘은 gRPC에서 필수 요소인 프로토콜 버퍼에 대해서 알아보도록 하겠습니다. 구조화된 데이터를 직렬화할 수 있는 오픈소스 소프트웨어 입니다. 2008년 구글에 의해 공개 되었습니다. 보통 데이터 저장이나 통신용 프로그램에 주로 사용되며, 프로토버프(protobuf)라고도 불립니다. gRPC는 프로토콜 버퍼를 IDL로 사용해 서비스 인터페이스를 정의합니다. 이 프로토콜 버퍼는 언어에 구애받지 않고 플랫폼 중립적이며 확장 가능한 메커니즘으로 구조화된 데이터를 직렬화하고자 사용됩니다. // ProductInfo.proto syntax = "proto3"; ------1 package ecommerce; ------2 service ProductInfo{ -----..

더 읽기

[gRPC] gRPC 장점

gRPC 범범조조 2022. 3. 17. 18:10

참조 gRPC 시작에서 운영까지 - OREILLY 소개 오늘은 gRPC를 사용해야 하는 이유 즉, 장점에 대해서 알아 보도록 하겠습니다. gRPC의 장점 gRPC가 가져다주는 장점은 gRPC의 적용 확대의 중요한 이유이기 때문에 정확히 이해해야 합니다. 1. 프로세스 간 통신 효율성 gRPC는 JSON, XML과 같은 텍스트 형식을 사용하는 대신 프로토콜 버퍼 기반 바이너리 프로토콜을 사용하여 gRPC 서비스 및 클라이언트와 통신합니다. 또한 HTTP2 위에 프로토콜 버퍼로 구현 되기에 프로세스 간 통신 속도가 매우 빠르다는 장점이 있습니다. 2. 간단 명확한 서비스 I/F와 스키마 gRPC는 애플리케이션 개발용 계약 우선 접근 방식을 권장합니다. 먼저 서비스 인터페이스를 정의한 후 나중에 구현 세부 사..

더 읽기

[인공지능] gRPC 메타데이터 input, ouput 정보 가져오기

인공지능 범범조조 2022. 3. 16. 19:13

참조 https://github.com/tensorflow/serving/blob/master/tensorflow_serving/apis/prediction_service_pb2_grpc.py 목적 Tensorflow Serving 에서 gRPC를 이용하여 Python 코드에서 검증하는 작업 코드를 작성하였습니다. 하지만, 문제가 되는 부분이 모델별로 input, ouput 데이터가 다르기 때문에 해당 부분을 유연하게 가져오는 방법이 필요 했습니다. 조사 결과, Model의 Metadata 안에 Key, Value 값으로 Input, Ouput 값들이 저장되어 있는 것을 확인하였습니다. 실제로 Tensroflow Serving 의 gRPC 코드에 metadata를 가져와 Input, Ouput 값들을 파..

더 읽기

Copyright © BeomBeomJoJo All Rights Reserved

Designed by JB FACTORY

티스토리툴바