# SageMaker
[AWS] Lambda와 API Gateway를 이용한 Amazon SageMaker 모델 엔드포인트 호출하기
📝서론 CloudWatch 메트릭을 통해 확인할 수 있는 SageMaker의 엔드포인트 지표는 ModelLatency 와 OverheadLatency 이 있습니다. 오늘은 OverheadLatency를 줄일 수 있는 방법에 대해서 작성해보려고 합니다. Overh
Sagemaker 빌트인 모델 서빙 패턴
딥러닝 모델을 만들고 효율적인 AI/ML 프로세스를 위해 Sagemaker로 Pipeline을 작성했다면 만들어진 모델을 이용해 실제 서비스에 적용해야 합니다. 이때, Sagemaker에서 크게 4가지의 빌트인 모델 서빙 패턴을 제공해주는데 프로젝트에 맞는 서빙 패턴을
Sagemaker MLOps Pipeline with HuggingFace
Your custom Huggingface model for MLOps pipeline in sagemaker.Preprocess dockerfileInference dockerfile(cpu or cuda) sagemaker-pytorch-inference-toolk
(데이터분석 커리어UP) AWS SageMaker
Amazon SageMaker를 통해서 우리가 알고 있던 인공지능 지식을 실제 프로덕션화까지 구체화 시켜보자!
UnicodeDecodeError (Sagemaker, HuggingFace)
When the load the checkpoint in Sagemaker that maked in huggingface(transformer) of other os(windows, ubuntu),
[SageMaker]AWS SageMaker 실습하기
모든 퍼블릭 액세스 차단을 비활성 해줍시다. 만들어둔 버킷 이름을 기억해둡시다. sagemaker로 이동해서 대쉬보드에서 노트북을 찾아노트북 인스턴스를 생성합시다. 여기서 추가적으로 설정해야 할 부분은 IAM역할에서 새역할 생성 > 특정 S3 버킷 > 1에서 만든 버킷
AWS custom ML model with SageMaker
bring your own docker container여러 방식이 있겠지만 이 강의에서 소개하는 방식은 script mode방식이다. script mode 작성하는 방식은 docker container를 사용하는데 간단한 설명은 아래와 같다. AWS manage co