본문 바로가기

전체 글48

SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 3. KULLM(구름)모델 AWS Large Model Container DLC사용하여 배포하기 목차 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 1. KoSimCSE-RoBERTa를 사용한 한국어 문장 임베딩 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 2. KoSimCSE-RoBERTAa SageMaker Studio 테스트 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 3. KULLM(구름)모델 AWS Large Model Container DLC사용하여 배포하기 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 4. FAQ with FAISS - Vector Store Test SageMaker, Streamlit, Opensea.. 2023. 11. 6.
SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 2. KoSimCSE-RoBERTAa SageMaker Studio 테스트 목차 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 1. KoSimCSE-RoBERTa를 사용한 한국어 문장 임베딩 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 2. KoSimCSE-RoBERTAa SageMaker Studio 테스트 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 3. KULLM(구름)모델 AWS Large Model Container DLC사용하여 배포하기 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 4. FAQ with FAISS - Vector Store Test SageMaker, Streamlit, Opensea.. 2023. 11. 6.
SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 1. KoSimCSE-RoBERTa를 사용한 한국어 문장 임베딩 목차 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 1. KoSimCSE-RoBERTa를 사용한 한국어 문장 임베딩 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 2. KoSimCSE-RoBERTAa SageMaker Studio 테스트 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 3. KULLM(구름)모델 AWS Large Model Container DLC사용하여 배포하기 SageMaker, Streamlit, Opensearch를 사용한 RAG챗봇 구성하기 4. FAQ with FAISS - Vector Store Test SageMaker, Streamlit, Opensea.. 2023. 11. 6.
K8s from scratch - 6. 인그레스 노드포트 서비스는 포트를 중복 사용 할 수 없기때문에 1개의 노드포트에 1개의 디플로이먼트만 적용이 가능합니다. 만약 여러개의 디플로이먼트를 사용하게된다면 그만큼 노드포트 서비스를 실행시켜야하고, 이러한 방법은 자원의 낭비입니다. 때문에 쿠버네티스에서는 인그레스를 사용합니다. 인그레스 인그레스는 고유한 주소를 제공하여 사용 목적에 따라 다른 응답을 제공하고 L4/L7 로드밸런서와 보안인증서를 처리하는 기능을 제공합니다. 인그레스를 사용하려면 인그레스 컨트롤러가 필요합니다. 본 문서에서는 쿠버네티스에서 지원하는 NGINX 인그레스 컨트롤러를 구성해보도록 하겠습니다. NGINX 인그레스 컨트롤러 NginX인그레스 컨트롤러는 다음 단계로 작동하게 됩니다. 유저는 노드마다 설정된 노드포트를 통하여 노드포트 서비.. 2023. 10. 25.

티스토리툴바