Скачать с ютуб Ollama(Lamma3.1,gemma2) 설치, n8n Ollama 사용해서 채팅 в хорошем качестве

Ollama(Lamma3.1,gemma2) 설치, n8n Ollama 사용해서 채팅

local 컴퓨터 환경 Geforce 3080 Ollama[ Lamma3.1 - 8b, gemma2 - 2b ] ngrok http 11434 --url=(무료 도메인) --host-header="localhost:11434" !! 본영상은 ngrok 도메인 할당 이후 편으로 필수는 아니나 ngrok를 사용하시는 분이라면 진행을 하고 오시는 것이 낫습니다.    • ngrok 무료 고정 도메인 할당받기(one static domai...   Ollama를 외부 컴퓨터에 설치해 해당 모델들을 가져와서 챗봇에 이용하는 상황으로 프로젝트를 진행했습니다. 또한 본인의 컴퓨터로 실행하는 모델을 외부에서도 사용가능하니 여러 프로젝트에서도 사용 가능하여 Ollama를 앞으로의 프로젝트에서 사용할 것 같습니다. ! 생각 3080 그래픽 카드도 Lamma3.1 8b 모델을 돌리기에는 부족합니다. 제 그래픽 카드 보다 높으시다면 해당 모델을 중점으로 사용하셔도 되지만 그렇지 않다면 굳이 높은 사양을 고집하지 말고 프로젝트에서 가벼운 부분은 ollama의 가벼운 모델로 처리하고, 무거운 부분은 chatgpt로 처리하는 식으로 부담을 줄일 수 있을 것 같습니다. 00:00 설명 00:45 Ollama 설치 02:29 모델 다른 드라이브 설치 04:00 Lamma 3.1 - 8b 05:26 gemma2 - 2b 07:02 localhost:11434 07:18 ngrok 09:38 11:51 채팅 + GPU 사용률