내 PC에서 ollama를 사용하여 llama3 모델 실행하기

ollama - llama3, phi3, mistral, gemma

ollama를 다운로드하여 설치하고, llama3 모델을 실행하는 방법을 단계별 설명. 또한 다른 ollama 모델과 모델 라이브러리에 대해서도 소개.

ollama 사용하기: 내 PC에서 llama3 모델 실행하기

최근 출시된 llama3 모델을 직접 사용해보려면 ollama를 설치해야 함. ollama는 여러 LLM(Large Language Model) 모델을 손쉽게 다운로드하고 실행할 수 있는 도구이다.

ollama 다운로드 및 설치

1. https://ollama.com 웹사이트에 방문하여 ollama를 다운로드.
2. 다운로드한 파일을 실행하여 ollama를 설치.

llama3 모델 실행

1. 터미널 또는 명령 프롬프트를 열고 다음 명령어를 입력:

$ ollama run llama3

2. 이 명령어를 실행하면 ollama가 llama3 모델을 다운로드한다. 다운로드가 완료되면 >>> 프롬프트가 나타남.
3. 이제 GPT 모델에 글을 작성하듯이 프롬프트에 입력하면 llama3 모델이 응답한다.

ollama run llama3

다른 ollama 모델 사용하기

ollama에서는 llama3 외에도 phi3, mistral, gemma, codellama, deepseek-coder 등 다양한 모델을 제공함. 각 모델은 특정 용도에 특화되어 있으므로, 작업 목적에 맞는 모델을 선택하는 것이 좋다.

모델 라이브러리 확인: https://ollama.com/library

답변을 한글로 하라고 하면, 한글로 답변을 한다. 현재 ollama는 영어만 지원하므로 아쉬움이 남는다.