Ollama의 설치 및 모델 다운로드 방법

Ollama

대규모 언어 모델(Large Language Model, LLM)을 손쉽게 활용할 수 있도록 돕는 프로그램입니다. 

Ollama의 설치

Ollama 공식 홈페이지(https://ollama.com/)에서 OllamaSetup.exe를 다운로드합니다. 

다운로드한 파일을 실행하여 설치를 완료하세요.

 

Windows에서의 OllamaSetup.exe 다운로드 방법. Ollama 홈페이지의 첫 화면에서 Download 버튼을 볼수 있다.

설치가 완료되면 작업표시줄에서 Ollama의 마크인 돼지 아이콘을 확인할 수 있습니다. 

Ollama의 사용방법

Ollama는 자체적으로 활용하는 경우가 많지 않으므로 모델의 추가와 제거 정도만 알아두면 충분합니다. 명령 프롬프트에서 'Ollama'를 입력하면 사용 가능한 명령어 목록이 표시되므로, 필요한 경우 이를 참고하여 사용하면 됩니다. 

Ollama의 사용 가능한 명령어

LLM 모델 다운로드 및 삭제

Ollama에서 LLM 모델을 다운로드하거나 삭제하려면 다음 명령어를 사용하세요.

모델 다운로드

Ollama run 모델명

• 해당 명령어는 모델을 실행시키는 동시에, 모델이 없을 경우 자동으로 다운로드합니다. 
• 다운로드 후 모델이 실행되므로, 완료되면 창을 닫아도 됩니다. 

모델 삭제

Ollama rm 모델명

• 지정한 모델을 삭제합니다. 

설치된 모델 확인

Ollama list

• 현재 설치된 모델 목록을 확인할 수 있습니다. 

'Ollama list'를 사용하여 설치된 모델을 확인할 수 있다.

Ollama에서 사용 가능한 모델을 찾는 방법

Ollama에서 사용할 수 있는 모델은 다음과 같은 방법으로 확인할 수 있습니다. 

1. 홈페이지 방문

• Ollama 공식 홈페이지로 이동합니다. 
• 오른쪽 상단의 'Models' 메뉴를 클릭합니다. 

2. 모델 선택

• 원하는 모델을 찾아 클릭하면 상세 페이지로 이동합니다. 
• 모델 종류를 선택하면 해당 모델을 다운로드할 수 있는 명령어가 생성됩니다. 

3. 모델 다운로드 

• 생성된 명령어를 복사해 명령 프롬프트에 붙여 넣고 실행하면 모델이 다운로드됩니다. 

1.  

Ollama 모델 다운로드 방법. 모델 크기를 선택한 후 생성되는 명령어를 명령 프롬프트에 붙여넣고 실행하면 해당 모델이 다운로드 된다.