메타 라마-3 (LLAMA-3) 설치하기

올라마 (OLLAM) 는 다양한 LLM 을 사용해볼 수 있는 플랫폼을 제공합니다.

먼저 아래 운영체제에 맞게 다운로드해줍니다.

https://ollama.com/

 

 

아래처럼, 다양한 LLM 모델을 지원합니다. 

용량도 다양하니, 필요한 모델을 선택해서 다운할 수 있습니다. 

 

그리고, 필요한 LLM 모델을 다운로드해야 합니다.

우측 상단에서 “Models” 을 선택하면 됩니다.

 

 

 

아래 나열된 다양한 LLM 모델 중에서 “llama3” 를 선택합니다.

 

Llama-3 모델 중에서 8b (4.7GB) 와 70b (40GB) 중에서 하나를 선택해서 다운로드 합니다.

-      8b (4.7GB) : ChatGPT 3.5 와 비슷합니다.

-      70b (40GB) : ChatGPT 4.0 와 비슷합니다.

 

 

우측에 나타난 명령어를 Copy 합니다.

 

 

설치된 OLLMA의 터미널에서 위 명령어를 입력하여, LLM 모델을 설치합니다.

 

>>> /?

Available Commands :

           /set                  Set session variables

           /show               Show model information

           /load <model>   Load a sessions or model

           /save <model>   Save your current session

           /bye                 Exit

           /?, /help            Help for a command

 

삭제하려면, ollama rm llama3:8b 을 터미널에 입력해주면 됩니다.