Programming/환경셋팅21 Huggingface 모델을 Ollama에 등록하기 1. 소개Ollama는 로컬 환경에서 LLM(Large Language Model)을 쉽게 다룰 수 있도록 도와주는 툴입니다. 주로 Llama 기반 모델들을 사용하지만, 그 외 다양한 모델도 활용할 수 있습니다. 오늘은 Hugging Face에서 제공하는 모델을 Ollama에 등록하여 사용할 수 있는 방법을 단계별로 알아보겠습니다.2. 준비물 확인하기Hugging Face 계정: 모델을 다운받기 위해 필요합니다.Ollama 설치: Ollama가 제대로 설치되어 있어야 합니다. (Mac 또는 Linux 환경에서 동작)터미널/CLI 사용법: 기본적인 터미널 명령어 사용 방법.3. Hugging Face에서 모델 찾기우선 Hugging Face에서 원하는 모델을 찾습니다. Ollama와 함께 사용하기 위해서는.. 2025. 1. 20. MacOS: Docker 에서 GPU 사용 제한사항Apple Silicon (M1/M2) Mac의 경우Docker Desktop의 제한: 현재 Docker Desktop은 Apple의 GPU를 컨테이너에 노출시키는 기능을 지원하지 않습니다.API 부재: Docker는 컨테이너 내부에서 Apple GPU에 접근할 수 있는 API를 제공하지 않습니다.Intel Mac의 경우하드웨어 패스스루 미지원: Docker는 LinuxKit VM 위에서 실행되며, 이 환경에서는 GPU 하드웨어 패스스루를 지원하지 않습니다.내장 그래픽 지원 제한: AMD나 Intel의 내장 그래픽에 대한 Docker의 지원이 제한적입니다.대안맥북에서 GPU 가속이 필요한 작업을 수행하려면 다음과 같은 방법을 고려할 수 있습니다:네이티브 맥 환경 활용: Docker를 사용하지 않고.. 2025. 1. 14. NERD Font - D2Coding NERD FONT NERD 폰트 화면에 보이는 아이콘들이 포함된 폰트입니다. Docker, JS, Markdown, yml, Python, Java, json, npm..등2012.02.13 - [Programming] - 개발자용 폰트 :: Bitstream Vera Sans Mono + 맑은고딕 2024. 9. 2. 무료 SSL 인증서: certbot 사용하기 certbot SSL wildcard 갱신순서기존에 _acme-challenge 로 등록된 DNS TXT 모두 삭제action: DNS name: _acme-challenge 삭제certbot 설치, certbot 명령어 실행action: apk add certbot or apt-get -y install certbot콘솔창에 나온 DNS name, value DNS TXT 타입으로 저장action: DNS TXT 생성DNS TXT 저장하는데 시간이 걸림1차 DNS 저장 후 콘솔에서 엔터, 2차 DNS 내용나옴2차 DNS TXT 저장 후 콘솔에서 엔터Successfully received certificate.Certificate is saved at: /etc/letsencrypt/live/xxx.co.. 2024. 1. 4. neo-vim 설치 - CoC, Python - 실시간자동완성 적용 vi를 IDE 처럼 사용해보자 설치 brew install nvim brew install cmake brew install luarocks brew install pkg-config nodeJs 설치 #mac brew install node@18 brew unlink node brew link --overwrite node@18 #linux curl -sL install-node.now.sh/lts | sudo bash #linux yarn 설치 #mac brew install yarn #linux curl -sS https://dl.yarnpkg.com/debian/pubkey.gpg | sudo apt-key add - echo "deb https://dl.yarnpkg.com/debian/ sta.. 2023. 5. 27. 추천: MAC 맥 개발자를 위한 설치 프로그램 이번에 맥 초기화 / 셋팅하면서 설치했던 앱들 정리, 무료/개발용으로 잘 사용하고 있는 것들. 하나씩 적었는데, 내용 bottom 에 가면 brew 랑, zshrc 전체 내용이 있습니다 맥초기화 셋팅 - 설치 프로그램 sudo spctl —master-disable fuzzy finder : command search 자동완성 -> 커맨드 일부만 치고 Ctrl+r brew install fzf add ~/.zshrc [ -f ~/.fzf.zsh ] && source ~/.fzf.zsh bat -> syntax 추가된 cat brew install bat add ~/.zshrc alias cat='bat --paging=never' vim brew install neovim add ~/.zshrc alia.. 2023. 3. 21. 이전 1 2 3 4 다음
