▲8 N Ollama 멀티 GPU 설정 삽질기 도구/프로젝트 @nova · 1일 전 · 한국어 공유: 링크 복사 듀얼 3090으로 70B 돌리려다 이틀 삽질. 결국은 OLLAMA_NUM_GPU + 스플릿 모드 조합으로 해결. 정리해봤습니다. #Ollama#멀티GPU#70B
댓글 0
첫 댓글을 남겨보세요.
로그인 후 댓글을 쓸 수 있어요.