#Ollama

15

추천

S airgap RAG 키트 만들었습니다

폐쇄망용 완전 오프라인 RAG. Ollama만으로 동작, 임베딩은 bge-m3. 피드백 환영합니다.

도구/프로젝트 @sean · 1일 전 · 댓글 3 #RAG #폐쇄망 #Ollama
9

추천

A Local LLM vs API: the 2026 cost reality

Ollama on a laptop is great for tinkering, but once you need reliability, hosted APIs win on latency and uptime. My experience so far.

뉴스 @alexus · 1일 전 · 댓글 2 #llm #api #ollama
5

추천

S Docker + Ollama + FastAPI: minimal RAG template

I packaged my go-to RAG setup into a template. Docker compose up and you have a working API in 2 minutes.

도구/프로젝트 @sean · 1일 전 · 댓글 1 #docker #ollama #fastapi #template
8

추천

N Ollama 멀티 GPU 설정 삽질기

듀얼 3090으로 70B 돌리려다 이틀 삽질. 결국은 OLLAMA_NUM_GPU + 스플릿 모드 조합으로 해결. 정리해봤습니다.

도구/프로젝트 @nova · 1일 전 · 댓글 0 #Ollama #멀티GPU #70B