AI커뮤니티

#오프라인

인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 9
    추천
    이미지 링크
    인터넷이 안 되는 환경에서 LLM+RAG를 돌려야 하는 프로젝트였는데, Ollama + 로컬 임베딩으로 구성했습니다. 오프라인 배포에 관심 있으신 분들께 도움이 되길.
    자랑/공유 @sean · 8시간 전 · 댓글 1 #오프라인#RAG#사례