AI커뮤니티
로그인 회원가입 EN

#rag

인기 최신 추천순
인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 12
    추천
    H 사내 문서 Q&A 챗봇, 3주 만에 배포했습니다
    이미지 링크
    사내 매뉴얼 2천 페이지를 RAG로 묶어서 챗봇을 만들었습니다. 임베딩은 bge-m3, 서빙은 vLLM으로 했고, 정확도는 사내 QA 기준 87% 나옵니다.
    자랑/공유 @hanbit · 6시간 전 · 댓글 1 #RAG#사내#배포
  2. 8
    추천
    R RAG 청크 크기, 문서 유형별로 어떻게 다르게 두시나요?
    이미지 링크
    코드 문서는 300토큰, 일반 문서는 500~800토큰으로 쓰고 있는데요. 법률 문서처럼 구조화된 건 섹션 단위로 자르는 게 낫다는 의견도 있더라고요. 다들 어떻게 하세요?
    질문답변 @rai · 6시간 전 · 댓글 1 #RAG#청크#임베딩
  3. 9
    추천
    S 폐쇄망 RAG 키트 — 실제 배포 사례 공유
    이미지 링크
    인터넷이 안 되는 환경에서 LLM+RAG를 돌려야 하는 프로젝트였는데, Ollama + 로컬 임베딩으로 구성했습니다. 오프라인 배포에 관심 있으신 분들께 도움이 되길.
    자랑/공유 @sean · 8시간 전 · 댓글 1 #오프라인#RAG#사례
  4. 13
    추천
    P 파인튜닝 vs RAG — 언제 뭘 써야 하나요?
    이미지 링크
    도메인 지식이 필요하면 RAG, 스타일/포맷 고정이면 FT라는 기본 공식이 있는데, 실제 프로젝트에서는 어떤 기준으로 결정하시나요?
    질문답변 @polyglot · 13시간 전 · 댓글 0 #RAG#파인튜닝#아키텍처
  5. 10
    추천
    S Docker + Ollama + FastAPI RAG 템플릿 공유합니다
    이미지 링크
    로컬 RAG 서비스 최소 구성 템플릿을 만들어봤습니다. docker compose 하나로 Ollama + FastAPI + ChromaDB가 뜹니다. 피드백 환영해요.
    도구/프로젝트 @sean · 11시간 전 · 댓글 1 #RAG#템플릿#Docker
  6. 11
    추천
    A 우리 팀 KB를 RAG 봇으로 대체했습니다
    이미지 링크
    지식베이스 검색 시간이 하루 2시간 → 10분으로 줄었습니다. 초기엔 환각이 문제였는데, 인용 소스 표시를 강제하니 신뢰도가 확 올라갔어요.
    자랑/공유 @alexus · 17시간 전 · 댓글 1 #KB#RAG#생산성
  7. 15
    추천
    S airgap RAG 키트 만들었습니다
    폐쇄망용 완전 오프라인 RAG. Ollama만으로 동작, 임베딩은 bge-m3. 피드백 환영합니다.
    도구/프로젝트 @sean · 1일 전 · 댓글 3 #RAG#폐쇄망#Ollama
  8. 8
    추천
    S 폐쇄망 RAG 키트 — 실제 배포 사례 공유
    금융권 고객사에 설치했습니다. 인터넷 완전 차단 환경에서도 임베딩+검색+생성 전부 동작. 자세한 내용은 글에.
    자랑/공유 @sean · 1일 전 · 댓글 1 #폐쇄망#RAG#배포
  9. 8
    추천
    V RAG에서 임베딩 모델 뭐 쓰세요?
    한국어 문서 검색인데 bge-m3 vs multilingual-e5 고민입니다. 경험 공유 부탁해요.
    질문답변 @vectorlee · 1일 전 · 댓글 4 #RAG#임베딩
  10. 8
    추천
    G 파인튜닝 vs RAG, 언제 뭘 써야 하나요?
    도메인 용어가 많은데 파인튜닝이 나을지 RAG가 나을지. 둘 다 해보신 분들 의견 궁금합니다.
    질문답변 @gptkim · 1일 전 · 댓글 1 #파인튜닝#RAG#선택
  11. 9
    추천
    A We replaced our support team's KB with a RAG bot
    Ticket deflection went from 0% to 38% in a month. Here's the architecture and the mistakes we made.
    자랑/공유 @alexus · 1일 전 · 댓글 1 #support#rag#case-study
  12. 5
    추천
    P RAG eval: how do you measure answer quality?
    We use RAGAS but the scores don't correlate with human judgment. What do you actually use in production?
    질문답변 @polyglot · 1일 전 · 댓글 1 #rag#evaluation#ragas
  13. 6
    추천
    K Best vector DB for a solo dev in 2026?
    Chroma vs Qdrant vs LanceDB for a small self-hosted RAG service. Disk and RAM matter — running on a free-tier VM.
    질문답변 @kai · 1일 전 · 댓글 2 #vectordb#rag
  14. 8
    추천
    V My 8B model beats our old fine-tune with RAG only
    Replaced a custom fine-tune with a generic 8B + good retrieval. Cheaper to maintain, better scores. Data point for you.
    자랑/공유 @vectorlee · 1일 전 · 댓글 1 #rag#finetune#case-study
  15. 7
    추천
    M 임베딩 모델 교체하면 기존 데이터 다시 임베딩해야 하나요?
    bge-m3에서 다른 모델로 바꾸려는데, 기존 문서 전부 다시 인덱싱해야 하는 게 맞는지요?
    질문답변 @mlpark · 1일 전 · 댓글 1 #임베딩#인덱싱#RAG
  16. 6
    추천
    R How do you handle hallucinated citations in RAG?
    Model cites chunks that don't actually support the answer. Any post-processing tricks that work?
    질문답변 @rai · 1일 전 · 댓글 0 #rag#hallucination#citations
  17. 8
    추천
    J My RAG chatbot for a 10k-page policy manual actually works
    Our org has 10k pages of policy PDFs nobody reads. Built a RAG bot with citations that links back to the exact page. Support queries dropped noticeably and compliance is happy because everything is traceable. Side project that became the team's favorite tool.
    자랑/공유 @Jennifer Chen · 2일 전 · 댓글 0 #rag#chatbot#showcase
  18. 3
    추천
    S RAG vs fine-tuning for a 5k-doc internal wiki — which actually worked for you?
    We need to ground answers in internal docs that update weekly. RAG feels obvious but retrieval quality is killing us. Fine-tuning is a one-time cost but the docs change. Anyone run a hybrid? What's your split?
    질문답변 @Sofia Alvarez · 1일 전 · 댓글 0 #rag#finetuning#grounding
  19. 6
    추천
    A Built a tiny eval harness for our RAG pipeline — 100 lines, huge ROI
    링크
    We were merging PRs blind. Now every RAG change runs 40 questions with expected answers and fails the build if recall drops. It's crude but it caught two regressions last week. Sometimes the simple stuff wins.
    도구/프로젝트 @Anna Nowak · 2일 전 · 댓글 0 #rag#evals#testing
  20. 4
    추천
    D How do you handle 200k+ context without losing your mind (and your money)?
    Long context is expensive and my tests show the model forgets the middle anyway. Chunking into a RAG loop works but feels like giving up. Do you just pay for big context or actually engineer around it?
    질문답변 @David Kim · 2일 전 · 댓글 0 #context#rag#llm
  21. 6
    추천
    D Open-sourced my 'second brain' — 200k notes in a vector DB
    링크
    Been dumping notes, highlights, and bookmarks into a local RAG setup for two years. Search is instant and surprisingly good. Open-sourced the whole thing so it's reproducible. Warning: your old notes are more embarrassing than you remember.
    자랑/공유 @David Kim · 6일 전 · 댓글 0 #second-brain#rag#opensource
  22. 3
    추천
    T Interviewer asked me to design a RAG system on a whiteboard. I froze.
    In hindsight it was a fair question but I panicked and started rambling about chunk sizes. I've built two RAG systems in production. Doesn't matter, whiteboard me is a different person. Anyone else have interview horror stories?
    자유 @Tom Hall · 6일 전 · 댓글 0 #interview#rag#humor
  23. 5
    추천
    D Multi-tenant RAG: one big index or per-tenant collections?
    We're about to onboard our first enterprise customers and I have to decide. Shared index with metadata filters seems simpler but I'm scared of cross-tenant leakage. Per-tenant collections mean more ops. What do you run?
    질문답변 @David Kim · 10일 전 · 댓글 0 #rag#multi-tenant#security