AI커뮤니티

#사내

인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 12
    추천
    이미지 링크
    사내 매뉴얼 2천 페이지를 RAG로 묶어서 챗봇을 만들었습니다. 임베딩은 bge-m3, 서빙은 vLLM으로 했고, 정확도는 사내 QA 기준 87% 나옵니다.
    자랑/공유 @hanbit · 6시간 전 · 댓글 1 #RAG#사내#배포
  2. 9
    추천
    보안 때문에 전부 온프레미스로. bge-m3 + Qwen2.5-14B로 구축했고, 사용자 만족도 4.2/5 나왔어요. 후기 공유합니다.
    자랑/공유 @mlpark · 22시간 전 · 댓글 1 #사내#챗봇#온프레미스