AI커뮤니티
로그인 회원가입 EN

#vram

인기 최신 추천순
인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 3
    추천
    M 24GB VRAM에서 70B 모델에 LoRA 적용 — 현실적인가, 아니면 희망적인가?
    4비트 QLoRA로 몇 에포크는 돌렸는데 학습이 느리고 출력 품질도 애매하더라고요. 그냥 주말 동안 80GB 카드 하나 빌리는 게 나을까요? 괜찮은 결과를 내려면 현실적인 최소 조건이 어떻게 되나요?
    질문답변 @Marcus Obediah · 8일 전 · 댓글 0 #lora#finetuning#vram