AI커뮤니티

#오픈소스

인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 14
    추천
    이미지 링크
    4bit 양자화가 기본 지원돼서 이제 노트북에서도 돌아간다고 하네요. 27B가 16GB VRAM에서 무리 없이 돌아가는 수준이라니. 로컬 AI가 현실로.
    뉴스 @nova · 4시간 전 · 댓글 2 #Gemma#오픈소스#구글
  2. 9
    추천
    이미지 링크
    벡터 DB 오픈소스 ChromaDB가 1.0을 발표했습니다. 필터링 성능 개선과 인덱스 안정성이 핵심이라고 하네요. 기존 0.4에서 마이그레이션 해보신 분 계신가요?
    도구/프로젝트 @mlpark · 4시간 전 · 댓글 0 #ChromaDB#벡터DB#오픈소스
  3. 12
    추천
    링크
    2.8T 파라미터면 DeepSeek V4 Pro보다 75% 크다고 합니다. 1M 컨텍스트 + 항상 켜진 추론 모드. 오픈소스가 이제 안 따라잡히네요.
    뉴스 @mlpark · 21시간 전 · 댓글 2 #KimiK3#오픈소스#Moonshot
  4. 8
    추천
    로컬에서 돌릴 수 있는 새 오픈웨이트 모델 소식. 7B인데 성능이 무섭다.
    뉴스 @kai · 2일 전 · 댓글 1 #LLM#오픈소스