Soup MakazhanAlpamys

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

주요 언어
Python
Stars
1,684
Forks
262

태그

  • CLI 도구
  • LLM 파인튜닝
  • 로컬 GPU 학습
  • QLoRA
  • 양자화

요약

Soup은 LLM 파인튜닝의 인프라 복잡도를 없애기 위해 만들어진 CLI 도구로, YAML 설정 파일 하나와 명령어 하나로 전체 학습 파이프라인을 실행합니다. 레이어 스트리밍(Layer Streaming) 기법으로 기본 모델을 VRAM에 상주시키지 않고 디코더 레이어 단위로 GPU에 공급해, NF4 양자화와 결합 시 4GB 노트북 GPU에서도 Llama-3.1-8B를 파인튜닝할 수 있습니다. SFT뿐 아니라 DPO·ORPO·SimPO·KTO 같은 선호도 손실도 지원하며, SSH나 클라우드 없이 로컬 GPU에서 QLoRA 학습을 원…

README

<p align="center"> <img src="soup.png" alt="Soup" width="280"> </p> <h1 align="center">Soup</h1> <p align="center"> <strong>한 번의 명령으로 LLM을 파인튜닝하고 후속 학습하세요. SSH도, 설정 지옥도 없습니다.</strong> </p> <p align="center"> <a href="https://trysoup.dev">웹사이트</a> &middot; <a href="#quick-start">빠른 시작</a> &middot; <…

查看完整页面