설정 레퍼런스

1. 개요

project.yaml은 slm-factory 파이프라인의 모든 동작을 제어하는 중앙 설정 파일입니다. 코드 수정 없이 문서 파싱, QA 생성, 검증, 학습, 내보내기 등 전체 워크플로우를 구성할 수 있습니다.

파이프라인 제어: 문서 파싱부터 모델 내보내기까지 전 단계를 YAML 파일 하나로 제어합니다.

타입 안전성: Pydantic v2 기반 검증으로 잘못된 설정을 실행 전에 감지합니다.

기본값 제공: 모든 필드에 합리적인 기본값이 설정되어 있어 필요한 부분만 수정하면 됩니다.

null 섹션 처리: YAML에서 null로 지정된 섹션은 자동으로 기본값이 적용됩니다. 예를 들어 eval: null로 설정하면 eval 섹션 전체가 기본값으로 초기화됩니다.

설정 파일 생성

새 프로젝트를 시작할 때는 다음 명령으로 기본 템플릿을 생성합니다:

slf init my-project

이 명령은 my-project/project.yaml 파일을 생성하며, 모든 기본값이 주석과 함께 포함되어 있습니다.

파일 위치

project.yaml 파일은 프로젝트 루트 디렉토리에 위치해야 합니다:

my-project/
├── project.yaml          # 설정 파일
├── documents/            # 입력 문서 디렉토리
└── output/               # 출력 디렉토리 (자동 생성)

설정 로딩 프로세스 상세는 아키텍처 가이드를 참조하십시오.

2. project — 프로젝트 메타데이터

프로젝트의 기본 정보를 정의합니다. 내보낸 모델의 이름과 버전 관리에 사용됩니다.

project:
  name: "company-policy-assistant"
  version: "2.1.0"
  language: "ko"

3. paths — 경로 설정

입력 문서와 출력 파일의 위치를 지정합니다. 지정된 디렉토리가 없으면 자동으로 생성됩니다.

paths:
  documents: "./data/source_docs"
  output: "./results"

상대 경로는 project.yaml 파일이 위치한 디렉토리를 기준으로 해석됩니다. 프로젝트 디렉토리 외부에서 --config my-project/project.yaml로 실행해도 올바른 경로를 참조합니다.

4. parsing — 문서 파싱 설정

입력 문서를 텍스트로 변환하는 파싱 단계의 설정입니다.

지원 형식

pdf 옵션

hwpx 옵션

parsing:
  formats: ["pdf", "hwpx", "html", "txt", "docx"]
  pdf:
    extract_tables: true
  hwpx:
    apply_spacing: true

5. chunking — 문서 청킹 설정

긴 문서를 청크(조각)로 분할하여 각 청크마다 QA를 생성합니다. 문서 전체를 빠짐없이 커버하여 QA 품질을 향상시킵니다.

chunking:
  enabled: true
  chunk_size: "auto"     # 또는 정수 지정 (예: 10000)
  overlap_chars: 500

teacher.max_context_chars보다 짧은 문서는 청킹 없이 그대로 처리됩니다. 긴 문서(예: 50페이지 이상 PDF)에서 문서 뒷부분의 내용이 QA에 누락되는 문제를 해결합니다.

청크는 문단 경계(빈 줄)를 기준으로 분할되어 문장이 중간에 잘리지 않습니다.

6. teacher — Teacher LLM 설정

QA 쌍을 생성하는 Teacher 모델의 설정입니다. Ollama 또는 OpenAI 호환 API를 사용할 수 있습니다.

teacher:
  backend: "ollama"
  model: "qwen3.5:9b"
  api_base: "http://localhost:11434"
  temperature: 0.3
  timeout: 300
  max_context_chars: 12000
  max_concurrency: 2

OpenAI 호환 백엔드 (vLLM, LiteLLM, OpenRouter 등) 사용 시:

teacher:
  backend: "openai"
  model: "gpt-4o-mini"
  api_base: "https://api.openai.com"
  api_key: "sk-proj-..."
  temperature: 0.3

권장 Ollama 모델: qwen3.5:9b (다국어, 8GB VRAM), qwen3.5:27b (고품질, 24GB+), exaone3.5:7.8b (한국어 최적화).

7. questions — 질문 설정

Teacher 모델이 문서에 대해 생성할 질문을 정의합니다. 카테고리별 질문 목록 또는 외부 파일로 지정할 수 있습니다.

제약조건: file 경로가 설정되어 있지만 해당 파일이 존재하지 않으면 FileNotFoundError가 발생합니다.

기본 시스템 프롬프트:

You are a helpful assistant that answers questions based strictly on the provided document.
Answer only from the document content. Do not speculate or fabricate information.
Be concise and factual. Include specific numbers, dates, and names when available.
If the document does not contain relevant information, say "The document does not contain this information."

한국어 프로젝트 예시:

questions:
  categories:
    개요:
      - "이 문서의 주요 목적은 무엇입니까?"
      - "이 정책이 해결하려는 문제는 무엇입니까?"
      - "대상 사용자는 누구입니까?"
      - "주요 변경 사항은 무엇입니까?"
      - "적용 범위와 제한 사항은 무엇입니까?"
    기술:
      - "주요 기술 사양은 무엇입니까?"
      - "사용된 기술이나 도구는 무엇입니까?"
      - "시스템 요구 사항은 무엇입니까?"
      - "기존 방식과 어떻게 다릅니까?"
      - "성능 지표는 무엇입니까?"
    구현:
      - "구현 일정은 어떻게 됩니까?"
      - "필요한 자원은 무엇입니까?"
      - "구현 절차는 무엇입니까?"
      - "예상되는 위험은 무엇입니까?"
      - "기대 효과는 무엇입니까?"
  system_prompt: >
    당신은 제공된 문서를 기반으로 질문에 답변하는 도움이 되는 어시스턴트입니다.
    문서 내용에만 근거하여 답변하십시오. 추측하거나 정보를 만들어내지 마십시오.
    간결하고 사실적으로 답변하십시오. 가능한 경우 구체적인 숫자, 날짜, 이름을 포함하십시오.
    문서에 관련 정보가 없으면 "문서에 해당 정보가 포함되어 있지 않습니다"라고 답변하십시오.
  output_format: "alpaca"

외부 파일로 질문을 관리하려면 questions.txt에 한 줄씩 작성하고 file: "./questions.txt"로 참조합니다. file이 설정되면 categories는 무시됩니다.

8. validation — QA 검증 설정

생성된 QA 쌍의 품질을 검증하고 필터링하는 규칙을 정의합니다.

기본 거부 패턴 6개 (영어 3개 + 한국어 3개):

• "(?i)i don't know"
• "(?i)not (available|provided|mentioned|found)"
• "(?i)the document does not contain"
• "(?:알|확인할|파악할|판단할) 수 없"
• "정보.{0,8}(?:없|부족|찾을 수 없)"
• "(?:문서|자료|내용)에서?.{0,12}(?:찾을 수 없|포함되어 있지 않|언급되지 않|다루고 있지 않)"

(?i) 플래그는 대소문자를 구분하지 않습니다.

제약조건: min_answer_length는 반드시 max_answer_length보다 작아야 합니다. 그렇지 않으면 설정 로드 시 오류가 발생합니다.

groundedness — 의미적 검증

답변이 원본 문서 내용에 근거하고 있는지 임베딩 기반으로 검증합니다.

아래 예시는 한국어 문서에 권장하는 설정입니다. 기본 거부 패턴 대신 간결한 한국어 패턴을 추가하고, 다국어 임베딩 모델을 사용합니다.

validation:
  enabled: true
  min_answer_length: 20
  max_answer_length: 2000
  remove_empty: true
  deduplicate: true
  reject_patterns:
    # 영어 패턴 (기본값)
    - "(?i)i don't know"
    - "(?i)not (available|provided|mentioned|found)"
    - "(?i)the document does not contain"
    # 한국어 패턴 (사용자 추가)
    - "(?i)알 수 없"
    - "(?i)정보가 없"
    - "(?i)언급되지 않"
    - "(?i)포함되어 있지 않"
    - "(?i)제공되지 않"
  groundedness:
    enabled: true
    model: "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"  # 기본값: all-MiniLM-L6-v2
    threshold: 0.35  # 기본값: 0.3

한국어 문서에는 다국어 임베딩 모델 paraphrase-multilingual-MiniLM-L12-v2를 권장합니다.

9. scoring — 품질 점수 평가 설정

생성된 QA 쌍의 품질을 Teacher LLM으로 평가하고 낮은 점수의 QA 쌍을 필터링합니다.

scoring:
   enabled: true
   threshold: 3.5
   max_concurrency: 3

Teacher LLM이 질문의 명확성, 답변의 정확성, 문서와의 관련성을 종합하여 1~5점으로 평가합니다. threshold 미만의 QA 쌍은 데이터셋에서 제거됩니다.

10. augment — 데이터 증강 설정

기존 QA 쌍의 질문을 패러프레이즈하여 데이터셋을 확장합니다.

augment:
  enabled: true
  num_variants: 3
  max_concurrency: 3
  min_similarity: 0.3

num_variants: 3으로 설정하면 100개의 QA 쌍이 400개로 확장됩니다. 데이터가 부족할 때 유용하지만, Teacher LLM 호출 비용이 증가합니다.

11. analyzer — 데이터 분석 설정

생성된 QA 데이터셋의 통계 정보를 분석하고 보고서를 생성합니다.

analyzer:
  enabled: true
  output_file: "qa_analysis_report.json"

분석 보고서에는 전체 QA 쌍 수, 카테고리 분포, 문서별 분포, 질문/답변 길이 통계, 데이터 품질 경고가 포함됩니다. LLM 호출 없이 순수 통계 분석만 수행합니다.

12. student — Student 모델 설정

파인튜닝할 Student 모델을 지정합니다. HuggingFace Hub의 모든 causal language model을 사용할 수 있습니다.

student:
  model: "google/gemma-3-1b-it"
  max_seq_length: 4096

권장 모델:

모델 선택 기준: 8GB VRAM은 google/gemma-3-1b-it, 16GB+는 google/gemma-3-4b-it 권장.

13. training — 학습 설정

LoRA 파인튜닝의 하이퍼파라미터와 학습 전략을 정의합니다.

제약조건: learning_rate가 실수인 경우 반드시 0보다 커야 합니다. 0 이하로 설정하면 설정 로드 시 오류가 발생합니다.

lora — LoRA 어댑터 설정

early_stopping — 조기 종료

quantization — 양자화

training:
  lora:
    r: 16
    alpha: 32
    dropout: 0.05
    target_modules: "auto"
    use_rslora: false
  batch_size: 4
  gradient_accumulation_steps: 4
  learning_rate: "auto"
  lr_scheduler: "cosine"
  warmup_ratio: 0.1
  num_epochs: "auto"
  early_stopping:
    enabled: true
    patience: 3
    threshold: 0.01
  optimizer: "adamw_torch_fused"
  bf16: true
  train_split: 0.9
  save_strategy: "epoch"
  quantization:
    enabled: false
    bits: 4

14. export — 모델 내보내기 설정

학습된 모델을 내보내는 방식을 정의합니다.

ollama — Ollama 내보내기

parameters 기본값 (Pydantic): temperature: 0.7, top_p: 0.9, num_ctx: 4096. 단, slf init으로 생성되는 템플릿에서는 num_ctx: 32768로 설정되어 있습니다.

export:
  merge_lora: true
  output_format: "safetensors"
  ollama:
    enabled: true
    model_name: "company-policy-assistant"
    system_prompt: "당신은 회사 정책에 대해 답변하는 전문 어시스턴트입니다. 정확하고 간결하게 답변하십시오."
    parameters:
      temperature: 0.5
      top_p: 0.9
      num_ctx: 4096

15. eval — 모델 평가 설정

학습된 모델을 BLEU/ROUGE 메트릭으로 자동 평가합니다.

제약조건: max_samples는 1 이상이어야 합니다. 0 이하로 설정하면 설정 로드 시 오류가 발생합니다.

eval:
  enabled: true
  test_split: 0.1
  metrics: ["bleu", "rouge"]
  max_samples: 50
  max_tokens: 512
  output_file: "eval_results.json"
  quality_gate: true
  quality_thresholds:
    bleu: 0.1
    rougeL: 0.2

project.language가 "ko"인 경우, kiwipiepy 형태소 분석기를 사용하여 형태소 단위로 BLEU/ROUGE를 계산합니다. uv sync --extra korean으로 설치하면 자동으로 적용됩니다.

16. compare — 모델 비교 설정

Base 모델과 Fine-tuned 모델의 답변을 나란히 비교합니다.

제약조건:

• max_samples는 1 이상이어야 합니다. 0 이하로 설정하면 설정 로드 시 오류가 발생합니다.
• enabled가 true일 때 base_model과 finetuned_model은 반드시 비어있지 않은 값으로 설정해야 합니다. 비어있으면 설정 로드 시 ValidationError가 발생합니다.

compare:
  enabled: true
  base_model: "gemma:2b"
  finetuned_model: "my-project-model"
  metrics: ["bleu", "rouge"]
  max_samples: 20
  max_tokens: 512
  output_file: "compare_results.json"

project.language가 "ko"인 경우, kiwipiepy 형태소 분석기를 사용하여 형태소 단위로 BLEU/ROUGE를 계산합니다. uv sync --extra korean으로 설치하면 자동으로 적용됩니다.

17. evolve — 자동 진화 설정

증분 업데이트 → 전체 재학습 → 품질 게이트 → 조건부 배포를 단일 명령으로 실행합니다.

제약조건:

• gate_metric은 bleu, rouge1, rouge2, rougeL 중 하나여야 합니다. 다른 값을 설정하면 ValidationError가 발생합니다.
• keep_previous_versions는 0 이상이어야 합니다.

evolve:
  quality_gate: true
  gate_metric: "rougeL"
  gate_min_improvement: 0.0
  version_format: "date"
  history_file: "evolve_history.json"
  keep_previous_versions: 3

18. autorag_export — RAG 데이터 내보내기 설정

slm-factory의 파싱·QA 데이터를 RAG 인덱싱용 parquet 형식으로 내보냅니다.

autorag_export:
  enabled: true
  output_dir: "autorag"
  chunk_size: 512
  overlap_chars: 64

참고

• tool export-autorag 명령으로 직접 실행할 수 있습니다. CLI 사용법은 CLI 레퍼런스를 참조하십시오.
• tune 명령에서 자동 실행하려면 enabled: true로 설정합니다.
• 출력 파일: output/{output_dir}/corpus.parquet (문서 청크), output/{output_dir}/qa.parquet (QA 평가 데이터)
• 청크 크기는 벡터 검색 성능에 영향을 줍니다. 한국어 문서는 300~600자가 적합합니다.

19. rag — RAG 서비스 설정

corpus.parquet을 Qdrant에 임베딩하여 적재하고, Ollama SLM과 연동하는 RAG API 서버를 실행합니다.

rag:
  embedding_model: "Qwen/Qwen3-Embedding-0.6B"
  vector_db_path: "qdrant_db"
  collection_name: "corpus"
  top_k: 5
  server_host: "0.0.0.0"
  server_port: 8000
  ollama_model: ""
  workers: 1
  log_level: "info"
  cors_origins: ["*"]
  batch_size: 64
  request_timeout: 120.0
  max_tokens: -1
  reranker_enabled: true
  reranker_model: "dragonkue/bge-reranker-v2-m3-ko"
  hybrid_search: true
  min_score: 0.0

참고

• tool rag-index로 인덱싱, tool rag-serve로 서버를 실행합니다. CLI 사용법은 CLI 레퍼런스를 참조하십시오.
• uv sync --extra rag --extra validation으로 의존성을 설치하세요.
• 임베딩 모델은 sentence-transformers 호환 모델이면 모두 사용 가능합니다. 한국어·다국어 문서에는 Qwen/Qwen3-Embedding-0.6B가 권장됩니다.
• hybrid_search: true (기본값) 설정 시 BM25Okapi 키워드 검색과 벡터 검색을 RRF(Reciprocal Rank Fusion)로 결합합니다. rank_bm25 패키지가 필요합니다 (uv sync --extra rag). 한국어 문서에서는 kiwipiepy 형태소 분석기를 사용하여 정확한 토큰화를 수행합니다 (uv sync --extra korean 필요). Lost-in-middle 문제를 완화하기 위해 검색된 문서를 관련도 순으로 재정렬합니다.

20. refinement — Iterative Refinement 설정

학습 후 평가에서 약점이 발견된 QA에 대해 Teacher LLM으로 추가 학습 데이터를 생성하고 재학습합니다.

refinement:
  enabled: true
  max_rounds: 2
  llm_judge_threshold: 0.6

Refinement가 활성화되면 pipeline.run()에서 평가 후 자동으로 실행됩니다. LLM-as-Judge 점수가 llm_judge_threshold 미만인 QA를 약점으로 판단하고, 해당 질문에 대한 타겟 QA를 Teacher LLM으로 재생성하여 재학습합니다.

21. incremental — 증분 학습 설정

문서 추가 시 기존 QA를 유지하면서 새 문서만 처리합니다. 해시 기반으로 변경을 감지합니다.

incremental:
  enabled: true
  hash_file: "document_hashes.json"
  merge_strategy: "append"
  resume_adapter: "./output/checkpoints/adapter"

22. review — QA 리뷰 설정

TUI에서 QA 쌍을 수동으로 검토하고 승인/거부/편집합니다.

review:
  enabled: true
  auto_open: true
  output_file: "qa_reviewed.json"

23. 설정 레시피

자주 사용되는 설정 패턴을 레시피 형태로 제공합니다. 각 레시피는 특정 상황에 맞게 최소한의 필드만 변경합니다.

각 설정을 언제 사용할지에 대한 맥락은 사용 가이드를 참조하십시오.

빠른 시작 — 기본값으로 바로 실행

상황: 처음 slm-factory를 사용하며 기본 설정으로 빠르게 테스트하고 싶을 때.

project.yaml을 수정할 필요가 없습니다. slf init my-project로 생성된 기본 템플릿을 그대로 사용하면 됩니다.

사전 준비:

# ./setup.sh가 Ollama 설치·모델 다운로드를 자동 처리합니다
# documents/ 디렉토리에 PDF 또는 TXT 파일 추가
slf tune --config my-project/project.yaml

기본 설정은 영어 문서, Ollama 백엔드, Gemma 3 1B 모델을 사용합니다.

소량 문서 (5개 이하) — 과적합 방지를 위한 증강

상황: 문서가 5개 이하로 적어서 데이터가 부족하고 과적합이 우려될 때.

# 데이터 증강으로 데이터셋 확장 (원본의 4배)
augment:
  enabled: true
  num_variants: 3
  max_concurrency: 2

# 저품질 QA 쌍 필터링
scoring:
  enabled: true
  threshold: 3.5
  max_concurrency: 2

# 과적합 방지를 위한 학습 설정
training:
  num_epochs: 10
  lora:
    dropout: 0.1
  early_stopping:
    enabled: true
    patience: 3

데이터 증강은 Teacher LLM 호출 비용을 증가시키므로 로컬 Ollama를 사용하는 것이 좋습니다. 소량 데이터에서는 품질 점수 평가도 함께 활성화하는 것을 권장합니다.

VRAM 제한 (8GB GPU) — 메모리 최적화

상황: RTX 3060, RTX 4060 등 8GB VRAM GPU에서 학습할 때.

# 경량 Student 모델
student:
  model: "google/gemma-3-1b-it"
  max_seq_length: 2048

# 메모리 최적화 학습 설정
training:
  batch_size: 2
  gradient_accumulation_steps: 8  # 실제 배치 크기는 2x8=16으로 유지
  quantization:
    enabled: true
    bits: 4
  bf16: true

양자화를 사용하면 VRAM 사용량이 약 50% 감소하지만 품질 저하는 거의 없습니다. max_seq_length를 2048로 줄이면 긴 문서는 잘리지만 대부분의 QA 쌍은 이 길이 내에 들어갑니다.

vLLM/OpenAI 백엔드 — 외부 API 연동

상황: Ollama 대신 vLLM 서버 또는 OpenAI API를 Teacher 모델로 사용할 때.

vLLM 서버:

teacher:
  backend: "openai"
  model: "meta-llama/Llama-3.1-8B-Instruct"
  api_base: "http://localhost:8000/v1"
  api_key: "dummy"  # vLLM은 키가 필요 없지만 필드는 채워야 합니다
  temperature: 0.3
  max_concurrency: 16  # vLLM은 높은 동시성을 지원합니다

OpenAI API:

teacher:
  backend: "openai"
  model: "gpt-4o-mini"
  api_base: "https://api.openai.com"
  api_key: "sk-proj-..."
  temperature: 0.3
  max_concurrency: 8  # OpenAI는 rate limit을 고려하여 조절합니다

api_key는 환경 변수 OPENAI_API_KEY로 설정하는 것이 안전합니다.

24. 전체 설정 예시 (한국어 정책 문서 프로젝트)

한국어 회사 정책 문서를 처리하는 완전한 project.yaml 예시입니다.

# 한국어 회사 정책 문서 처리 프로젝트
project:
  name: "company-policy-assistant"
  version: "1.0.0"
  language: "ko"

paths:
  documents: "./documents"
  output: "./output"

# PDF와 HWPX 문서 모두 파싱
parsing:
  formats: ["pdf", "hwpx"]
  pdf:
    extract_tables: true
  hwpx:
    apply_spacing: true  # 한국어 띄어쓰기 교정 (uv sync --extra korean 필요)

# 로컬 Ollama 서버 사용
teacher:
  backend: "ollama"
  model: "qwen3.5:9b"  # 한국어 지원 우수
  api_base: "http://localhost:11434"
  temperature: 0.3
  timeout: 300
  max_context_chars: 12000
  max_concurrency: 2

# 한국어 질문 카테고리
questions:
  categories:
    개요:
      - "이 문서의 주요 목적은 무엇입니까?"
      - "이 정책이 해결하려는 문제는 무엇입니까?"
      - "대상 사용자는 누구입니까?"
      - "주요 변경 사항은 무엇입니까?"
      - "적용 범위와 제한 사항은 무엇입니까?"
    기술:
      - "주요 기술 사양은 무엇입니까?"
      - "사용된 기술이나 도구는 무엇입니까?"
      - "시스템 요구 사항은 무엇입니까?"
      - "기존 방식과 어떻게 다릅니까?"
      - "성능 지표는 무엇입니까?"
    구현:
      - "구현 일정은 어떻게 됩니까?"
      - "필요한 자원은 무엇입니까?"
      - "구현 절차는 무엇입니까?"
      - "예상되는 위험은 무엇입니까?"
      - "기대 효과는 무엇입니까?"
  system_prompt: >
    당신은 제공된 문서를 기반으로 질문에 답변하는 도움이 되는 어시스턴트입니다.
    문서 내용에만 근거하여 답변하십시오. 추측하거나 정보를 만들어내지 마십시오.
    간결하고 사실적으로 답변하십시오. 가능한 경우 구체적인 숫자, 날짜, 이름을 포함하십시오.
    문서에 관련 정보가 없으면 "문서에 해당 정보가 포함되어 있지 않습니다"라고 답변하십시오.
  output_format: "alpaca"

# 한국어 거부 패턴 추가
validation:
  enabled: true
  min_answer_length: 20
  max_answer_length: 2000
  remove_empty: true
  deduplicate: true
  reject_patterns:
    # 영어 패턴
    - "(?i)i don't know"
    - "(?i)not (available|provided|mentioned|found)"
    - "(?i)the document does not contain"
    # 한국어 패턴
    - "(?i)알 수 없"
    - "(?i)정보가 없"
    - "(?i)언급되지 않"
    - "(?i)포함되어 있지 않"
    - "(?i)제공되지 않"
  groundedness:
    enabled: true
    model: "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
    threshold: 0.35

# 품질 점수 평가
scoring:
  enabled: true
  threshold: 3.0
  max_concurrency: 2

# 데이터 증강
augment:
  enabled: true
  num_variants: 2
  max_concurrency: 2

# 데이터 분석
analyzer:
  enabled: true
  output_file: "data_analysis.json"

# 한국어 지원 우수한 Student 모델
student:
  model: "google/gemma-3-1b-it"
  max_seq_length: 4096

# 12GB VRAM 기준 설정
training:
  lora:
    r: 16
    alpha: 32
    dropout: 0.05
    target_modules: "auto"
    use_rslora: false
  batch_size: 4
  gradient_accumulation_steps: 4
  learning_rate: "auto"
  lr_scheduler: "cosine"
  warmup_ratio: 0.1
  num_epochs: "auto"
  early_stopping:
    enabled: true
    patience: 3
    threshold: 0.01
  optimizer: "adamw_torch_fused"
  bf16: true
  train_split: 0.9
  save_strategy: "epoch"
  quantization:
    enabled: false  # 12GB VRAM이면 양자화 불필요

# Ollama로 내보내기
export:
  merge_lora: true
  output_format: "safetensors"
  ollama:
    enabled: true
    model_name: "company-policy-assistant"
    system_prompt: "당신은 회사 정책에 대해 답변하는 전문 어시스턴트입니다. 정확하고 간결하게 답변하십시오."
    parameters:
      temperature: 0.5  # 정책 문서는 일관성 있는 답변이 중요
      top_p: 0.9
      num_ctx: 4096

# compare, review는 수동 조작 또는 추가 설정이 필요하므로 명시적으로 비활성화
compare:
  enabled: false  # base_model 설정 필요

review:
  enabled: false  # TUI 대화형 실행 전용

주요 설정 포인트:

1. parsing.formats: ["pdf", "hwpx"] — PDF와 HWPX 모두 파싱합니다
2. hwpx.apply_spacing: true — 한국어 띄어쓰기를 자동 교정합니다
3. teacher.model: "qwen3.5:9b" — 한국어 지원이 우수한 모델을 선택했습니다
4. 질문과 시스템 프롬프트를 모두 한국어로 작성하여 한국어 답변을 유도합니다
5. 한국어 거부 패턴 5개를 추가했습니다
6. groundedness.model을 다국어 지원 모델로 변경했습니다
7. student.model: "google/gemma-3-1b-it" — 소량 데이터에서 파인튜닝이 용이한 경량 Instruct 모델입니다
8. export.ollama.parameters.temperature: 0.5 — 정책 문서는 일관성이 중요하므로 낮췄습니다
9. compare, review는 수동 조작이 필요하므로 명시적으로 비활성화합니다. 나머지 선택적 단계는 기본값(true)을 그대로 사용합니다

25. 설정 검증 (slf check)

설정 파일이 올바른지 확인하려면 check 명령을 사용합니다:

slf check --config project.yaml

--config를 생략하면 현재 디렉토리와 상위 디렉토리(2단계)에서 project.yaml을 자동으로 검색합니다.

검증 항목

예시 출력

                slm-factory 환경 점검
┌────────────────┬────────┬────────────────────────────────┐
│ 항목           │ 상태   │ 상세                           │
├────────────────┼────────┼────────────────────────────────┤
│ 설정 파일      │ OK     │ ./project.yaml                 │
│ 문서 디렉토리  │ OK     │ 5개 파일 (./documents)         │
│ 출력 디렉토리  │ OK     │ 쓰기 가능 (./output)           │
│ Ollama 연결    │ OK     │ v0.3.12 (http://localhost:11434)│
│ 모델 사용 가능 │ OK     │ qwen3.5:9b                     │
│ 학생 모델      │ OK     │ google/gemma-3-1b-it           │
│ 컴퓨팅 디바이스│ Apple Silicon GPU (MPS) │ Apple M3 Pro      │
│ 학습 정밀도    │ OK     │ float16 (fp16)                 │
│ 4bit 양자화    │ N/A    │ Apple Silicon — Unified Memory │
└────────────────┴────────┴────────────────────────────────┘

모든 점검 통과!

모든 항목이 통과하면 종료 코드 0, 실패하면 1을 반환합니다. 설정 파일에 오류가 있으면 (YAML 구문 오류, 잘못된 타입, 알 수 없는 필드 등) Pydantic 검증 단계에서 상세한 에러 메시지를 출력합니다.

설정 문제를 진단할 때는 slf -v check 명령으로 상세 로그를 확인할 수 있습니다.

관련 문서

• 사용 가이드 — 각 설정을 언제, 어떻게 사용할지에 대한 실전 안내
• CLI 레퍼런스 — 모든 CLI 명령어와 옵션
• 아키텍처 가이드 — 설정 로딩 프로세스, 내부 구조, 설계 패턴
• 빠른 참조 — 자주 쓰는 설정 한눈에 보기