Перейти к содержанию

Дообучение модели

Fluxion Pro

Эта возможность входит в Fluxion Pro — см. Лицензия Pro.

Для чего

Подстроить модель под ваши примеры (QLoRA), чтобы она писала в стиле вашей команды.

Как запустить

Меню Модели → «Обучение модели…» — страница «Обучение». Нужна видеокарта NVIDIA от 6 ГБ.

Пошагово

  1. Окружение обучения программа установит сама (нужен интернет, несколько ГБ).
  2. Датасет — файл .jsonl: «Выбрать…» или «Из документов…».
  3. Пресет — «low» (6 ГБ) или «standard» (8–12 ГБ), либо «Загрузить из файла…».
  4. «Начать обучение».

Что получится

Готовая модель появляется в списке «Модель» в чате под указанным названием.

Если не получается

  • Журнал молчит больше 30 минут — нажмите «Стоп».
  • Для сборки готовой модели (GGUF) нужна папка llama.cpp в LLAMA_CPP_DIR, иначе сохраняется адаптер LoRA.

Эта страница — из «Инструкции» в программе: меню Помощь → «Инструкция» или F1. Там же кнопка «Открыть инструмент».