Модели¶
Fluxion работает на моделях в формате GGUF через встроенный движок llama.cpp. Модели скачиваются на странице «Модели» (с докачкой при обрыве связи), а выбираются в чате: «⚙ Настройки чата» → «Модель».
Каталог¶
| Модель | Размер | Видеопамять | Доступ | Для чего |
|---|---|---|---|---|
| Qwen2.5 Coder 7B Instruct (Q4_K_M) | 4,7 ГБ | от 6 ГБ | бесплатно | Модель по умолчанию: чат и агент |
| Qwen2.5 Coder 3B Instruct (Q4_K_M) | 2,2 ГБ | от 3 ГБ | бесплатно | Для слабых компьютеров |
| Qwen2.5 7B Instruct (Q4_K_M) | 4,7 ГБ | от 6 ГБ | бесплатно | Тексты, письма, документы, переводы |
| Qwen2.5 1.5B Instruct (Q4_K_M) | 1,0 ГБ | от 2 ГБ | бесплатно | Тексты на слабых компьютерах |
| BGE-M3 (Q8_0) | 1,3 ГБ | не нужна | бесплатно | Поиск по коду проекта (RAG) |
| Qwen2.5 Coder 7B Instruct (Q8_0) | 8,1 ГБ | от 10 ГБ | Pro | Модель по умолчанию в повышенной точности |
| Qwen2.5 Coder 14B Instruct (Q4_K_M) | 9,0 ГБ | от 12 ГБ | Pro | Вдвое крупнее, сильнее в сложных задачах |
| Qwen2.5 Coder 32B Instruct (Q4_K_M) | 19,9 ГБ | от 24 ГБ | Pro | Самая сильная модель линейки |
| Qwen2.5 14B Instruct (Q4_K_M) | 9,0 ГБ | от 12 ГБ | Pro | Тексты и документы, сильнее 7B |
На странице «Модели» есть поиск и фильтры по назначению («Для кода», «Для текстов и документов», «Для слабых компьютеров»…) и по видеопамяти; с видеокартой NVIDIA там же есть «Моя видеокарта (N ГБ)».
Новые модели без обновления программы¶
Каталог лежит в core/model_catalog.json и публикуется на сайте как
data/catalog.json. Страница «Модели» забирает его при открытии и по кнопке
«Обновить» и хранит копию в папке моделей, так что список работает и без
интернета. Чтобы добавить модель всем пользователям, достаточно дописать её
в core/model_catalog.json и обновить сайт; поле min_app_version скрывает
модель от старых версий программы. Переменная FLUXION_CATALOG_URL задаёт
другой адрес каталога, а off выключает загрузку.
Видеопамять нужна только для ускорения: без видеокарты модель работает на процессоре, но тогда ей нужно столько же оперативной памяти, сколько весит файл, плюс запас на систему. На процессоре крупные модели заметно медленнее: для 14B и 32B видеокарта практически обязательна.
Расширенный каталог (Pro)¶
Модели с отметкой Pro скачиваются при активной лицензии Pro (меню Помощь → Лицензия…). Без лицензии их карточки видны, а кнопка показывает «Доступно в Pro». Все модели каталога — из линейки Qwen2.5 (Coder для кода, Instruct для текстов): у них общий формат диалога, поэтому чат, агент и структурированные вызовы инструментов работают с ними одинаково. Для работы с кодом лучше модели Coder, для писем и документов — обычные Qwen2.5.
Модель, скачанная по лицензии, остаётся на диске и после окончания лицензии.
Свои модели¶
Кнопка «Скачать по ссылке…» скачивает любую модель в формате GGUF с
Hugging Face: вставьте ссылку на страницу модели или на файл (подойдёт и
вид hf.co/автор/модель:Q4_K_M), выберите файл и нажмите «Скачать». Закрытые
модели (с запросом доступа) и модели, разбитые на несколько файлов, так не
скачать: их можно скачать в браузере и добавить через «Импорт с диска…».
Модели не из каталога не проверены с агентом Fluxion.
Любой GGUF-файл можно добавить кнопкой «Импорт с диска…» или положить в
папку %LOCALAPPDATA%\Fluxion\models.