Модели

Какую модель выбрать?

Простое руководство по моделям, которые можно запускать в Llamatik: их размер, необходимая память и для чего каждая подходит.

Начните здесь

Любой телефон, самый быстрый старт

Gemma 3 270M (292 МБ) быстро отвечает даже на старых телефонах и поддерживает много языков.

Повседневный чат на современном телефоне

Gemma 3 1B (806 МБ) — хороший баланс. Для большей глубины на многих языках попробуйте Qwen 3 1.7B (1,8 ГБ).

Понимать фото и скриншоты

SmolVLM 500M (437 МБ) описывает изображения и читает текст на них. SmolVLM 256M (175 МБ) — самый лёгкий вариант.

Говорите вместо набора текста

Whisper Base q8_0 (82 МБ) — быстрый и точный вариант. Whisper Small q8_0 (264 МБ) лучше справляется с акцентами и шумом.

Чат

МодельЗагрузкаПамять (ориентир)Подходит для
Gemma 3 270M Instruct (Q8_0)292 MB~750 MBСамая быстраяМногоязычная
Gemma 3 1B Instruct (Q4_K_M)806 MB~1,6 GBСбалансированная
Qwen 3 1.7B (Q8_0)1,8 GB~3,0 GBЛучшая здесьМногоязычная
Qwen 2.5 1.5B Instruct (Q2_K)753 MB~1,4 GBМногоязычнаяСильно сжата
Llama 3.2 1B Instruct (Q2_K)581 MB~1,2 GBМногоязычнаяСильно сжата
Phi-1.5 (Q2_K)613 MB~1,2 GBСильно сжата

Зрение

МодельЗагрузкаПамять (ориентир)Подходит для
SmolVLM 256M Instruct175 MB~600 MBСамая быстрая
SmolVLM 500M Instruct437 MB~1,0 GBСбалансированная

Голос

МодельЗагрузкаПамять (ориентир)Подходит для
Whisper Tiny (q8_0)44 MB~200 MBСамая быстраяМногоязычная
Whisper Tiny78 MB~250 MBМногоязычная
Whisper Base (q8_0)82 MB~250 MBСбалансированнаяМногоязычная
Whisper Base148 MB~350 MBМногоязычная
Whisper Small (q8_0)264 MB~500 MBЛучшая здесьМногоязычная
Whisper Medium (q8_0)823 MB~1,4 GBЛучшая здесьМногоязычнаяМощные устройства

Документы

МодельЗагрузкаПамять (ориентир)Подходит для
Nomic Embed Text v1.5 (Q4_0)77 MB~250 MBВопросы по документам

Изображения

МодельЗагрузкаПамять (ориентир)Подходит для
DreamShaper 8 LCM (Q4_0)1,6 GB~3,4 GBСамая быстрая
Stable Diffusion v1.5 (Q4_0)1,8 GB~3,6 GBСбалансированная
SD Turbo v2.1 (Q4_0)2,2 GB~4,3 GBСамая быстрая
DreamShaper XL v2 Turbo (Q4_K_S)2,8 GB~5,2 GBЛучшая здесьМощные устройства

Видео

МодельЗагрузкаПамять (ориентир)Подходит для
Wan 2.1 T2V 1.3B (Q4_0)866 MB~2,8 GBНужны доп. файлы
Wan 2.2 TI2V 5B (Q4_0)3,0 GB~6,0 GBМощные устройстваНужны доп. файлы
Wan 2.1 I2V 14B 480P (Q4_0)10,2 GB~16,8 GBМощные устройстваНужны доп. файлы

Размеры загрузки взяты из каталога приложения и могут меняться. Объём памяти — приблизительная оценка свободной ОЗУ, нужной модели при работе; на практике он зависит от устройства и настроек.

Чего ожидать

Модели, помещающиеся в телефон, небольшие. Они отвечают быстро и приватно, но ошибаются, знают о мире меньше облачных моделей и не умеют искать в интернете. Используйте их для черновиков, пересказов, переводов и идей, а важные факты проверяйте. Большие модели отвечают лучше, но требуют больше памяти.

Принесите свою модель

Приложение также может импортировать любую чат-модель GGUF из ваших файлов или скачать её по ссылке, например с Hugging Face. Крупные модели дают лучшие ответы на ноутбуках и ПК с большим объёмом ОЗУ.

Вопросы о моделях

Почему первая загрузка такая большая?
Приложение не содержит модель, поэтому остаётся небольшим, а вы сами выбираете, что установить. Модель скачивается один раз и хранится на устройстве.
Нужен ли интернет после загрузки модели?
Нет. После загрузки чат, зрение и голос работают офлайн. Подключение нужно только для загрузки моделей и обновлений.
С какой модели начать?
На телефоне начните с Gemma 3 270M или Gemma 3 1B. На ноутбуке импортируйте более крупную модель с Hugging Face, когда поймёте, для чего она нужна.