模型

该选哪个模型?

一份通俗易懂的指南,介绍你可以在 Llamatik 中运行的模型:大小、所需内存,以及各自擅长什么。

从这里开始

任何手机,最快上手

Gemma 3 270M(292 MB)即使在旧手机上也能快速回答,并支持多语言。

新款手机上的日常聊天

Gemma 3 1B(806 MB)是不错的平衡之选。若想要多语言的更深入回答,可试试 Qwen 3 1.7B(1.8 GB)。

理解照片和截图

SmolVLM 500M(437 MB)能描述图像并读取其中文字。SmolVLM 256M(175 MB)是最轻量的选择。

用说话代替打字

Whisper Base q8_0(82 MB)是快速且准确的默认选择。Whisper Small q8_0(264 MB)对口音和噪音的适应更好。

聊天

模型下载大小内存参考适合
Gemma 3 270M Instruct (Q8_0)292 MB~750 MB最快多语言
Gemma 3 1B Instruct (Q4_K_M)806 MB~1.6 GB均衡
Qwen 3 1.7B (Q8_0)1.8 GB~3.0 GB此处最佳多语言
Qwen 2.5 1.5B Instruct (Q2_K)753 MB~1.4 GB多语言高度压缩
Llama 3.2 1B Instruct (Q2_K)581 MB~1.2 GB多语言高度压缩
Phi-1.5 (Q2_K)613 MB~1.2 GB高度压缩

视觉

模型下载大小内存参考适合
SmolVLM 256M Instruct175 MB~600 MB最快
SmolVLM 500M Instruct437 MB~1.0 GB均衡

语音

模型下载大小内存参考适合
Whisper Tiny (q8_0)44 MB~200 MB最快多语言
Whisper Tiny78 MB~250 MB多语言
Whisper Base (q8_0)82 MB~250 MB均衡多语言
Whisper Base148 MB~350 MB多语言
Whisper Small (q8_0)264 MB~500 MB此处最佳多语言
Whisper Medium (q8_0)823 MB~1.4 GB此处最佳多语言高端设备

文档

模型下载大小内存参考适合
Nomic Embed Text v1.5 (Q4_0)77 MB~250 MB文档问答

图像

模型下载大小内存参考适合
DreamShaper 8 LCM (Q4_0)1.6 GB~3.4 GB最快
Stable Diffusion v1.5 (Q4_0)1.8 GB~3.6 GB均衡
SD Turbo v2.1 (Q4_0)2.2 GB~4.3 GB最快
DreamShaper XL v2 Turbo (Q4_K_S)2.8 GB~5.2 GB此处最佳高端设备

视频

模型下载大小内存参考适合
Wan 2.1 T2V 1.3B (Q4_0)866 MB~2.8 GB需要额外文件
Wan 2.2 TI2V 5B (Q4_0)3.0 GB~6.0 GB高端设备需要额外文件
Wan 2.1 I2V 14B 480P (Q4_0)10.2 GB~16.8 GB高端设备需要额外文件

下载大小来自应用内的模型目录,可能随时间变化。内存数值是模型运行时所需空闲内存的粗略参考,实际情况因设备和设置而异。

预期效果

能装进手机的模型都比较小。它们回答快速且保护隐私,但会出错,对世界的了解不如云端模型,也无法搜索网络。可用于起草、总结、翻译和头脑风暴,重要事实请自行核实。更大的模型回答更好,但需要更多内存和存储。

自带模型

应用还可以从你的文件中导入任意 GGUF 聊天模型,或通过链接下载,例如来自 Hugging Face。更大的模型在内存充足的笔记本和台式机上表现更好。

关于模型的问题

为什么第一次下载很大?
应用本身不内置模型,因此体积小,而你可以自行选择安装哪些模型。模型只需下载一次并保存在你的设备上。
下载模型后还需要联网吗?
不需要。下载完成后,聊天、视觉和语音都可离线运行。只有下载模型和更新时才需要联网。
我应该从哪个模型开始?
在手机上,先用 Gemma 3 270M 或 Gemma 3 1B。在电脑上,等你明确用途后,再从 Hugging Face 导入更大的模型。