模型
该选哪个模型?
一份通俗易懂的指南,介绍你可以在 Llamatik 中运行的模型:大小、所需内存,以及各自擅长什么。
从这里开始
任何手机,最快上手
Gemma 3 270M(292 MB)即使在旧手机上也能快速回答,并支持多语言。
新款手机上的日常聊天
Gemma 3 1B(806 MB)是不错的平衡之选。若想要多语言的更深入回答,可试试 Qwen 3 1.7B(1.8 GB)。
理解照片和截图
SmolVLM 500M(437 MB)能描述图像并读取其中文字。SmolVLM 256M(175 MB)是最轻量的选择。
用说话代替打字
Whisper Base q8_0(82 MB)是快速且准确的默认选择。Whisper Small q8_0(264 MB)对口音和噪音的适应更好。
聊天
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| Gemma 3 270M Instruct (Q8_0) | 292 MB | ~750 MB | 最快多语言 |
| Gemma 3 1B Instruct (Q4_K_M) | 806 MB | ~1.6 GB | 均衡 |
| Qwen 3 1.7B (Q8_0) | 1.8 GB | ~3.0 GB | 此处最佳多语言 |
| Qwen 2.5 1.5B Instruct (Q2_K) | 753 MB | ~1.4 GB | 多语言高度压缩 |
| Llama 3.2 1B Instruct (Q2_K) | 581 MB | ~1.2 GB | 多语言高度压缩 |
| Phi-1.5 (Q2_K) | 613 MB | ~1.2 GB | 高度压缩 |
视觉
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| SmolVLM 256M Instruct | 175 MB | ~600 MB | 最快 |
| SmolVLM 500M Instruct | 437 MB | ~1.0 GB | 均衡 |
语音
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| Whisper Tiny (q8_0) | 44 MB | ~200 MB | 最快多语言 |
| Whisper Tiny | 78 MB | ~250 MB | 多语言 |
| Whisper Base (q8_0) | 82 MB | ~250 MB | 均衡多语言 |
| Whisper Base | 148 MB | ~350 MB | 多语言 |
| Whisper Small (q8_0) | 264 MB | ~500 MB | 此处最佳多语言 |
| Whisper Medium (q8_0) | 823 MB | ~1.4 GB | 此处最佳多语言高端设备 |
文档
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| Nomic Embed Text v1.5 (Q4_0) | 77 MB | ~250 MB | 文档问答 |
图像
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| DreamShaper 8 LCM (Q4_0) | 1.6 GB | ~3.4 GB | 最快 |
| Stable Diffusion v1.5 (Q4_0) | 1.8 GB | ~3.6 GB | 均衡 |
| SD Turbo v2.1 (Q4_0) | 2.2 GB | ~4.3 GB | 最快 |
| DreamShaper XL v2 Turbo (Q4_K_S) | 2.8 GB | ~5.2 GB | 此处最佳高端设备 |
视频
| 模型 | 下载大小 | 内存参考 | 适合 |
|---|---|---|---|
| Wan 2.1 T2V 1.3B (Q4_0) | 866 MB | ~2.8 GB | 需要额外文件 |
| Wan 2.2 TI2V 5B (Q4_0) | 3.0 GB | ~6.0 GB | 高端设备需要额外文件 |
| Wan 2.1 I2V 14B 480P (Q4_0) | 10.2 GB | ~16.8 GB | 高端设备需要额外文件 |
下载大小来自应用内的模型目录,可能随时间变化。内存数值是模型运行时所需空闲内存的粗略参考,实际情况因设备和设置而异。
预期效果
能装进手机的模型都比较小。它们回答快速且保护隐私,但会出错,对世界的了解不如云端模型,也无法搜索网络。可用于起草、总结、翻译和头脑风暴,重要事实请自行核实。更大的模型回答更好,但需要更多内存和存储。
自带模型
应用还可以从你的文件中导入任意 GGUF 聊天模型,或通过链接下载,例如来自 Hugging Face。更大的模型在内存充足的笔记本和台式机上表现更好。
关于模型的问题
为什么第一次下载很大?
应用本身不内置模型,因此体积小,而你可以自行选择安装哪些模型。模型只需下载一次并保存在你的设备上。
下载模型后还需要联网吗?
不需要。下载完成后,聊天、视觉和语音都可离线运行。只有下载模型和更新时才需要联网。
我应该从哪个模型开始?
在手机上,先用 Gemma 3 270M 或 Gemma 3 1B。在电脑上,等你明确用途后,再从 Hugging Face 导入更大的模型。