FAQ

Preguntes, respostes.

Tot el que has de saber sobre com executar IA privada al dispositiu amb Llamatik.

Què és Llamatik?
Llamatik és una plataforma gratuïta i de codi obert per a IA privada al dispositiu. Inclou l’aplicació Llamatik (Android, iOS, macOS, Windows, Linux i el web), un SDK de Kotlin Multiplatform, un servidor autoallotjat i Llamatik Code, un assistent de programació amb IA per als IDE de JetBrains. Està construït sobre motors oberts: llama.cpp, whisper.cpp i stable-diffusion.cpp.
Funciona sense connexió?
Sí. Quan un model està descarregat, el xat, la visió, la veu i la generació d’imatges s’executen al teu dispositiu sense connexió a internet. Només cal estar en línia per descarregar models i actualitzacions.
S'envien les meves dades a algun lloc?
No per defecte. Els prompts, els documents i la veu es processen al teu dispositiu i no cal crear cap compte. Les dades només surten del dispositiu si decideixes connectar l’app a un Llamatik Server o a un altre dispositiu amb Comparteix aquest dispositiu; aquestes connexions fan servir ara per ara HTTP sense xifrar, així que mantén-les en xarxes de confiança. L’app per a Android també pot enviar informes d’errors i estadístiques d’ús bàsiques, però només si ho actives a Configuració (ve desactivat per defecte i no inclou els teus prompts, xats ni documents). Aquest lloc web no fa servir galetes ni rastrejadors d’analítica.
Quins dispositius i sistemes operatius són compatibles?
Android 8.0 o posterior, iPhone i iPad amb iOS 16.6 o posterior, macOS (Apple Silicon i Intel), Windows 10 o posterior, Linux basat en Debian i Ubuntu (.deb), i navegadors moderns mitjançant WebAssembly. Aconsegueix-los tots a la pàgina de descàrregues.
Quins models puc executar?
Qualsevol model en format GGUF que llama.cpp admeti. L’aplicació té un catàleg integrat (per exemple models Gemma 3, SmolVLM i Whisper), o bé pots carregar un fitxer .gguf que ja tinguis al dispositiu. La transcripció de veu fa servir models Whisper, l’anàlisi d’imatges fa servir models de visió com SmolVLM, i les imatges i el vídeo fan servir models de stable-diffusion.cpp.
Quanta memòria i quin espai d'emmagatzematge necessito?
Depèn del model. Com a regla general, un model quantitzat necessita aproximadament tanta memòria lliure com la mida del seu fitxer, més una mica de marge per a la conversa. Un model d'1B de paràmetres amb quantització de 4 bits ocupa menys d'1 GB i pot funcionar en molts mòbils recents; els models més grans necessiten més RAM. Si l’aplicació es tanca o va lenta, prova un model més petit o més quantitzat.
Pot generar imatges i vídeo, o transcriure veu?
Sí. Les aplicacions natives poden generar imatges i vídeos curts amb stable-diffusion.cpp, transcriure àudio sense connexió amb Whisper i respondre preguntes sobre imatges amb models de visió al dispositiu. Les funcions disponibles depenen de la plataforma i dels models que descarreguis. L’aplicació web se centra en el xat.
Quina diferència hi ha entre l'aplicació, l'SDK i el servidor?
L’aplicació és el producte llest per utilitzar. L’SDK (com.llamatik:core, sdk i sdk-agent a Maven Central) et permet integrar les mateixes capacitats a la teva pròpia app de Kotlin Multiplatform. El servidor exposa la mateixa API per HTTP perquè puguis autoallotjar models en una màquina més potent, i les apps creades amb l’SDK el poden fer servir sense canviar el codi.
Puc fer servir un ordinador més potent des del mòbil?
Sí. Activa Comparteix aquest dispositiu en un ordinador, mòbil o tauleta, i els teus altres dispositius amb Llamatik de la mateixa xarxa el podran descobrir i fer servir els models que hi hagi carregats, després que aprovis cada dispositiu. També pots connectar l’aplicació a un Llamatik Server autoallotjat.
Llamatik és gratuït? Quina és la llicència?
Les aplicacions són gratuïtes i no requereixen cap compte. El codi font és de codi obert sota la llicència MIT; el nom, el logotip i els recursos visuals de Llamatik són propietaris i estan coberts per una llicència independent. Llamatik Code té un nivell gratuït i un nivell Pro de pagament amb funcions addicionals.
Puc fer servir Llamatik a la meva pròpia app?
Sí. Afegeix com.llamatik:core (inferència), com.llamatik:sdk (xat, models, RAG, agents) o com.llamatik:sdk-agent a un projecte de Kotlin Multiplatform; són compatibles amb Android, iOS, escriptori i WASM. Consulta la documentació i GitHub.
Com funciona el quadre de prompt de la pàgina d'inici?
Quan prems Intro, tries on vols que respongui Llamatik: a l’aplicació web, en una aplicació descarregada (es copia el teu prompt) o simplement el copies. Per a l’aplicació web, el text es passa a la pàgina en el fragment de l’URL (la part després de #), que els navegadors no envien mai a cap servidor. La primera vegada, l’aplicació web encara ha de descarregar un model al navegador.
On puc obtenir ajuda o informar d'un error?
Obre un issue a GitHub o posa’t en contacte amb nosaltres a través de la pàgina de contacte.

Encara tens dubtes?

Pregunta-ho a GitHub o envia'ns un missatge. T'ajudarem encantats.