FAQ

Fragen, beantwortet.

Alles, was du über private KI auf deinem Gerät mit Llamatik wissen musst.

Was ist Llamatik?
Llamatik ist eine kostenlose Open-Source-Plattform für private KI auf dem Gerät. Sie umfasst die Llamatik-App (Android, iOS, macOS, Windows, Linux und das Web), ein Kotlin-Multiplatform-SDK, einen selbst gehosteten Server und Llamatik Code, einen KI-Coding-Assistenten für JetBrains-IDEs. Sie basiert auf offenen Engines: llama.cpp, whisper.cpp und stable-diffusion.cpp.
Funktioniert es offline?
Ja. Sobald ein Modell heruntergeladen ist, laufen Chat, Vision, Sprache und Bildgenerierung auf deinem Gerät ohne Internetverbindung. Online musst du nur sein, um Modelle und Updates herunterzuladen.
Werden meine Daten irgendwohin gesendet?
Standardmäßig nicht. Prompts, Dokumente und Sprache werden auf deinem Gerät verarbeitet, und du musst kein Konto anlegen. Daten verlassen dein Gerät nur, wenn du die App mit einem Llamatik Server oder über Gerät teilen mit einem anderen Gerät verbindest; diese Verbindungen nutzen derzeit unverschlüsseltes HTTP, nutze sie also nur in vertrauenswürdigen Netzwerken. Die Android-App kann außerdem Absturzberichte und einfache Nutzungsstatistiken senden, aber nur, wenn du das in den Einstellungen aktivierst (standardmäßig aus; enthält weder deine Prompts noch Chats oder Dokumente). Diese Website verwendet keine Cookies und keine Analyse-Tracker.
Welche Geräte und Betriebssysteme werden unterstützt?
Android 8.0 oder neuer, iPhone und iPad mit iOS 16.6 oder neuer, macOS (Apple Silicon und Intel), Windows 10 oder neuer, Linux auf Debian- und Ubuntu-Basis (.deb) sowie moderne Browser über WebAssembly. Alle Downloads findest du auf der Download-Seite.
Welche Modelle kann ich ausführen?
Jedes Modell im GGUF-Format, das llama.cpp unterstützt. Die App hat einen integrierten Katalog (zum Beispiel mit Gemma 3, SmolVLM und Whisper-Modellen), oder du lädst eine .gguf-Datei, die du bereits auf deinem Gerät hast. Die Spracherkennung nutzt Whisper-Modelle, die Bildanalyse Visionsmodelle wie SmolVLM, und Bilder und Videos entstehen mit stable-diffusion.cpp-Modellen.
Wie viel Arbeitsspeicher und Speicherplatz brauche ich?
Das hängt vom Modell ab. Als Faustregel gilt: Ein quantisiertes Modell braucht ungefähr so viel freien Arbeitsspeicher wie seine Dateigröße, plus etwas Platz für die Unterhaltung. Ein Modell mit 1 Mrd. Parametern bei 4-Bit-Quantisierung ist kleiner als 1 GB und läuft auf vielen aktuellen Handys; größere Modelle brauchen mehr RAM. Wenn die App sich schließt oder langsam wirkt, probiere ein kleineres oder stärker quantisiertes Modell.
Kann es Bilder und Videos generieren oder Sprache transkribieren?
Ja. Die nativen Apps können mit stable-diffusion.cpp Bilder und kurze Videos generieren, Audio offline mit Whisper transkribieren und mit On-Device-Visionsmodellen Fragen zu Bildern beantworten. Welche Funktionen verfügbar sind, hängt von der Plattform und den heruntergeladenen Modellen ab. Die Web-App konzentriert sich auf den Chat.
Was ist der Unterschied zwischen App, SDK und Server?
Die App ist das sofort nutzbare Produkt. Mit dem SDK (com.llamatik:core, sdk und sdk-agent auf Maven Central) baust du dieselben Fähigkeiten in deine eigene Kotlin-Multiplatform-App ein. Der Server stellt dieselbe API über HTTP bereit, damit du Modelle auf einem leistungsstärkeren Rechner selbst hosten kannst, und auf dem SDK basierende Apps können ihn ohne Codeänderungen nutzen.
Kann ich von meinem Handy aus einen leistungsstärkeren Computer nutzen?
Ja. Aktiviere Gerät teilen auf einem Computer, Handy oder Tablet, und deine anderen Llamatik-Geräte im selben Netzwerk können es finden und seine geladenen Modelle nutzen, nachdem du jedes Gerät bestätigt hast. Du kannst die App auch mit einem selbst gehosteten Llamatik Server verbinden.
Ist Llamatik kostenlos? Welche Lizenz gilt?
Die Apps sind kostenlos und brauchen kein Konto. Der Quellcode ist Open Source unter der MIT-Lizenz; der Name Llamatik, das Logo und die visuellen Assets sind proprietär und durch eine separate Lizenz geschützt. Llamatik Code hat eine kostenlose Stufe und eine kostenpflichtige Pro-Stufe mit zusätzlichen Funktionen.
Kann ich Llamatik in meiner eigenen App verwenden?
Ja. Füge com.llamatik:core (Inferenz), com.llamatik:sdk (Chat, Modelle, RAG, Agenten) oder com.llamatik:sdk-agent zu einem Kotlin-Multiplatform-Projekt hinzu; sie unterstützen Android, iOS, Desktop und WASM. Siehe die Dokumentation und GitHub.
Wie funktioniert das Prompt-Feld auf der Startseite?
Wenn du Enter drückst, wählst du, wo Llamatik antwortet: in der Web-App, in einer heruntergeladenen App (dein Prompt wird kopiert) oder du kopierst ihn einfach. Für die Web-App wird der Text im URL-Fragment (dem Teil nach #) an die Seite übergeben, das Browser nie an einen Server senden. Beim ersten Mal muss die Web-App trotzdem ein Modell in deinen Browser herunterladen.
Wo bekomme ich Hilfe oder kann einen Fehler melden?
Eröffne ein Issue auf GitHub oder melde dich über die Kontaktseite.

Noch Fragen?

Frag auf GitHub nach oder schreib uns eine Nachricht. Wir helfen gern.