FAQ

よくあるご質問に、お答えします。

LlamatikでプライベートなオンデバイスAIを使うために知っておきたいことを、まとめました。

Llamatikとは何ですか?
Llamatikは、プライベートなオンデバイスAIのための無料のオープンソースプラットフォームです。Llamatikアプリ(Android、iOS、macOS、Windows、Linux、Web)、Kotlin Multiplatform SDK、セルフホスト型のサーバー、JetBrains IDE向けのAIコーディングアシスタント Llamatik Code で構成されています。基盤にはオープンなエンジンの llama.cpp、whisper.cpp、stable-diffusion.cpp を採用しています。
オフラインでも使えますか?
はい。モデルをダウンロードすれば、チャット、ビジョン、音声、画像生成はインターネットに接続しなくてもデバイス上で動作します。オンラインが必要なのは、モデルやアップデートをダウンロードするときだけです。
データはどこかに送信されますか?
いいえ、初期設定では送信されません。プロンプト、ドキュメント、音声はデバイス上で処理され、アカウントの作成も不要です。データがデバイスの外に出るのは、アプリを Llamatik Server や、デバイス共有で別のデバイスに接続すると選んだ場合だけです。これらの接続は現在、暗号化されていない HTTP を使うため、信頼できるネットワーク内でお使いください。Android アプリは、クラッシュレポートと基本的な利用統計を送信することもできますが、設定でオンにした場合に限ります(初期設定ではオフで、プロンプト、チャット、ドキュメントは含まれません)。このウェブサイトは Cookie も分析トラッカーも使用しません。
対応しているデバイスとOSは?
Android 8.0以降、iOS 16.6以降のiPhoneとiPad、macOS(Apple SiliconとIntel)、Windows 10以降、DebianおよびUbuntu系のLinux(.deb)、そしてWebAssembly経由の最新ブラウザに対応しています。すべてダウンロードページから入手できます。
どのモデルを実行できますか?
llama.cppが対応するGGUF形式のモデルであれば何でも実行できます。アプリには内蔵カタログ(Gemma 3、SmolVLM、Whisperモデルなど)があり、デバイスにある .gguf ファイルを読み込むこともできます。音声認識にはWhisperモデル、画像解析にはSmolVLMなどのビジョンモデル、画像と動画の生成にはstable-diffusion.cppモデルを使用します。
必要なメモリとストレージの容量は?
モデルによって異なります。目安として、量子化されたモデルには、そのファイルサイズと同程度の空きメモリに加え、会話のための余裕が必要です。4ビット量子化の1Bパラメータモデルは1 GB未満で、最近の多くのスマートフォンで動作します。より大きなモデルにはさらに多くのRAMが必要です。アプリが終了したり動作が重く感じたりする場合は、より小さいモデル、またはより強く量子化されたモデルをお試しください。
画像や動画の生成、音声の文字起こしもできますか?
はい。ネイティブアプリでは、stable-diffusion.cppによる画像と短い動画の生成、Whisperによるオフラインでの音声文字起こし、オンデバイスのビジョンモデルによる画像についての質問への回答に対応しています。利用できる機能は、プラットフォームとダウンロードしたモデルによって異なります。Webアプリはチャットが中心です。
アプリ、SDK、サーバーの違いは何ですか?
アプリはすぐに使える製品です。SDK(Maven Centralの com.llamatik:core、sdk、sdk-agent)を使うと、同じ機能を独自のKotlin Multiplatformアプリに組み込めます。サーバーは同じAPIをHTTPで公開するので、より高性能なマシンでモデルをセルフホストでき、SDKで作ったアプリはコードを変更せずに利用できます。
スマートフォンから高性能なコンピューターを使えますか?
はい。コンピューター、スマートフォン、タブレットでデバイス共有をオンにすると、同じネットワーク上の他のLlamatikデバイスがそれを検出し、読み込まれているモデルを利用できます。利用は、デバイスごとに承認した後に可能になります。セルフホストのLlamatik Serverにアプリを接続することもできます。
Llamatikは無料ですか?ライセンスは?
アプリは無料で、アカウントも不要です。ソースコードはMITライセンスのオープンソースです。Llamatikの名称、ロゴ、ビジュアル素材は独自のものであり、別のライセンスが適用されます。Llamatik Codeには無料プランと、追加機能のある有料のProプランがあります。
自分のアプリでLlamatikを使えますか?
はい。Kotlin Multiplatformプロジェクトに、com.llamatik:core(推論)、com.llamatik:sdk(チャット、モデル、RAG、エージェント)、または com.llamatik:sdk-agent を追加してください。Android、iOS、デスクトップ、WASMをターゲットにしています。詳しくはドキュメントとGitHubをご覧ください。
ホームページのプロンプトボックスはどのように動作しますか?
Enterキーを押すと、Llamatikが回答する場所を選べます。Webアプリ、ダウンロード済みのアプリ(プロンプトはコピーされます)、またはコピーのみです。Webアプリの場合、テキストはURLフラグメント(# の後ろの部分)でページに渡されます。フラグメントはブラウザからサーバーへ送信されることはありません。初回は、Webアプリがブラウザにモデルをダウンロードする必要があります。
ヘルプやバグ報告はどこにありますか?
GitHubでissueを作成するか、お問い合わせページからご連絡ください。

ほかにも質問がありますか?

GitHubで質問するか、メッセージをお送りください。喜んでお手伝いします。