スマホの中で動くAIは、いつ通信せずに使える？

電波のない場所で、スマートフォンが写真の中の文字を読めたら驚くかもしれません。通信できないのに働くのは、その機能に必要な計算が端末の中で行われるからです。ただし、同じスマートフォンにある要約や質問応答まで必ず通信なしで使えるとは限りません。機能ごとに、どこで処理するかが違います。

入力から結果まで、何が端末にある？

文字を読み取る機能なら、カメラの画像が入力です。端末に入った小さなモデルが画像の形を調べ、文字らしい部分を見つけ、読み取った文字を画面へ返します。この一連の計算が端末内で終わるなら、画像を解析のために外部のサーバーへ送る必要はありません。グーグルのML Kitには、このように端末で画像や文章を処理する機能があります。

モデルは、例を使ってあらかじめ調整された計算の集まりです。実際に使うときは、保存された調整結果を端末のメモリーに読み込み、新しい入力に当てはめます。端末の容量や電池には限りがあるため、開発者は比較的小さなモデルを選んだり、計算で使う数値を小さく表したりします。これで必要なメモリーを減らせる場合がありますが、処理の正確さとの釣り合いを確かめる必要があります。

速さとプライバシーは自動的に保証される？

サーバーとの往復が不要なら、通信を待つ時間は省けます。しかし計算そのものに時間はかかり、端末の性能や作業の大きさで待ち時間は変わります。長い録音や大きな画像では、電池の消費や発熱も気になるかもしれません。「端末内だから必ず瞬時に終わる」とは言えません。

端末内で完結する特定の処理では、その入力を解析のために送信しないことが利点です。それでも、アプリ自体が同期、バックアップ、利用状況の記録などで通信する可能性は残ります。グーグルはML Kitの入力と結果をサーバーに送らない一方、更新や動作に関する情報のために通信する場合があると説明しています。端末内AIという名前だけで、アプリ全体が通信しないと決めつけないでください。

アップルも、可能な場合はApple Intelligenceの処理を端末で行う一方、より大きな計算が必要な要求にはPrivate Cloud Computeを使うと説明しています。つまり同じ製品でも、端末内で終わる要求とサーバーへ送られる要求がありえます。どの機能がどちらを使うかは、製品や設定、更新によって変わるため、使う機能の説明を確かめるのが確実です。

使う前に何を確かめる？

機密の写真や文書を扱うなら、まずその機能の説明で「端末内で処理」と明記されているか見ます。オフライン利用が必要なら、事前に必要なモデルがダウンロード済みかを確かめ、通信を切った状態で実際の作業を試してください。特定の作業がオフラインでできても、アプリの別の作業には通信が必要かもしれません。

結果も無条件には信じられません。写真の文字読み取りなら、読み間違えた数字や名前を元の画像と照らし合わせます。処理が手元で行われることは、答えが正しいことと別の性質です。場所、データの行き先、結果の精度をそれぞれ確かめれば、端末内AIの便利さと限界が見えてきます。