要点

Google Gen AI Python SDK v2.30.0は、継続ストリームの利用量を蓄積し、最初のプロンプトのトークン数を公開する機能を追加しました。長い応答を途中でつなぐアプリでは、再開できることだけでなく、どこまで入力・生成・課金が進んだかを記録できるかが運用の分かれ目です。

何が変わったのか

v2.30.0のリリースノート（Google、2026年10月13日）は、ストリーミング継続時の利用量メタデータを蓄積し、initial_prompt_token_countを公開すると案内しました。Interactionsのinteraction.status_updateイベントにはcontinuation_tokenと利用量が追加され、継続が必要な状態も明示されます。

加えて、generate_contentとストリーミング生成では継続トークンを自動再開する選択肢が加わりました。この機能は既定で無効です。一方、チャットモジュールでは継続トークンの自動再開が有効になります。リリースノートは、課金対象トークン数のフィールド、文字起こしの開始・終了オフセット、Realtime入力設定の中間文字起こしタイムスタンプも列挙しています。

どこで効くのか

途中で接続が切れる、応答が長くなる、または同じ会話を複数画面で引き継ぐ機能では、完了したように見えて二重に生成を始める失敗が起きます。継続トークンと状態イベントを保存しておけば、再開処理を「最初からやり直す」か「同じ継続を進める」かに分けられます。利用量を記録すれば、1件ごとの課金対象トークンが急増した箇所も、モデルの出力本文と混同せずに調べられます。

ここからは編集部の見立てです。自動再開を有効にする前に、リトライ時のUI表示、課金の集計単位、利用者が中止した場合の扱いを同じテストで確認すると安全です。再開できることは、同じ仕事を二度実行してよいことを意味しません。

導入するか

採用判断

様子見 — 長いストリーミング応答やInteractionsを使うPythonアプリには、観測と再開制御を整える材料になります。ただし、生成APIでの自動再開は既定で無効であり、チャットモジュールとの挙動も同一ではありません。SDK更新前に、利用中の呼び出し経路と中断時の挙動を確認してください。

15分ミニ課題

  1. Pythonアプリの依存関係ファイルと、生成またはストリーミングを呼ぶ箇所を一つずつ開きます。該当しなければ、次に追加する生成画面の設計メモを対象にします。
  2. 中断した応答を再送する箇所で、入力、継続識別子、利用量のどれを保存しているかを一行ずつ記録します。
  3. 利用量を保存していない場合は、表示用の本文とは別にリクエストID・開始時刻・課金対象トークン数を記録する最小スキーマを書き出します。
  4. 再送時に同じ外部操作を二度実行しうる経路が一つでもあれば、自動再開を有効にしないことを完了条件にします。

前提知識

継続トークンは、中断した生成を同じ文脈で続けるための識別子です。アプリが保存する会話履歴そのものとは別に、SDKが継続処理で使う値であるため、保持期間と再送条件を設計する必要があります。

参照元

一次情報を確認する ↗