すぐに結果がいらない大量の処理をまとめて送る方式で、料金は標準のおおむね50%です。有料枠で使え、レート制限も通常とは別枠です。
Batch APIの制限
- 同時バッチリクエスト数：100
- 入力ファイルサイズ：2GB
- ファイル保存容量：20GB
- モデルごとに、キューに入れられるトークン数がティア別に決まっている
向いている用途
- 数万件のレビューの分類
- 商品説明文の一括生成
- 過去の文書の一括要約
出典：Google AI for Developers「Gemini Developer API pricing」、Google AI for Developers「Rate limits」。