Gemini API怎么批量处理请求?generateContent批次、状态与结果对齐
按当前官方Batch API提交少量独立请求,区分generateContent与Interac…
文章目录
大量不急于即时返回的独立任务,可以使用Gemini Batch API。当前官方明确该能力使用generateContent,而非本系列其他教程中的Interactions形状。本文从两条人工练习开始,不实际创建付费任务,不承诺固定完成时刻。
第一步:确认任务适合批次
各条请求应独立包含所需信息,不依赖另一条先返回。先在小样本确认提示与模型可用,再扩大数量。需要API项目与对应权限,消费者会员不能代替开发者访问。
每条输入绑定业务记录编号,保存请求版本。不要只用返回数组位置推断身份,使用的提交和结果形式应按当前官方结构核对,特别是文件输入的key和结果关联。
第二步:选择inline或输入文件
官方支持小批次内联与较大JSONL文件,两种结果结构不同。JSONL是一行一个完整请求对象,不是普通JSON数组,也不能把包含原始换行的字符串不转义直接写成多行。
首次使用inline便于检查,不把其他厂商custom_id字段原样复制。模型与SDK版本按项目当前支持核对,示例沿用官方gemini-4-hydrogen,不据此推断所有项目有权限。
from google import genai
client = genai.Client()
items = [
{"contents": [{"role": "user", "parts": [{"text": "将练习反馈概括为主题:希望更多案例"}]}]},
{"contents": [{"role": "user", "parts": [{"text": "将练习反馈概括为主题:语速太快"}]}]},
]
job = client.batches.create(
model="gemini-4-hydrogen", src=items,
config={"display_name": "demo-feedback-batch"},
)
print(job.name)
第三步:保存name并查询真实状态
保存返回的任务name,后续按官方batches.get查询,不为轮询重新创建任务。target turnaround不是保证,任务可能等待、执行或失败;用有限间隔和总等待上限,不在网页持续紧密重试。
应用重启后从持久记录恢复目标任务,不能根据display_name相似就取另一批。超时不代表服务器未收到创建请求,先查已有状态再考虑补交。
状态记录:任务name;输入版本;提交数量;当前状态;更新时间;结果位置;逐项成功与错误;未对齐条目。尚未完成不记入已完成数量。
第四步:逐项检查结果
读取inline响应或下载结果JSONL时,分别核对成功对象与状态错误。整体结束不等于所有子请求成功,空内容、拒绝、截断和解析失败也需单列。结果输出格式与业务事实应分别检查。
练习两条应对应案例需求和讲解节奏,人工回查原文。真实批次按已保存映射回填,未找到对应项要停止排查,不默认按剩余顺序填入。
第五步:仅补跑确有需要的项
先修正参数或数据错误,再决定补交失败项;已成功任务不重复处理。记录新旧任务关系,避免人工重复触发多个整批。业务下游写入也应去重,不能只依赖批次名称。
费用和限制按当前官方页面与项目核对,不把官方目标耗时写成本站亲测承诺。完成标准是提交、状态、逐项结果与业务记录一致,不能用一个创建成功ID冒充整批产出。
官方资料
资料核对日期:2026年11月19日。
本文地址:https://www.163264.com/21902
