批量任务（Batch API）使用教程

批量任务就是：把几十、几百条请求写进一个文件，一次交给 Li API，它在后台慢慢帮你跑完，跑完你再下载结果。适合“同一个提示词，对一大批数据各跑一遍”的活，比如给语料打标签、批量摘要、评测集打分、批量翻译。

• 价格和平时一样：每条请求按正常价格扣费，没有折扣，也不加价。
• 不用守着：提交后可以关电脑，24 小时内跑完，一般几分钟到几小时。
• 不会被“高并发”报错打断：后台会自动排队、遇到上游繁忙自动等一会再试，你不用自己写重试。
• 结果保存 7 天：请在 7 天内下载，过期自动删除。
• 不适合聊天和写代码：Claude Code、Codex、Cherry Studio 这类要马上看到回复的，继续用平时的方式，不要用批量任务。

第一部分：准备输入文件

输入文件是一个 .jsonl 文件：一行就是一条请求，每行都是一段完整的 JSON。下面是 3 条请求的例子，可以直接复制保存为 input.jsonl：

{"custom_id": "task-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "deepseek-v4-flash", "messages": [{"role": "user", "content": "用一句话介绍长城"}]}}
{"custom_id": "task-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "deepseek-v4-flash", "messages": [{"role": "user", "content": "用一句话介绍故宫"}]}}
{"custom_id": "task-3", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "deepseek-v4-flash", "messages": [{"role": "user", "content": "用一句话介绍兵马俑"}]}}

每一行要注意 4 点：

1. custom_id你自己起的编号，同一个文件里不能重复。结果里会带着它，方便你对上号。
2. url同一个文件里所有行必须一样，而且要和第二部分提交时写的接口一致。
3. body就是平时直接调接口时发的那段内容，model 必须是你的密钥能用的模型（在控制台“模型广场”能看到）。
4. 不用写 stream写了也会被自动改成不流式。

支持的接口：/v1/chat/completions、/v1/responses、/v1/embeddings、/v1/completions、/v1/messages（Claude 格式）。

第二部分：用 Python 提交

先安装官方 SDK（只需一次）：

pip install openai

然后新建一个 submit.py，把 你的密钥 换成控制台“令牌”页面里 sk- 开头的那串：

from openai import OpenAI

client = OpenAI(api_key="你的密钥", base_url="https://api.yulitongxing.com/v1")

# 1. 上传输入文件
f = client.files.create(file=open("input.jsonl", "rb"), purpose="batch")

# 2. 创建批量任务
batch = client.batches.create(
    input_file_id=f.id,
    endpoint="/v1/chat/completions",
    completion_window="24h",
)
print("任务编号：", batch.id, "状态：", batch.status)

运行 python submit.py，记下打印出来的任务编号（batch_ 开头）。

第三部分：查看进度、下载结果

新建 check.py：

from openai import OpenAI

client = OpenAI(api_key="你的密钥", base_url="https://api.yulitongxing.com/v1")
batch = client.batches.retrieve("这里填任务编号")
print("状态：", batch.status, "进度：", batch.request_counts)

if batch.output_file_id:
    open("output.jsonl", "w", encoding="utf-8").write(client.files.content(batch.output_file_id).text)
    print("成功的结果已保存到 output.jsonl")
if batch.error_file_id:
    open("errors.jsonl", "w", encoding="utf-8").write(client.files.content(batch.error_file_id).text)
    print("失败的请求已保存到 errors.jsonl")

状态是什么意思：

• in_progress：正在跑，隔一会再查。
• completed：跑完了，按上面的代码下载结果。
• failed：没跑起来，看 batch.errors，里面会写第几行有什么问题。
• cancelled：你取消了，已经跑完的部分照样能下载。
• expired：24 小时没跑完，已经跑完的部分照样能下载，没跑的在 errors.jsonl 里。

结果文件也是一行一条，用 custom_id 对上号；回复内容在 response.body 里，和平时调接口返回的一模一样。

想中途取消：client.batches.cancel("任务编号")。

使用限制

• 单个输入文件最大 20MB、最多 2000 行。
• 同一个密钥同时最多 3 个任务在跑。
• 同一个密钥最多存 100MB 文件，旧文件可以用 client.files.delete("文件编号") 删掉。
• 只有提交任务的那把密钥能看到这个任务和结果，换一把密钥就看不到了。
• 如果你的令牌设置了“IP 白名单”，请从白名单内的电脑提交。

常见问题