使用 GPT 4.1 Nano 与 Comfy Router

import asyncio
from comfy_sdk import AsyncComfy

# 从环境变量中读取 COMFY_API_KEY。
# 每次 submit() 调用都会生成自己的 Idempotency-Key，并在自动重试时复用它。
async def main():
    async with AsyncComfy() as client:
        handle = await client.models.submit(
            "openai/gpt-4.1-nano",
            {
                "input": "Reply with the single word: ok",
                "max_output_tokens": 1024,
            },
        )
        print("request_id:", handle.request_id)  # 有了它和模型 ID，另一个进程就具备了所需的全部信息

        # 轮询直到请求完成，每次都按服务器给出的 Retry-After 等待。
        async for update in handle.iter_events():
            print(update.status, update.queue_position)

        # 提供商自己的响应负载，与 models.run() 返回的值相同。
        # 失败或已取消的请求会在此处抛出类型化的 Router 错误。
        result = await handle.get()

    print(result)

asyncio.run(main())

import { comfy } from "@comfyorg/sdk";

// 从环境变量中读取 COMFY_API_KEY。
// 每次 submit() 调用都会生成自己的 Idempotency-Key，并在自动重试时复用它。
const handle = await comfy.models.submit("openai/gpt-4.1-nano", {
  input: "Reply with the single word: ok",
  max_output_tokens: 1024,
});
console.log("requestId:", handle.requestId); // 有了它和模型 ID，另一个进程就具备了所需的全部信息

// 轮询直到请求完成，每次都按服务器给出的 Retry-After 等待。
for await (const update of handle.events()) {
  console.log(update.status, update.queuePosition);
}

// 与 models.run() 返回的结果相同。失败或已取消的请求会在此处 reject。
const result = await handle.get();

console.log(result.data);

# 1. 提交。Router 会返回 201，以及 request_id、status_url、response_url 和 cancel_url。
curl https://api.comfy.org/v2/models/openai/gpt-4.1-nano/requests \
  -H "X-API-Key: $COMFY_API_KEY" \
  -H "Idempotency-Key: $(uuidgen)" \
  -H "Content-Type: application/json" \
  -d "{\"input\": \"Reply with the single word: ok\", \"max_output_tokens\": 1024}"

# 2. 轮询直到状态为 COMPLETED，每次都按每个响应给出的 Retry-After 秒数等待。
REQUEST_ID="<request_id from the 201 body>"
curl -i https://api.comfy.org/v2/models/openai/gpt-4.1-nano/requests/$REQUEST_ID/status \
  -H "X-API-Key: $COMFY_API_KEY"

# 3. 收集结果。返回 200 时附带模型的原生输出，任务仍在运行时返回 202 和状态响应体。
curl https://api.comfy.org/v2/models/openai/gpt-4.1-nano/requests/$REQUEST_ID \
  -H "X-API-Key: $COMFY_API_KEY"