将 o3 与 Comfy Router 配合使用

import asyncio
from comfy_sdk import AsyncComfy

# 从环境中读取 COMFY_API_KEY。
# 每次 submit() 调用都会生成自己的 Idempotency-Key，并在自动重试时复用它。
async def main():
    async with AsyncComfy() as client:
        handle = await client.models.submit(
            "openai/o3",
            {
                "input": "Reply with the single word: ok",
                "max_output_tokens": 1024,
            },
        )
        print("request_id:", handle.request_id)  # 加上模型 ID，就是另一个进程所需的全部信息

        # 轮询直到请求完成，等待服务器指定的 Retry-After 时间。
        async for update in handle.iter_events():
            print(update.status, update.queue_position)

        # 提供商自身的载荷，与 models.run() 返回的值相同。
        # 失败或已取消的请求会在这里抛出带类型的 Router 错误。
        result = await handle.get()

    print(result)

asyncio.run(main())

import { comfy } from "@comfyorg/sdk";

// 从环境中读取 COMFY_API_KEY。
// 每次 submit() 调用都会生成自己的 Idempotency-Key，并在自动重试时复用它。
const handle = await comfy.models.submit("openai/o3", {
  input: "Reply with the single word: ok",
  max_output_tokens: 1024,
});
console.log("requestId:", handle.requestId); // 加上模型 ID，就是另一个进程所需的全部信息

// 轮询直到请求完成，等待服务器指定的 Retry-After 时间。
for await (const update of handle.events()) {
  console.log(update.status, update.queuePosition);
}

// 与 models.run() 返回的结果相同。失败或已取消的请求会在这里拒绝。
const result = await handle.get();

console.log(result.data);

# 1. 提交。Router 返回 201，并附带 request_id、status_url、response_url 和 cancel_url。
curl https://api.comfy.org/v2/models/openai/o3/requests \
  -H "X-API-Key: $COMFY_API_KEY" \
  -H "Idempotency-Key: $(uuidgen)" \
  -H "Content-Type: application/json" \
  -d "{\"input\": \"Reply with the single word: ok\", \"max_output_tokens\": 1024}"

# 2. 轮询直到状态为 COMPLETED，每次响应都会指定需要等待的 Retry-After 秒数。
REQUEST_ID="<request_id from the 201 body>"
curl -i https://api.comfy.org/v2/models/openai/o3/requests/$REQUEST_ID/status \
  -H "X-API-Key: $COMFY_API_KEY"

# 3. 收集。仍在运行时返回 202 与状态响应体；完成后返回 200 与模型的原生输出。
curl https://api.comfy.org/v2/models/openai/o3/requests/$REQUEST_ID \
  -H "X-API-Key: $COMFY_API_KEY"