處理 1M token 上下文的 Gemini Webhook。

時限問題

在 Webhook 處理程式裡跑長上下文 Gemini

AnyHook 先回應再轉送。你對完整的語料執行 Gemini 呼叫。不用輪詢迴圈、不用 Redis 佇列、不用 Cloud Tasks。

import { verifyWebhook } from "anyhook-verify";
import { GoogleGenerativeAI } from "@google/generative-ai";

const gemini = new GoogleGenerativeAI(process.env.GEMINI_API_KEY!);

export async function POST(req: Request) {
  if (!(await verifyWebhook(req, process.env.ANYHOOK_SIGNING_SECRET!))) {
    return new Response("invalid", { status: 401 });
  }

  const event = await req.json();

  // Run RAG over the full corpus. 45 seconds. Stripe doesn't care.
  const model = gemini.getGenerativeModel({ model: "gemini-1.5-pro" });
  const result = await model.generateContent([
    fullCorpusFor(tenantOf(event)),
    `Process: ${JSON.stringify(event)}`,
  ]);

  await persistDecision(result.response.text());
  return new Response("ok", { status: 200 });
}

團隊常問的問題

AnyHook 支援 Gemini 的 Webhook 簽章機制嗎？

支援。Gemini 用 Standard Webhooks 機制簽章。把 App（一個接收網址，對應一個 Webhook 來源）的來源設為 Standard Webhooks，貼上簽章密鑰：AnyHook 會在轉送前，於邊緣節點驗證每一次傳遞。

如果 Gemini 呼叫碰到速率限制怎麼辦？

讓處理程式回傳 429。AnyHook 會把它視為可重試的錯誤，套用指數退避，並在儀表板顯示整串重試紀錄。Gemini 的配額重置後，你可以重播原始事件。

這只適用於 Gemini API 的 Webhook，還是 Vertex AI 也可以？

兩者都可以。任何發送 HTTP Webhook 的服務都能經過 AnyHook。文件列出的簽章機制（包括 Standard Webhooks）會在邊緣節點檢查；不在其中的發送端以 Generic 來源執行，原本的標頭會一併轉送，讓你自己檢查。