Webhook Gemini untuk konteks 1 juta token.

Masalah waktu

Gemini konteks panjang di dalam handler webhook

AnyHook mengonfirmasi lalu meneruskan. Anda menjalankan panggilan Gemini atas seluruh korpus Anda. Tanpa loop polling, tanpa antrean Redis, tanpa Cloud Tasks.

import { verifyWebhook } from "anyhook-verify";
import { GoogleGenerativeAI } from "@google/generative-ai";

const gemini = new GoogleGenerativeAI(process.env.GEMINI_API_KEY!);

export async function POST(req: Request) {
  if (!(await verifyWebhook(req, process.env.ANYHOOK_SIGNING_SECRET!))) {
    return new Response("invalid", { status: 401 });
  }

  const event = await req.json();

  // Run RAG over the full corpus. 45 seconds. Stripe doesn't care.
  const model = gemini.getGenerativeModel({ model: "gemini-1.5-pro" });
  const result = await model.generateContent([
    fullCorpusFor(tenantOf(event)),
    `Process: ${JSON.stringify(event)}`,
  ]);

  await persistDecision(result.response.text());
  return new Response("ok", { status: 200 });
}

Pertanyaan yang sering diajukan tim

Apakah AnyHook mendukung skema tanda tangan webhook Gemini?

Ya. Gemini menandatangani dengan skema Standard Webhooks. Atur sumber App ke Standard Webhooks dan tempel signing secret-nya: AnyHook memverifikasi setiap pengiriman di edge sebelum meneruskannya.

Bagaimana jika panggilan Gemini saya terkena rate limit?

Kembalikan 429 dari handler Anda. AnyHook memperlakukannya sebagai error yang dapat dicoba ulang, menerapkan backoff eksponensial, dan menampilkan rangkaian percobaan ulang di dashboard. Anda dapat memutar ulang event aslinya setelah kuota Anda direset.

Apakah ini hanya untuk webhook Gemini API, atau juga Vertex AI?

Keduanya. Apa pun yang mengirim webhook HTTP bisa lewat AnyHook. Tanda tangan diperiksa di edge untuk skema yang tercantum di dokumentasi, termasuk Standard Webhooks; pengirim di luar daftar itu berjalan sebagai Generic, dengan header aslinya diteruskan agar bisa Anda periksa sendiri.