Vercel AI SDK

OpenTelemetry (OTel) を使用すると、Weave で Vercel AI SDK の Call をトレースできます。Vercel AI SDK は、Next.js、Nuxt、SvelteKit などのフレームワークをサポートし、AI を活用したアプリケーションを構築するための TypeScript ツールキットです。experimental_telemetry オプションを通じて、OpenTelemetry を組み込みでサポートしています。このガイドでは、Vercel AI SDK から Weave にトレースを送信するように OTel を設定する方法を説明します。AI SDK は、Next.js と組み合わせて使用することも、スタンドアロンの Node.js アプリケーションとして使用することもできます。 Weave での OTel トレースの詳細については、Send OTel traces to Weave を参照してください。

前提条件

このガイドの Next.js と Node.js の例では、どちらも同じ依存関係が必要です。まず、以下を行います。

次の Vercel および OTel ライブラリをインストールします。

npm install ai @ai-sdk/openai @opentelemetry/api @opentelemetry/sdk-trace-node @opentelemetry/sdk-trace-base @opentelemetry/exporter-trace-otlp-proto @opentelemetry/resources zod

次の環境変数を設定します。
export WANDB_API_KEY="your-wandb-api-key" export OPENAI_API_KEY="your-openai-api-key"
W&B APIキーは User Settings から取得できます。

Next.js 向けに OTel トレースを設定する

このセクションでは、Next.js アプリで Weave を設定する方法を説明します。この例にはアプリ全体は含まれておらず、インストルメンテーションの設定と、Vercel AI SDK の関数でインストルメンテーションを呼び出す方法のみを示しています。この場合は、OpenAI をシンプルに呼び出す例です。

インストルメンテーションを設定する

Next.js アプリケーションでは、OTel の設定に instrumentation.ts ファイルを使用します。このファイルはサーバーの起動時に 1 回だけ実行され、AI SDK が使用するトレーサープロバイダーを設定します。 Weave を Vercel の OTel 機能と統合するには、project ルートに instrumentation.ts ファイルを作成し、次のコードを追加します。その際、resourceFromAttributes() 関数のチーム名と project 名を更新してください。

instrumentation.ts

import { NodeTracerProvider } from "@opentelemetry/sdk-trace-node";
import { BatchSpanProcessor } from "@opentelemetry/sdk-trace-base";
import { OTLPTraceExporter } from "@opentelemetry/exporter-trace-otlp-proto";
import { resourceFromAttributes } from "@opentelemetry/resources";

export function register() {
  const WANDB_API_KEY = process.env.WANDB_API_KEY!;

// W&B Weave エンドポイントを使用するよう OTel エクスポーターを設定します。
  const exporter = new OTLPTraceExporter({
    url: "https://trace.wandb.ai/otel/v1/traces",
    headers: { "wandb-api-key": WANDB_API_KEY },
  });

// W&B の認証情報を設定します。
  const provider = new NodeTracerProvider({
    resource: resourceFromAttributes({
      "wandb.entity": "<your-team-name>",
      "wandb.project": "<your-project-name>",
    }),
    spanProcessors: [new BatchSpanProcessor(exporter)],
  });

  provider.register();
}

これにより、Weave の OTel エンドポイントにトレースデータを送信するよう設定された OTLP エクスポーターが作成され、W&B APIキーを使用して認証されます。

関数でテレメトリーを設定する

インストルメンテーションを追加したら、任意の AI SDK の関数呼び出しで Vercel の experimental_telemetry オプションを使用して、OTel スパンを生成します。

route.ts

import { openai } from "@ai-sdk/openai";
import { generateText } from "ai";

export async function POST(req: Request) {
  const { prompt } = await req.json();

// functionにexperimental_telemetryフィールドを追加します。
  const result = await generateText({
    model: openai("gpt-4o-mini"),
    prompt,
    experimental_telemetry: { isEnabled: true },
  });

  return Response.json({ text: result.text });
}

テレメトリーを有効にしたすべての generateText Call で、Weave にエクスポートされる OTel スパンが生成されます。

Node.js 向けに OTel トレースを設定する

スタンドアロンの Node.js アプリケーション (Next.js を使用しない場合) では、AI SDK を Call する前に、エントリファイルの先頭でトレーサープロバイダーを設定します。前提条件を満たしたら、追加の設定なしでこの例を run し、スパンを生成できます。

test-app.ts

import { NodeTracerProvider } from "@opentelemetry/sdk-trace-node";
import { BatchSpanProcessor } from "@opentelemetry/sdk-trace-base";
import { OTLPTraceExporter } from "@opentelemetry/exporter-trace-otlp-proto";
import { resourceFromAttributes } from "@opentelemetry/resources";
import { openai } from "@ai-sdk/openai";
import { generateText } from "ai";

const WANDB_API_KEY = process.env.WANDB_API_KEY!;

// W&B Weave エンドポイントを使用するように OTel エクスポーターを設定します。
const exporter = new OTLPTraceExporter({
  url: "https://trace.wandb.ai/otel/v1/traces",
  headers: { "wandb-api-key": WANDB_API_KEY },
});

// W&B の認証情報を設定します。
const provider = new NodeTracerProvider({
  resource: resourceFromAttributes({
    "wandb.entity": "<your-team-name>",
    "wandb.project": "<your-project-name>",
  }),
  spanProcessors: [new BatchSpanProcessor(exporter)],
});

provider.register();

// 関数に experimental_telemetry フィールドを追加します。
async function main() {
  const result = await generateText({
    model: openai("gpt-4o-mini"),
    prompt: "Explain OpenTelemetry in one sentence.",
    experimental_telemetry: { isEnabled: true },
  });

  console.log(result.text);

  await provider.shutdown();
}

main();

BatchSpanProcessor はスパンを非同期でフラッシュします。スタンドアロンのスクリプト、サーバーレス関数、CLI ツールのような短命なプロセスでは、すべてのスパンが Weave に送信されるよう、プロセスが終了する前に provider.shutdown() を呼び出してください。長時間稼働するサーバー (instrumentation.ts 経由で起動した Next.js の Dev サーバーなど) では、これは不要です.

スタートガイド

ガイド

クックブック

リファレンス

詳細とサポート

前提条件

Next.js 向けに OTel トレースを設定する

インストルメンテーションを設定する

関数でテレメトリーを設定する

Node.js 向けに OTel トレースを設定する

​前提条件

​Next.js 向けに OTel トレースを設定する

​インストルメンテーションを設定する

​関数でテレメトリーを設定する

​Node.js 向けに OTel トレースを設定する

前提条件

Next.js 向けに OTel トレースを設定する

インストルメンテーションを設定する

関数でテレメトリーを設定する

Node.js 向けに OTel トレースを設定する