Microsoft Foundryとは、企業や開発者が生成AIアプリケーションやAIエージェントを迅速に構築、デプロイ、管理するための統合AIプラットフォームで、様々なAIアプリケーションを作って運用することができるようになっている。

今回は、呼び出したMicrosoft Foundry上のAIモデルの呼出時間や入出力トークン数を出力してみたので、そのソースコードを共有する。

前提条件

下記記事の「azure cliコマンドでのFoundryプロジェクト作成」が完了していること。

azure cliコマンドでFoundryプロジェクトを作成してみたMicrosoft Foundryとは、企業や開発者が生成AIアプリケーションやAIエージェントを迅速に構築、デプロイ、管理するための統...

作成したソースコード

「前提条件」の記事のプログラム「call_model.py」に、API呼出にかかった時間・入出力トークン数を追加する。その実装例は、以下の通り。

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider
import time

endpoint = "https://foundry-purinit.services.ai.azure.com/openai/v1"
deployment_name = "gpt-5-mini-1"
token_provider = get_bearer_token_provider(DefaultAzureCredential(), "https://ai.azure.com/.default")

client = OpenAI(
    base_url=endpoint,
    api_key=token_provider
)

# 開始時刻
t0 = time.perf_counter()

response = client.responses.create(
    model=deployment_name,
    input="Azure認定試験 AI-901について教えてください。",   # 質問文
)

# API呼出にかかった時間(秒)をelapsedに格納
elapsed = time.perf_counter() - t0

# 質問に対する応答文のみ取得する
for item in response.output:
    if item.type == "message":
        for content in item.content:
            if content.type == "output_text":
                print("*** Azure認定試験 AI-901について教えてください。 answer ***")
                print(content.text)
                print()

print("*** API呼出にかかった時間(秒) ***")
print(f"かかった時間: {elapsed:.2f} 秒")
print()

# 入出力トークン数
usage = getattr(response, "usage", None)
in_tok = getattr(usage, "input_tokens", None) if usage else None
out_tok = getattr(usage, "output_tokens", None) if usage else None
print("*** 入出力トークン数 ***")
print(f"入力トークン数: {in_tok:d}")
print(f"出力トークン数: {out_tok:d}")
エンジニアファーストバナー

作成したソースコードの実行結果

作成したソースコードの実行結果は以下の通りで、赤枠部分が、今回追加したAPI呼出にかかった時間・入出力トークン数の出力内容となる。
作成したソースコードの実行結果

要点まとめ

  • Pythonで呼び出したMicrosoft Foundry上のAIモデルについて、呼出時間や入出力トークン数を出力することができる。