XNews

Perplexity、Agent API上でファイルあたり5万リクエストのBatch APIを開始

PerplexityはAgent API上でBatch APIをリリースした。ユーザーは最大5万リクエストを含むJSONLファイルをアップロードし、バッチを作成して、完了後に結果をダウンロードできる。各バッチリクエストはAgent APIの完全なループを実行するため、web_searchやfetch_urlなどの組み込みツールがバッチ内で機能し、Agent APIのモデルリストにある任意のモデルを使用できる。クックブックのチュートリアルでは、企業のCSVを一晩で、各行に1つのWebグラウンデッドリクエストを実行してデータを enrichment する方法を実演している。

イベントのバージョン 1.

Key insights

バッチサイズとワークフロー

Batch APIは最大5万リクエストのJSONLファイルを受け付ける。ユーザーはバッチを作成し、完了時に結果をダウンロードする。

バッチモードでの完全なエージェントループ

すべてのバッチリクエストはAgent APIの完全なループを実行するため、web_searchやfetch_urlを含む組み込みツールがバッチ内で機能する。Agent APIのモデルリストにある任意のモデルを使用できる。

データエンリッチメントのチュートリアル

新しいクックブックのチュートリアルでは、企業のCSVを一晩でエンリッチする。各行に対して1つのWebグラウンデッドなAgent APIリクエストを実行し、JSONLに書き込み、バッチとして実行し、結果をエンリッチされたデータとして行に結合する。

スケールの例

バッチ機能は、5万社のスプレッドシートを一晩でライブWebデータでエンリッチするなど、大規模なデータエンリッチメントワークロードをサポートする。

Source posts