Perplexity、Agent API上でファイルあたり5万リクエストのBatch APIを開始
PerplexityはAgent API上でBatch APIをリリースした。ユーザーは最大5万リクエストを含むJSONLファイルをアップロードし、バッチを作成して、完了後に結果をダウンロードできる。各バッチリクエストはAgent APIの完全なループを実行するため、web_searchやfetch_urlなどの組み込みツールがバッチ内で機能し、Agent APIのモデルリストにある任意のモデルを使用できる。クックブックのチュートリアルでは、企業のCSVを一晩で、各行に1つのWebグラウンデッドリクエストを実行してデータを enrichment する方法を実演している。
イベントのバージョン 1.
Key insights
バッチサイズとワークフロー
Batch APIは最大5万リクエストのJSONLファイルを受け付ける。ユーザーはバッチを作成し、完了時に結果をダウンロードする。
バッチモードでの完全なエージェントループ
すべてのバッチリクエストはAgent APIの完全なループを実行するため、web_searchやfetch_urlを含む組み込みツールがバッチ内で機能する。Agent APIのモデルリストにある任意のモデルを使用できる。
データエンリッチメントのチュートリアル
新しいクックブックのチュートリアルでは、企業のCSVを一晩でエンリッチする。各行に対して1つのWebグラウンデッドなAgent APIリクエストを実行し、JSONLに書き込み、バッチとして実行し、結果をエンリッチされたデータとして行に結合する。
スケールの例
バッチ機能は、5万社のスプレッドシートを一晩でライブWebデータでエンリッチするなど、大規模なデータエンリッチメントワークロードをサポートする。