XNews

Perplexity、プロンプトインジェクションのスコアリングのためにContext APIにDeciderを追加

Perplexity、プロンプトインジェクションのスコアリングのためにContext APIにDeciderを追加

Perplexityは意思決定モデル「Decider」をContext APIに統合し、開発者が取得した各ページについて最大5つのイエス/ノー質問を投げかけ、0から1の確率スコアを受け取れるようにした。チームは独自の閾値を設定してページを保持または破棄でき、エージェントがコンテンツを読む前のプロンプトインジェクションチェックも含まれる。

イベントのバージョン 1.

Key insights

ページごとのイエス/ノースコアリング

Context APIは取得した各ページについて最大5つのイエス/ノー質問を受け付け、何がイエスまたはノーに該当するかの例を示す。各質問は0から1の確率を返し、アプリで設定された閾値が保持または破棄するものを決定する。

プロンプトインジェクションのスクリーニング

Deciderのスコアは、エージェントが取得したページを読む前にプロンプトインジェクションをチェックするために使用できる。クックブックではプロンプトインジェクションチェックをエンドツーエンドで説明している。

追加のフィルタリングユースケース

チームはContextを見込み客のスコアリングに使用できる。例えば、企業が大企業に販売しているか、エンジニアを採用しているかなど。その他の用途には、詐欺、ヘイト、アダルトコンテンツのコンテンツモデレーションや、引用元の欠落に関する健康主張のチェックが含まれる。

フィードバックに基づく統合

Context APIはDecider統合の1日前にローンチされた。フィードバックでは、プロンプトインジェクションやその他のフィルタリング形式をチェックする意思決定モデルが求められ、カスタム基準に基づくスコアを備えたエージェント向けの安全な取得として説明された。

Source posts