XNews

Perplexity 为 Context API 新增 Decider,用于提示注入评分

Perplexity 为 Context API 新增 Decider,用于提示注入评分

Perplexity 将其 Decider 决策模型集成到 Context API 中,使开发者能够对每个抓取的页面提出最多五个是/否问题,并获得 0 到 1 的概率分数。团队可自行设定阈值以保留或丢弃页面,包括在智能体读取内容前检查提示注入。

事件版本 1.

Key insights

每页是/否评分

Context API 接受对每个抓取页面最多五个是/否问题,并附带何为是或何为否的示例。每个问题返回 0 到 1 的概率,应用中设定的阈值决定保留或丢弃哪些内容。

提示注入筛查

Decider 分数可用于在智能体读取抓取页面之前检查提示注入。一份 cookbook 端到端演示了提示注入检查流程。

其他过滤用例

团队可将 Context 用于潜在客户评分,例如某公司是否向企业销售或是否在招聘工程师。其他用途包括针对诈骗、仇恨或成人内容的内容审核,以及针对缺失引用来源的健康声明检查。

反馈驱动的集成

Context API 在 Decider 集成前一天发布。反馈呼吁使用决策模型检查提示注入及其他形式的过滤,被描述为面向智能体的安全抓取,其分数基于自定义标准。

Source posts