Perplexity、4B判断モデルをローカルで実行するMac向け「Decider」をリリース

Perplexityは、4Bのpplx-decider-flash-v1.2判断モデルをAPIキーなしでデバイス上で実行するアプリ「Decider for Mac」をリリースした。一度だけ5.8GBのダウンロードを行った後、localhost:8080/v1/decisionsでDecisions APIを提供する。Appleシリコン、macOS 13以降、16GBのメモリが必要である。
イベントのバージョン 1.
Key insights
オンデバイス判断モデル
Decider for Macは、4Bのpplx-decider-flash-v1.2判断モデルをデバイス上で実行する。ユーザーはテキストや画像について質問し、自分のマシン上で確率を受け取る。
ローカルAPIエンドポイント
一度だけ5.8GBのモデルをダウンロードした後、アプリはlocalhost:8080/v1/decisionsでDecisions APIを提供する。APIキーは不要である。
ユースケース
このアプリは、データをMacの外に出さずに、ファイルのラベル付け、メッセージのルーティング、スクリーンショットのチェック、またはpre-commitチェックの実行ができる。
システム要件
Decider for Macには、Appleシリコン搭載のMac、macOS 13以降、16GBのメモリが必要である。