TypeSafe AI、Jevを発表:RLCD訓練による意思決定モデル、テキスト生成なし
ChatGPTの共同発明者によって設立されたTypeSafe AIは、テキストを生成せずに調整された構造化意思決定を出力する「System One」モデル「Jev」を発表した。RLCD訓練を用いて、70〜500ミリ秒のレイテンシ、0.042ドル/百万入力トークン(出力は無料)を実現し、最先端のLLMと比較して20〜200倍高速、40〜400倍低コストである。
ChatGPTの共同発明者によって設立されたTypeSafe AIは、テキストを生成せずに調整された構造化意思決定を出力する「System One」モデル「Jev」を発表した。RLCD訓練を用いて、70〜500ミリ秒のレイテンシ、0.042ドル/百万入力トークン(出力は無料)を実現し、最先端のLLMと比較して20〜200倍高速、40〜400倍低コストである。