Gemini Batch APIがp95レイテンシを80%削減し、部分バッチサポートを追加
Gemini Batch APIは大規模なインフラ改善を達成しました。p95レイテンシが80%減少し、p99は68%減少しました。バッチ成功率は99.998%を超え、バッチの期限切れは98%減少しました。また、部分バッチのサポートが追加されました。チームはこの成果を評価されています。
Gemini Batch APIは大規模なインフラ改善を達成しました。p95レイテンシが80%減少し、p99は68%減少しました。バッチ成功率は99.998%を超え、バッチの期限切れは98%減少しました。また、部分バッチのサポートが追加されました。チームはこの成果を評価されています。