ボルツビットとケンブリッジ大学、動的LLM重み更新のための「無限パラメータ」を導入
ボルツビットとケンブリッジ大学は、ユーザーとの対話から低ランクの重みを動的に生成する手法を提案し、LLMがコンテキストウィンドウではなく「重みに知識を書き込む」ことを可能にする。このアプローチは、長文書やマルチターン会話において従来のプロンプティングを上回り、1ターンあたりの計算コストは一定である。
ボルツビットとケンブリッジ大学は、ユーザーとの対話から低ランクの重みを動的に生成する手法を提案し、LLMがコンテキストウィンドウではなく「重みに知識を書き込む」ことを可能にする。このアプローチは、長文書やマルチターン会話において従来のプロンプティングを上回り、1ターンあたりの計算コストは一定である。