問 7
大規模言語モデル(LLM)でいうトークンの説明として、最も適切なものはどれか。
考え方
LLMは、それまでの言葉に続きそうな言葉を少しずつ選んで文章を作ります。そのとき文章は、単語や文字、単語の一部くらいのトークンに区切って扱われます。一度に読める長さの上限や、使った量で決まる料金は、トークンの数で数えます。質問と答えの例はコンテキスト内学習、ばらつきの調整はランダム性の制御です。
ここを押さえる
トークンは、LLMが文章を区切って扱う単位(単語や単語の一部くらい)。一度に読める量や料金が、その数で決まる。
トークンは、LLMが文章を区切って扱う単位(単語や単語の一部くらい)。一度に読める量や料金が、その数で決まる。
選択肢ごとの解説
×ア
プロンプトに質問と答えの例を書き、その例にならって答えさせるのは、コンテキスト内学習です。トークンは、文章を区切った単位のことです。
×イ
答えのばらつきを設定で調整するのは、ランダム性の制御です。トークンは、ばらつきではなく、文章を区切った単位のことです。
×ウ
トークンは、LLMが読んだり書いたりする文章を区切った1つ1つの単位です。モデルごとに1つ決まる量の名前ではありません。
○エ
LLMは文章をトークンという小さな単位に区切って扱います。一度に読める長さにはトークンの数で上限があり、使った量で料金が決まるサービスでは、その量もトークンで数えます。