デジタル大辞泉 「トークン」の意味・読み・例文・類語
トークン(token)
2 貨幣の代わりに用いられるメダルや小札。代用貨幣。代用硬貨。「ブック
3 古代メソポタミア地域で用いられた道具。粘土製の小片で、形状や模様などによって品物や数量を記録したものとみられる。
4 コンピューターネットワーク上でデジタル認証を行うための小型装置。カード型やUSB型などがある。認証トークン。セキュリティートークン。
5 対話型AIなどの大規模言語モデルにおける、文章の最小単位。入力された文字列をこの単位で区切り、パラメーターを付与して文章を生成する。学習モデルや言語によって区切り方は異なり、一般に日本語は英語に比べてトークン数が多くなる。

