トークン(その他表記)token

翻訳|token

デジタル大辞泉 「トークン」の意味・読み・例文・類語

トークン(token)

証拠
代用貨幣。代用硬貨。
コンピューターネットワーク上でデジタル認証を行うための小型装置。カード型やUSB型などがある。認証トークンセキュリティートークン
対話型AIなどの大規模言語モデルにおける、文章の最小単位。入力された文字列をこの単位で区切り、パラメーターを付与して文章を生成する。学習モデルや言語によって区切り方は異なり、一般に日本語は英語に比べてトークン数が多くなる。

出典 小学館デジタル大辞泉について 情報 | 凡例

関連語 言語モデル

昆虫綱半翅目(はんしもく)同翅亜目セミ科Cicadidaeの昆虫。体長は雄32~39ミリメートル、雌23~28ミリメートル。体は黒色で、茶色や緑色の斑紋(はんもん)がある。雄の腹部は大きく、空洞で、発...

ヒグラシの用語解説を読む