トークン(その他表記)token

翻訳|token

デジタル大辞泉 「トークン」の意味・読み・例文・類語

トークン(token)

証拠
代用貨幣。代用硬貨。
コンピューターネットワーク上でデジタル認証を行うための小型装置。カード型やUSB型などがある。認証トークンセキュリティートークン
対話型AIなどの大規模言語モデルにおける、文章の最小単位。入力された文字列をこの単位で区切り、パラメーターを付与して文章を生成する。学習モデルや言語によって区切り方は異なり、一般に日本語は英語に比べてトークン数が多くなる。

出典 小学館デジタル大辞泉について 情報 | 凡例

関連語 言語モデル

〘 名詞 〙 春の季節がもうすぐそこまで来ていること。《 季語・冬 》 〔俳諧・俳諧四季部類(1780)〕[初出の実例]「盆栽の橙黄なり春隣〈守水老〉」(出典:春夏秋冬‐冬(1903)〈河東碧梧桐・高...

春隣の用語解説を読む