トークン(その他表記)token

翻訳|token

デジタル大辞泉 「トークン」の意味・読み・例文・類語

トークン(token)

証拠
代用貨幣。代用硬貨。
コンピューターネットワーク上でデジタル認証を行うための小型装置。カード型やUSB型などがある。認証トークンセキュリティートークン
対話型AIなどの大規模言語モデルにおける、文章の最小単位。入力された文字列をこの単位で区切り、パラメーターを付与して文章を生成する。学習モデルや言語によって区切り方は異なり、一般に日本語は英語に比べてトークン数が多くなる。

出典 小学館デジタル大辞泉について 情報 | 凡例

関連語 言語モデル

地表近くで見られる蜃気楼(しんきろう)現象の一種。晩春から夏にかけて、よく晴れた日に熱せられた道路のアスファルト面を遠くから視線を低くして見ると、水たまりがあるように見えることがある。これは地面付近の...

逃げ水の用語解説を読む