トークン(その他表記)token

翻訳|token

デジタル大辞泉 「トークン」の意味・読み・例文・類語

トークン(token)

証拠
代用貨幣。代用硬貨。
コンピューターネットワーク上でデジタル認証を行うための小型装置。カード型やUSB型などがある。認証トークンセキュリティートークン
対話型AIなどの大規模言語モデルにおける、文章の最小単位。入力された文字列をこの単位で区切り、パラメーターを付与して文章を生成する。学習モデルや言語によって区切り方は異なり、一般に日本語は英語に比べてトークン数が多くなる。

出典 小学館デジタル大辞泉について 情報 | 凡例

関連語 言語モデル

「歓喜の歌」の合唱で知られ、聴力をほぼ失ったベートーベンが晩年に完成させた最後の交響曲。第4楽章にある合唱は人生の苦悩と喜び、全人類の兄弟愛をたたえたシラーの詩が基で欧州連合(EU)の歌にも指定され...

ベートーベンの「第九」の用語解説を読む