Word
Canvas3D
学习
分词器
词嵌入
向量实验场
中
L
o
a
d
i
n
g
.
.
.
g
o
d
n
L
a
i
.
.
.
o
i
a
g
l
n
i
.
.
.
L
i
o
n
g
a
d
.
.
.
g
i
n
d
o
l
a
.
.
.
n
a
l
o
i
d
g
.
.
.
分词器
看看文字如何被切分成词元(token)和 ID。在浏览器中运行,你的文字不会被发送到任何地方。
了解分词
分词器
GPT-4.1 / 4o / mini (o200k_base)
正在加载分词器…
正在加载分词器
文字
加载示例文字
试试
简短
多种文字
表情符号
代码
段落
敏捷的棕色狐狸跳过了那只懒狗。
词元
显示空白字符
词元
–
码位
15
UTF-8 字节
45
悬停、轻点或在词元上使用方向键即可查看详情。
词元 ID
复制 ID