开发者社区 问答 正文

Tokenization是什么意思啊?

已解决

Tokenization是什么意思啊?

展开
收起
游客ihzapojsw2ysk 2022-07-27 07:59:03 516 分享 版权
1 条回答
写回答
取消 提交回答
  • 推荐回答

    将要拆分的文本分为tokens,tokens包括words,numbers,dates,punctuation。

    2022-07-27 08:26:37
    赞同 展开评论
问答地址: