OpenAI开源GPT-2的子词标记化神器——tiktoken，一个超级快的（Byte Pair Encoder，BPE）字节对编码Python库
OpenAI在其官方GitHub上公开了一个最新的开源Python库：tiktoken，这个库主要是用力做字节对编码的。相比较HuggingFace的tokenizer，其速度提升了好几倍。
Tag
Articles tagged "tokenizer"
A curated list of original AI and LLM articles related to "tokenizer", updated regularly.
Tags:#tokenizer