DataLearner 标志DataLearnerAI
最新AI资讯
大模型评测
大模型列表
大模型对比
资源中心
AI工具导航

加载中...

DataLearner 标志DataLearner AI

专注大模型评测、数据资源与实践教学的知识平台，持续更新可落地的 AI 能力图谱。

产品

  • 评测榜单
  • 模型对比
  • 数据资源

资源

  • 部署教程
  • 原创内容
  • 工具导航

关于

  • 关于我们
  • 隐私政策
  • 数据收集方法
  • 联系我们

© 2026 DataLearner AI. DataLearner 持续整合行业数据与案例，为科研、企业与开发者提供可靠的大模型情报与实践指南。

隐私政策服务条款
  1. 首页/
  2. 博客/
  3. 标签：tokenizer
标签

「tokenizer」相关文章

汇总「tokenizer」相关的原创 AI 技术文章与大模型实践笔记，持续更新。

标签:#tokenizer
OpenAI开源GPT-2的子词标记化神器——tiktoken，一个超级快的（Byte Pair Encoder，BPE）字节对编码Python库

OpenAI开源GPT-2的子词标记化神器——tiktoken，一个超级快的（Byte Pair Encoder，BPE）字节对编码Python库

OpenAI在其官方GitHub上公开了一个最新的开源Python库：tiktoken，这个库主要是用力做字节对编码的。相比较HuggingFace的tokenizer，其速度提升了好几倍。

2022/12/16 21:11:164,489
#OpenAI#tokenizer

专题合集

RAG（检索增强生成）Long Context 长上下文AI Agent 实践

最热博客

  • 1Dirichlet Distribution（狄利克雷分布）与Dirichlet Process（狄利克雷过程）
  • 2回归模型中的交互项简介（Interactions in Regression）
  • 3贝塔分布（Beta Distribution）简介及其应用
  • 4矩母函数简介（Moment-generating function）
  • 5普通最小二乘法（Ordinary Least Squares，OLS）的详细推导过程
  • 6使用R语言进行K-means聚类并分析结果
  • 7深度学习技巧之Early Stopping（早停法）
  • 8手把手教你本地部署清华大学的ChatGLM-6B模型——Windows+6GB显卡本地部署

今日推荐

  • 直接使用大模型通过界面来操作电脑和浏览器：谷歌发布Gemini 2.5 Computer Use 模型，重塑 AI 与界面交互能力，实测优秀~
  • StabilityAI发布实时文本生成图片大模型SDXL Turbo——生成一张图片可能只需要0.207秒
  • 吴恩达联合OpenAI推出免费的面向开发者的ChatGPT Prompt工程课程——ChatGPT Prompt Engineering for Developers
  • FrontierMath：AI大模型高级数学推理评测的新基准
  • 国产开源大模型再添重要玩家：BAAI发布开源可商用大模型Aquila
  • 断层领先！Google发布图像生成和编辑大模型Gemini 2.5 Flash Image Preview，火爆网络的Nano Banana背后真正的模型发布！
  • 深度学习之RNN模型
  • 基于Emebdding的检索增强生成效果不同模型对比：重排序十分有利于检索增强生成的效果