CMU的工程人工智能硕士学位的研究生Jean de Nyandwi近期发表了一篇博客,详细介绍了当前大语言模型主流架构Transformer的历史发展和当前现状。这篇博客非常长,超过了1万字,20多个图,涵盖了Transformer之前的架构和发展。此外,这篇长篇介绍里面的公式内容并不多,所以对于害怕数学的童鞋来说也是十分不错。本文是其翻译版本,欢迎大家仔细学习。
盒模型
贝叶斯统计中的计算方法简介
深度学习之Encoder-Decoder架构
XLNet基本思想简介以及为什么它优于BERT
使用sklearn做高斯混合聚类(Gaussian Mixture Model)
并行计算中如何提高处理效率——来自Dask的提示
多元正态(高斯)分布的贝叶斯推导(Bayesian Inference for the Multivariate Normal)
中文停用词表和英文停用词表
Stable Diffusion的Tensorflow/Keras实现及使用
LLaMA2 7B一样的性能但是由15倍的推理速度!Deci开源DeciLM-6B和DeciLM-6B-Instruct,发布一天上榜HuggingFace Trending
Dirichlet Distribution(狄利克雷分布)与Dirichlet Process(狄利克雷过程)
回归模型中的交互项简介(Interactions in Regression)
贝塔分布(Beta Distribution)简介及其应用
矩母函数简介(Moment-generating function)
使用R语言进行K-means聚类并分析结果
普通最小二乘法(Ordinary Least Squares,OLS)的详细推导过程
H5文件简介和使用
深度学习技巧之Early Stopping(早停法)
Wishart分布简介
最小二乘法(Least Squares)详细介绍