GT

GTE-Small

embedding模型

Gegeral Text Embeddings - Small

发布时间: 2023-08-07

489
模型参数(Parameters)
0.3
最高上下文长度(Context Length)
512
是否支持中文
不支持
推理能力(Reasoning)

模型基本信息

是否支持推理过程

不支持

最高上下文输入长度

512 tokens

最长输出结果
暂无数据
模型类型

embedding模型

发布时间

2023-08-07

模型预文件大小

66.8MB

开源和体验地址

代码开源状态
预训练权重开源
MIT License - 免费商用授权
GitHub 源码
暂无GitHub开源地址
Hugging Face
在线体验
暂无在线体验地址

官方介绍与博客

官方论文
DataLearnerAI博客
暂无介绍博客

API接口信息

接口速度(满分5分)
暂无数据
接口价格
暂无公开的 API 定价信息。

GTE-Small模型在各大评测榜单的评分

当前尚无可展示的评测数据。

发布机构

Gegeral Text Embeddings - Small模型解读

GTE全称Gegeral Text Embeddings,是阿里巴巴提出的一种文本嵌入大模型。该模型开源版本包含3:分别是3.3亿参数的Large版本、1.1亿参数的Base版本和0.3亿参数的small版本。


GTE模型支持的输入序列长度维512,输出的embedding维度是1024,对于超过序列长度的输入将会截断。GTE模型完全开源,开源协议是MIT,可以商用。不过仅支持英文。


模型参数量预训练数据量预训练方式微调数据量微调方式
GTE小型约3000万约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调
GTE基准约1.1亿约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调
GTE大型约3.3亿约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调


关注DataLearnerAI公众号

关注DataLearnerAI微信公众号,接受最新大模型资讯

DataLearnerAI WeChat