GTE-Large - Gegeral Text Embeddings - Large
模型详细情况和参数
GTE-Large
- 模型全称
- Gegeral Text Embeddings - Large
- 模型简称
- GTE-Large
- 模型类型
- embedding模型
- 发布日期
- 2023-08-07
- 预训练文件大小
- 670MB
- 是否支持中文（中文优化）
- 否
- 最高支持的上下文长度
- 512
- 模型参数数量（亿）
- 3.3
- 代码是否开源
- MIT License
- 预训练结果是否开源
- MIT License
- 预训练结果商用授权情况
- 免费商用授权
- 模型GitHub链接
- 暂无
- 模型HuggingFace链接
- https://huggingface.co/thenlper/gte-large
- 发布论文名（官方博客名）
- Towards General Text Embeddings with Multi-stage Contrastive Learning
- 论文地址（官方博客地址）
- https://arxiv.org/abs/2308.03281
- 基础模型
- 无基础模型
- 发布机构
Gegeral Text Embeddings - Large 简介
GTE全称Gegeral Text Embeddings，是阿里巴巴提出的一种文本嵌入大模型。该模型开源版本包含3：分别是3.3亿参数的Large版本、1.1亿参数的Base版本和0.3亿参数的small版本。
GTE模型支持的输入序列长度维512，输出的embedding维度是1024，对于超过序列长度的输入将会截断。GTE模型完全开源，开源协议是MIT，可以商用。不过仅支持英文。
| 模型 | 参数量 | 预训练数据量 | 预训练方式 | 微调数据量 | 微调方式 |
|---|---|---|---|---|---|
| GTE小型 | 约3000万 | 约80亿个文本对 | 无监督对比学习 | 约300万个文本三元组 | 多任务监督对比微调 |
| GTE基准 | 约1.1亿 | 约80亿个文本对 | 无监督对比学习 | 约300万个文本三元组 | 多任务监督对比微调 |
| GTE大型 | 约3.3亿 | 约80亿个文本对 | 无监督对比学习 | 约300万个文本三元组 | 多任务监督对比微调 |
欢迎大家关注DataLearner官方微信，接受最新的AI模型和技术推送
GTE-Large所属的领域
GTE-Large相关的任务
