DataLearner 标志

GTE-Base

基础大模型

Gegeral Text Embeddings - Base

发布时间: 2023-08-07更新于: 2023-08-08浏览量: 685
Hugging Face对比
上下文长度
512
是否开源
开源
MIT License
参数 1.1亿
查看开源信息

GTE-Base is the mid-sized model in Alibaba DAMO Academy's General Text Embeddings family, released in August 2023. The roughly 110M-parameter English encoder embeds inputs of up to 512 tokens into 768-dimension vectors. It is released under the MIT License.

数据优先来自官方发布（GitHub、Hugging Face、论文），其次为评测基准官方结果，最后为第三方评测机构数据。 了解数据收集方法

GTE-Base

模型基本信息

推理过程
暂无数据
思考模式
不支持思考模式
上下文长度
512 tokens
最大输出长度
暂无数据
模型类型
基础大模型
输入/输出模态
暂无数据
发布时间
2023-08-07
模型文件大小
219MB
MoE架构
否
总参数 / 激活参数
1.1亿 / 不适用
知识截止
暂无数据
GTE-Base

开源和体验地址

代码开源状态
MIT License
预训练权重开源
MIT License - 免费商用授权
GitHub 源码
暂无
Hugging Face
huggingface.co/thenlper/gte-base
在线体验
暂无
GTE-Base

官方介绍与博客

GTE-Base

API接口信息

接口速度
暂无数据
暂无公开的 API 定价信息。
GTE-Base

评测结果

GTE-Base 当前已收录的代表性评测结果包括 MTEB English v2（8 / 10，得分 63.90）。 本页还汇总了参数规模、上下文长度与 API 价格，便于结合评测结果与部署约束一起判断模型适配度。

思考模式

文本嵌入综合

共 1 项评测
评测名称 / 模式
得分
排名/总数
MTEB English v2
常规模式
63.90
8 / 10
查看评测深度分析与其他模型对比
GTE-Base

发布机构

Gegeral Text Embeddings - Base

模型解读

GTE全称Gegeral Text Embeddings，是阿里巴巴提出的一种文本嵌入大模型。该模型开源版本包含3：分别是3.3亿参数的Large版本、1.1亿参数的Base版本和0.3亿参数的small版本。

GTE模型支持的输入序列长度维512，输出的embedding维度是1024，对于超过序列长度的输入将会截断。GTE模型完全开源，开源协议是MIT，可以商用。不过仅支持英文。

模型参数量预训练数据量预训练方式微调数据量微调方式
GTE小型约3000万约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调
GTE基准约1.1亿约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调
GTE大型约3.3亿约80亿个文本对无监督对比学习约300万个文本三元组多任务监督对比微调

DataLearner 官方微信

欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送

DataLearner 官方微信二维码